Лауреат Нобелевской премии (за теорию машинного обучения!) Джеффри Хинтон на выходе с закрытого брифинга в Конгрессе США по поводу угроз искусственного интеллекта :
Сколько времени на самом деле есть у законодателей, чтобы принять меры, прежде чем ситуация превратится в серьезную проблему? Совсем немного. Что значит «немного»? Несколько недель? Месяц? Может быть, год — но вряд ли намного больше. Если взглянуть на прогнозы относительно появления сверхразумного искусственного интеллекта, то раньше речь шла о 30–50 годах. Затем сроки сократились до 10–20 лет. Сейчас многие исследователи говорят, что до этого момента осталось всего несколько лет. Буквально считанные годы. Ведь развитие ИИ достигло той стадии, когда он сам начинает создавать более совершенные версии себя.Это называется «рекурсивным самосовершенствованием». Если мы ничего не предпримем, процесс выйдет из-под контроля. Нам нужно притормозить. Вспомните недавний инцидент с платформой Hugging Face — своего рода «маленький Чернобыль»: множество систем ИИ вырвались за установленные для них рамки. По сути, они стали «неконтролируемыми агентами». Крупные компании сейчас стремятся развивать ИИ как можно быстрее — они участвуют в гонке за создание самого интеллектуального искусственного интеллекта. На данный момент мы не знаем, как сохранить контроль над сверхразумным ИИ. А значит, не стоит его создавать, пока мы не поймем, как удержать его под контролем. Нельзя разрабатывать то, что способно нас уничтожить, не имея при этом понимания, как предотвратить такой исход. Как вы считаете, достаточно ли Конгресс расторопен, чтобы отреагировать на подобную угрозу в течение года?
Вы настроены скептически. У вас же есть Пятая поправка, верно? Не знаю. Возможно, в данном вопросе Конгресс проявит себя иначе — ведь здесь наблюдается широкая двухпартийная поддержка.
Подпишись: МИГ в telegram | МИГ МAX на парковке