Создание ИИ уровня человека — уже в этом десятилетии, но риски катастрофичны, предупреждает глава Google DeepMind

Искусственный общий интеллект (ИОИ), способный на все когнитивные функции человека, может быть создан уже через пять лет, однако путь к нему сопряжён с серьёзными рисками, заявил сооснователь и CEO Google DeepMind Демис Хассабис.

Глава одного из ведущих мировых AI-исследовательских центров предупредил, что движение к созданию ИОИ может повлечь за собой «катастрофические последствия», такие как кибератаки на энергетическую или водную инфраструктуру. По его оценке, ИОИ может стать реальностью в течение следующего десятилетия.

Выступая на саммите Axios AI+ в Сан-Франциско на прошлой неделе, Хассабис описал ИОИ как модель, демонстрирующую «все когнитивные способности» человека, включая изобретательность и творческое начало. Он отметил, что современные большие языковые модели остаются «неровными интеллектами» с пробелами в области логических рассуждений, долгосрочного планирования и непрерывного обучения. Однако, по его словам, с продолжающимся масштабированием и «одним или двумя крупными прорывами» ИОИ может вскоре стать реальностью.

При этом Хассабис признал, что период, предшествующий появлению ИОИ, с высокой вероятностью будет включать в себя ощутимые риски и «катастрофические исходы». «Это, вероятно, уже почти происходит сейчас… пусть пока и не с помощью очень сложного ИИ», — сказал он, назвав кибератаки на критическую инфраструктуру «наиболее очевидным уязвимым вектором». Он добавил, что злоумышленники, автономные агенты и системы, которые могут «отклоняться» от заданных целей, требуют серьёзного противодействия. «Вероятность того, что продвинутые системы смогут “перепрыгнуть через ограждение”, не равна нулю», — подчеркнул он.

Опасения Хассабиса перекликаются с более широкими предупреждениями в технологической индустрии. В октябре было опубликовано открытое письмо, подписанное ведущими технологами и общественными деятелями, в котором утверждается, что «сверхразумные» системы могут угрожать свободе или даже существованию человечества. Авторы письма призвали к глобальному запрету на разработку ИИ до тех пор, пока не будут обеспечены гарантии его безопасности. Среди подписавшихся — сооснователь Apple Стив Возняк, пионеры ИИ Джеффри Хинтон и Йошуа Бенжио, основатель Virgin Group Ричард Брэнсон, а также видные политические и культурные фигуры.

Другие, однако, придерживаются более оптимистичного взгляда. Илон Маск заявил в прошлом месяце, что развитие ИИ и робототехники может сделать работу «необязательной» в течение 10–20 лет, и предсказал, что валюта станет «неактуальной» в экономике, управляемой ИИ. При этом он отметил, что для наступления такого будущего необходим значительный технологический прогресс. Таким образом, мир стоит на пороге эпохального выбора: ускорить гонку за создание сверхразума, несущего как беспрецедентные возможности, так и экзистенциальные угрозы, или же притормозить и выработать новые международные нормы и системы контроля. Ответ на этот вопрос определит не только развитие технологий, но и саму судьбу человеческой цивилизации.