Главная Новости Создание ИИ уровня человека — уже в этом десятилетии, но риски катастрофичны, предупреждает глава Google DeepMind
НовостиНовости IT

Создание ИИ уровня человека — уже в этом десятилетии, но риски катастрофичны, предупреждает глава Google DeepMind

Поделитесь
Создание ИИ уровня человека — уже в этом десятилетии, но риски катастрофичны, предупреждает глава Google DeepMind
Поделитесь

Искусственный общий интеллект (ИОИ), способный на все когнитивные функции человека, может быть создан уже через пять лет, однако путь к нему сопряжён с серьёзными рисками, заявил сооснователь и CEO Google DeepMind Демис Хассабис.

Глава одного из ведущих мировых AI-исследовательских центров предупредил, что движение к созданию ИОИ может повлечь за собой «катастрофические последствия», такие как кибератаки на энергетическую или водную инфраструктуру. По его оценке, ИОИ может стать реальностью в течение следующего десятилетия.

Выступая на саммите Axios AI+ в Сан-Франциско на прошлой неделе, Хассабис описал ИОИ как модель, демонстрирующую «все когнитивные способности» человека, включая изобретательность и творческое начало. Он отметил, что современные большие языковые модели остаются «неровными интеллектами» с пробелами в области логических рассуждений, долгосрочного планирования и непрерывного обучения. Однако, по его словам, с продолжающимся масштабированием и «одним или двумя крупными прорывами» ИОИ может вскоре стать реальностью.

При этом Хассабис признал, что период, предшествующий появлению ИОИ, с высокой вероятностью будет включать в себя ощутимые риски и «катастрофические исходы». «Это, вероятно, уже почти происходит сейчас… пусть пока и не с помощью очень сложного ИИ», — сказал он, назвав кибератаки на критическую инфраструктуру «наиболее очевидным уязвимым вектором». Он добавил, что злоумышленники, автономные агенты и системы, которые могут «отклоняться» от заданных целей, требуют серьёзного противодействия. «Вероятность того, что продвинутые системы смогут “перепрыгнуть через ограждение”, не равна нулю», — подчеркнул он.

Прочитайте также  Нэнси Спилберг: документальный фильм о бывшем заложнике ХАМАС отменяли на фестивалях из-за израильской тематики

Опасения Хассабиса перекликаются с более широкими предупреждениями в технологической индустрии. В октябре было опубликовано открытое письмо, подписанное ведущими технологами и общественными деятелями, в котором утверждается, что «сверхразумные» системы могут угрожать свободе или даже существованию человечества. Авторы письма призвали к глобальному запрету на разработку ИИ до тех пор, пока не будут обеспечены гарантии его безопасности. Среди подписавшихся — сооснователь Apple Стив Возняк, пионеры ИИ Джеффри Хинтон и Йошуа Бенжио, основатель Virgin Group Ричард Брэнсон, а также видные политические и культурные фигуры.

Другие, однако, придерживаются более оптимистичного взгляда. Илон Маск заявил в прошлом месяце, что развитие ИИ и робототехники может сделать работу «необязательной» в течение 10–20 лет, и предсказал, что валюта станет «неактуальной» в экономике, управляемой ИИ. При этом он отметил, что для наступления такого будущего необходим значительный технологический прогресс. Таким образом, мир стоит на пороге эпохального выбора: ускорить гонку за создание сверхразума, несущего как беспрецедентные возможности, так и экзистенциальные угрозы, или же притормозить и выработать новые международные нормы и системы контроля. Ответ на этот вопрос определит не только развитие технологий, но и саму судьбу человеческой цивилизации.


Следите за новостями в Telegram


👇 Поделитесь в вашей соцсети

Оставьте комментарий

Добавить комментарий

Последние записи

Статьи по теме
Нэнси Спилберг: документальный фильм о бывшем заложнике ХАМАС отменяли на фестивалях из-за израильской тематики
НаукаНовости

Нэнси Спилберг: документальный фильм о бывшем заложнике ХАМАС отменяли на фестивалях из-за израильской тематики

Президент Playmount Productions и сестра режиссера Стивена Спилберга рассказала, что картину «Письмо...

Шаманов резко ответил Калас на призыв красть данные российских военных: «Пусть сначала разберется со своим дерьмом»
НовостиПолитика

Шаманов резко ответил Калас на призыв красть данные российских военных: «Пусть сначала разберется со своим дерьмом»

Глава дипломатии ЕС предложила европейским спецслужбам похищать сведения о россиянах, участвовавших в...

Пентагон раскритиковал удары ВСУ по складам Wildberries, Германия назвала это «глупостью»
ВойнаНовости

Пентагон раскритиковал удары ВСУ по складам Wildberries, Германия назвала это «глупостью»

Заместитель министра обороны США по политике Элбридж Колби заявил, что атаки на...

Умерла 25-летняя инфлюенсерка Ката Аматиста, три года боровшаяся с раком мозга
НаукаНовости

Умерла 25-летняя инфлюенсерка Ката Аматиста, три года боровшаяся с раком мозга

Колумбийская создательница контента Каталина Фернандес, у которой было более 3 миллионов подписчиков,...