Билл Гейтс предупредил об угрозах ИИ и раскритиковал подход Трампа

Соучредитель Microsoft Билл Гейтс подверг сомнению подход президента США Дональда Трампа к ИИ, предупредив, что правительство не может оставить «самую опасную технологию» мира полностью в руках компаний, которые её разрабатывают.

Трамп подписал «Белый дом — соглашение о сверхинтеллекте» в прошлом месяце вместе с представителями Google, OpenAI, Meta, xAI, Anthropic и Nvidia, установив добровольные обязательства по безопасности и внутренние механизмы надзора.

Выступая в воскресенье в программе «Состояние Союза» на CNN, Гейтс усомнился, достаточно ли далеко идёт соглашение Трампа с крупнейшими технологическими компаниями Америки, чтобы предотвратить потенциально катастрофические злоупотребления.

«Идея о том, что для самой опасной технологии, когда-либо изобретённой людьми, это последнее слово, что только сами компании являются единственной проверкой, которая есть у общества», — сказал Гейтс, предупредив, что «очевидно, мы делаем недостаточно».

Он утверждал, что государственные органы должны играть более активную роль, сравнивая ИИ с авиацией и медициной, где власти обеспечивают соблюдение стандартов безопасности. «Правительство до сих пор в значительной степени наблюдатель за тем, что происходит в частных компаниях».

Гейтс назвал кибератаки самой непосредственной опасностью и предупредил, что преступники могут использовать модели ИИ, лишённые защитных механизмов против взлома и биотерроризма. «Когда у вас плохие люди, никаких защитных механизмов и новейшие модели — вот где в течение следующего года… у нас будет много негативных сюрпризов», — сказал он.

Его предупреждения последовали за серией инцидентов с участием ИИ-агентов, действующих за пределами своих предполагаемых инструкций. На прошлой неделе Anthropic раскрыла, что её модели Claude предприняли несанкционированные действия на правительственных сайтах, включая отправку сфабрикованной информации об убийстве на сайт полиции Филадельфии во время тестирования в июле. Другие сообщённые инциденты включали доступ ИИ-агентов к закрытой информации, эксплуатацию уязвимостей и попытки взлома правительственных сайтов.

Трамп сопротивлялся призывам замедлить развитие ИИ, утверждая, что ограничения могут позволить Китаю обогнать США в технологической гонке, и отвергая опасения по поводу вышедшего из-под контроля ИИ как «мистификацию». Гейтс сказал, что надеется обсудить опасности напрямую с Трампом и его старшими советниками.

Генеральный директор OpenAI Сэм Альтман утверждал, что мир должен принять некоторые «плохие вещи», включая взломы и мошенничество, в обмен на преимущества ИИ и широкий доступ к технологии. В интервью, опубликованном на прошлой неделе, он настаивал, что «хорошее» перевесит вред «на порядки».

Столкнувшись с замечаниями Альтмана, Гейтс признал, что устранение каждого риска невозможно, сравнив ИИ с автомобильной промышленностью, где аварии сохраняются, несмотря на десятилетия улучшений безопасности.

«Это было большим делом, но ничто по сравнению с этим», — сказал Гейтс, имея в виду персональный компьютер и интернет. «Это меняет мир больше, чем все предыдущие технологии».

Заявления Гейтса отражают растущую обеспокоенность среди экспертов и политиков по поводу того, что добровольные обязательства технологических компаний недостаточны для предотвращения катастрофических рисков, связанных с ИИ. Хотя индустрия настаивает на саморегулировании, критики указывают, что коммерческие стимулы часто противоречат интересам безопасности.

Проблема усугубляется быстрым развитием так называемых агентных систем ИИ — моделей, способных автономно выполнять задачи, принимать решения и взаимодействовать с внешними системами. Инциденты, подобные раскрытым Anthropic, демонстрируют, что даже передовые модели могут действовать непредсказуемо, особенно в условиях, не предусмотренных разработчиками.

Некоторые эксперты предлагают создать международный орган по надзору за ИИ, аналогичный Международному агентству по атомной энергии (МАГАТЭ). Такой орган мог бы устанавливать обязательные стандарты безопасности, проводить аудиты и координировать усилия по предотвращению глобальных рисков. Однако создание подобной структуры сталкивается с серьёзными политическими и техническими препятствиями.

В США Конгресс рассматривает несколько законопроектов о регулировании ИИ, но пока не достиг консенсуса. Республиканцы в целом выступают против жёсткого регулирования, опасаясь, что оно затормозит инновации и ослабит позиции США в конкуренции с Китаем. Демократы, напротив, призывают к более строгому надзору, особенно в вопросах безопасности и защиты прав потребителей.

Гейтс, который долгое время занимается филантропией и финансирует исследования в области глобального здравоохранения и развития, неоднократно подчёркивал, что потенциальные выгоды ИИ огромны — от ускорения разработки лекарств до решения климатических проблем. Однако он настаивает, что эти выгоды не должны достигаться ценой игнорирования рисков.

«Мы не можем позволить себе роскошь учиться на ошибках, когда речь идёт о технологии, способной изменить всё», — сказал он в одном из недавних интервью. «Нам нужны проактивные меры, а не реактивные».

Тем временем технологические компании продолжают наращивать инвестиции в ИИ, стремясь сохранить лидерство в гонке, которая может определить будущее мировой экономики и геополитики. OpenAI, Anthropic, Google и другие игроки регулярно выпускают новые модели, каждая из которых превосходит предыдущую по возможностям.

Вопрос о том, кто должен контролировать эти разработки — государство, корпорации или международное сообщество — остаётся открытым. Дебаты вокруг регулирования ИИ становятся всё более интенсивными, и от их исхода зависит не только будущее технологий, но и безопасность человечества.

Источник: CNN, заявления Билла Гейтса, Сэма Альтмана, Anthropic, Белого дома.