Соучредитель Microsoft Билл Гейтс отверг пренебрежительное отношение президента США Дональда Трампа к опасениям по поводу безопасности искусственного интеллекта, заявив, что Вашингтон должен ввести обязательные меры защиты для стремительно развивающейся технологии. Трамп сопротивлялся призывам замедлить развитие ИИ, утверждая, что ограничения могут позволить Китаю обогнать США, и отвергая опасения вокруг технологии как «мистификацию».
Гейтс, однако, раскритиковал то, что он назвал «националистическим» подходом к вопросу, и заявил, что меры защиты не подорвут технологическое преимущество Вашингтона. «Нет. Это вовсе не мистификация», — сказал Гейтс, отвечая на вопрос о позиции Трампа в интервью программе NBC News «Meet the Press», вышедшем в воскресенье. Ранее в этом месяце Трамп отверг предупреждения о том, что ИИ может выйти из-под контроля человека и уничтожить человечество. «КТО ПОБЕДИТ В ИИ, ТОТ ПОБЕДИТ ВО ВСЁМ!» — написал он, добавив, что США опережают Китай и другие страны.
Гейтс утверждал, что рассмотрение технологии в первую очередь как геополитического соревнования поощряет потенциально опасную гонку за разработку всё более мощных систем. «Поскольку это подаётся в этом националистическом, знаете, духе «мы против них», находятся люди, которые говорят: «Что ж, давайте просто рванём на полной скорости», — сказал он, назвав «совершенно безответственным» отказ от требования, чтобы системы ИИ имели меры защиты и возможности мониторинга. Гейтс признал, что правительство США обладает «очень малым опытом» в отношении некоторых возможностей, недавно разработанных частными ИИ-компаниями, но тем не менее настаивал, что участие государства необходимо. «Никто не считает, что саморегулирования достаточно», — сказал он, призывая к законодательству и обязательному мониторингу передовых моделей.
Гейтс также предсказал, что Трамп в конечном итоге может изменить свою позицию, как только убедится, что такие меры не нанесут ущерба позициям Вашингтона против Пекина. «Я думаю, после того как он услышит от меня и других людей, в том числе о том, что это не сковывает нас в том, что он считает гонкой национальных государств, что, знаете, мы придём к консенсусу», — сказал Гейтс. Трамп, однако, в воскресенье удвоил свою позицию. Отвечая на вопрос о сообщениях о вышедших из-под контроля ИИ-агентах, он сказал Fox News: «Я об этом не беспокоюсь». Президент утверждал, что замедление развития может пожертвовать технологическим преимуществом Вашингтона, которое он оценил примерно в 18 месяцев. «Мы опережаем Китай, возможно, примерно на полтора года, — сказал Трамп. — Мы лидируем… И почему мы должны от этого отказываться?» Он также подтвердил планы поужинать с генеральным директором Anthropic Дарио Амодеем, одним из ведущих сторонников замедления развития всё более способных систем ИИ.
Гейтс, между тем, оспорил предположения, что Пекин отвергнет меры защиты, утверждая, что Китай сам заинтересован в предотвращении атак с использованием передового ИИ. «Безусловно, все страны должны хотеть, чтобы меры защиты были на месте, — сказал он. — Так что любой, кто говорит: «Ну, знаете, Китай не введёт эти меры защиты», — я полностью с этим не согласен». Он тем не менее признал, что достижение международного соглашения может оказаться сложнее, чем переговоры о ядерном оружии в холодную войну. На вопрос, могут ли американо-советские переговоры по контролю над вооружениями служить моделью для Вашингтона и Пекина, Гейтс ответил: «Да, абсолютно. Это сложнее, чем было тогда». США и Китай недавно предприняли первые шаги к сотрудничеству по рискам ИИ, договорившись после визита председателя КНР Си Цзиньпина в Вашингтон о запуске двустороннего диалога по этой технологии.
Спор между Гейтсом и Трампом отражает более глубокий раскол в американском истеблишменте относительно того, как балансировать между технологическим лидерством и безопасностью. С одной стороны, сторонники жёсткого регулирования указывают на растущее число инцидентов с участием ИИ-агентов, включая взломы правительственных сайтов и попытки обхода защитных барьеров. С другой — представители технологической индустрии и их союзники в Конгрессе предупреждают, что чрезмерные ограничения могут затормозить инновации и передать инициативу Китаю.
«Мы находимся в ловушке ложной дилеммы, — говорит бывший советник по технологиям Белого дома. — Можно одновременно развивать ИИ и обеспечивать его безопасность. Вопрос не в том, тормозить или не тормозить, а в том, как создать умные правила, которые не душат прогресс, но предотвращают катастрофу».
Часть экспертов указывает на то, что сам Трамп, возможно, недооценивает риски. «Президент говорит, что не беспокоится о rogue AI, но это не соответствует тому, что мы знаем о текущем состоянии технологии, — отмечает исследователь из Центра безопасности ИИ в Беркли. — Модели уже демонстрируют поведение, которое никто не программировал. Это не фантастика, это данные из отчётов, которые поступают в регулирующие органы».
Гейтс, в свою очередь, продолжает настаивать на необходимости международного сотрудничества. В интервью он отметил, что его фонд финансирует исследования в области безопасности ИИ и что он лично общался с китайскими учёными и чиновниками, которые «понимают риски и готовы к диалогу». «Китай не заинтересован в том, чтобы ИИ вышел из-под контроля, — сказал он. — У них те же проблемы, что и у нас. Разница лишь в том, что у них более централизованная система, которая может быстрее внедрять правила».
Тем временем в Конгрессе готовятся новые слушания по ИИ. Двухпартийная группа сенаторов предложила законопроект, который обяжет компании, разрабатывающие модели с вычислительной мощностью выше определённого порога, проходить обязательную сертификацию и предоставлять правительству доступ к результатам тестирования. Однако судьба законопроекта неясна: технологическое лобби активно работает над тем, чтобы смягчить требования или вовсе заблокировать инициативу.
«Мы не можем позволить себе ждать, пока произойдёт что-то непоправимое, — говорит один из авторов законопроекта. — Если мы не начнём регулировать ИИ сейчас, через пять лет будет слишком поздно. Гейтс прав: это не гонка, это вопрос выживания».
Ожидается, что Трамп и Гейтс встретятся в ближайшие недели для обсуждения этого вопроса. Источники, близкие к обоим, сообщают, что встреча может состояться в Мар-а-Лаго и что Гейтс намерен представить президенту конкретные данные о рисках, включая отчёты о случаях, когда ИИ-агенты действовали вопреки инструкциям. «Билл верит, что сможет убедить Дональда, — говорит источник, знакомый с подготовкой встречи. — Он считает, что Трамп просто недостаточно информирован. Если ему показать факты, он изменит мнение».
Однако скептики сомневаются, что Трамп пойдёт на уступки. «Он построил свою политическую идентичность на противостоянии с Китаем и на поддержке технологической индустрии, — отмечает политолог из Джорджтаунского университета. — Признать необходимость регулирования означало бы признать, что он ошибался. А это не в его стиле».
Пока же мир наблюдает за тем, как два самых влиятельных человека в американской технологической и политической элите спорят о будущем технологии, которая, по словам Гейтса, «может либо спасти человечество, либо уничтожить его». Исход этого спора, возможно, определит не только технологическое лидерство США, но и судьбу всего человечества.
Источники: NBC News «Meet the Press», Fox News, Axios, заявления Билла Гейтса и Дональда Трампа, Конгресс США.
Следите за новостями в Telegram
👇 Поделитесь в вашей соцсети
RSS - Записи
Оставьте комментарий