Байден созывает советников, чтобы решить будущее ИИ

Сообщается, что встреча была посвящена обеспечению «надлежащих мер безопасности» в отношении популярных технологий, таких как ChatGPT.

Президент США Джо Байден во вторник созвал Совет советников президента по науке и технологиям, чтобы обсудить «риски и возможности», присущие искусственному интеллекту. По данным Reuters, хотя президент не стал называть ИИ опасным, он призвал технологические компании принять меры безопасности, чтобы предотвратить причинение им вреда.

«С моей точки зрения, технологические компании обязаны убедиться, что их продукты безопасны, прежде чем публиковать их», — сказал Байден. Однако, когда репортер спросил, действительно ли ИИ опасен, он отступил, ответив: «Это еще предстоит выяснить. Может быть.»

Хотя ИИ может помочь людям в решении «очень сложных проблем, таких как болезни и изменение климата», сказал Байден, «он также должен устранять потенциальные риски для нашего общества, нашей экономики и нашей национальной безопасности».

Цель встречи, согласно заявлению Белого дома, состояла в том, чтобы «обсудить важность защиты прав и безопасности для обеспечения ответственных инноваций и соответствующих гарантий». Сообщается, что президент также призвал Конгресс принять закон о конфиденциальности, ограничивающий сбор личных данных, запрещающий рекламу, направленную на детей, и уделяющий приоритетное внимание здоровью и безопасности при разработке продуктов.

На прошлой неделе Центр искусственного интеллекта и цифровой политики обратился в Федеральную торговую комиссию с просьбой запретить OpenAI, разработчику ChatGPT, выпускать новые коммерческие выпуски GPT-4, движка популярного чат-бота, назвав это программное обеспечение «предвзятым, вводящим в заблуждение и представляющим риск для неприкосновенность частной жизни и общественная безопасность».

Группа технической этики указала, что модель большого языка не только раскрывала историю личных чатов пользователей другим пользователям, но и что исследователи могли реквизировать учетные записи незнакомцев, просматривать их истории чатов и даже получать доступ к их платежным данным без их ведома.

В прошлом месяце более 1000 технических руководителей, исследователей ИИ и других экспертов в этой области подписали открытое письмо с требованием ввести шестимесячный мораторий на «гигантские эксперименты с ИИ» до тех пор, пока правительства и разработчики не разработают набор общих протоколов безопасности и средств контроля для предотвращения быстро развивающаяся технология, которая не может взять на себя ответственность за свою судьбу в потенциальной катастрофе, положившей конец цивилизации.

Италия запретила ChatGPT в прошлом месяце, сославшись на соображения конфиденциальности, а бельгийская вдова недавно обвинила конкурента ChatGPT с открытым исходным кодом в самоубийстве своего мужа после того, как у него установились отношения с ним. США еще не наложили никаких обязательных ограничений на разработку ИИ.