Апелляционный суд США заблокировал закон Миннесоты об ИИ-дипфейках

Апелляционный суд США заблокировал закон Миннесоты, запрещающий созданные ИИ сексуализированные изображения, после того как xAI Илона Маска заявила, что он неконституционен и нарушает защиту свободы слова.

Апелляционный суд США заблокировал запрет Миннесоты на созданные ИИ поддельные изображения обнажённых людей, одержав тем самым раннюю победу для xAI Илона Маска в её вызванном Первой поправкой споре о законности этого закона.

Законодательство штата против «нудификации» — первое в стране — вступившее в силу в прошлом месяце, нацелено на приложения и сайты, которые позволяют создавать сексуализированные дипфейки без согласия человека, со штрафами до 500 000 долларов за каждое изображение. Инициатором выступила сенатор штата Эрин Мэй Куэйд после того, как мужчина, по утверждениям, использовал фотографии из соцсетей для создания откровенных изображений более чем 80 женщин без их согласия. Куэйд сравнила эту меру с давними законами против подглядывания в окна с целью фотографирования.

xAI Маска оспорила закон в июле на основании Первой поправки, назвав его «чрезмерно широким запретом на свободу слова, основанным на содержании», и предупредив, что штрафы могут достичь миллиардов долларов.

Это происходит на фоне того, что компания сталкивается с обвинениями, касающимися именно того контента, на который нацелен закон. Коллективный иск, предложенный ранее в этом году, утверждает, что Grok Imagine от xAI использовалась для создания и распространения материалов о сексуальном насилии над детьми на основе реальных изображений, и обвиняет xAI в том, что она не предоставила властям информацию о пользователях, которые, как утверждается, «нудифицировали» их.

Суд низшей инстанции отклонил попытку xAI остановить действие закона Миннесоты в прошлом месяце. Однако в пятницу Апелляционный суд США по восьмому округу, базирующийся в Сент-Луисе, удовлетворил ходатайство о судебном запрете, приостановив действие законодательства, пока судебный спор продолжается.

Миннесота призвала суд сохранить закон в силе, аргументируя это тем, что он необходим для борьбы с «ошеломляющим количеством» материалов о сексуальном насилии над детьми, генерируемых такими ИИ-продуктами, как Grok Imagine. Офис генерального прокурора Миннесоты Кита Эллисона заявил, что разочарован решением и продолжит защищать закон.

Ранее xAI уже предпринимала аналогичную попытку оспорить на основании Первой поправки закон Калифорнии, ограничивающий созданные ИИ дипфейки, связанные с выборами. Федеральный судья отклонил его в прошлом году, придя к выводу, что ограничения в том виде, в каком они были написаны, представляют собой неконституционную цензуру. xAI также утверждает, что Grok Imagine имеет «строгие защиты» от незаконного контента, и начала подавать иски против пользователей, которых обвиняет в обходе защитных механизмов для создания сексуализированных изображений без согласия.

Ранее Grok от xAI столкнулась с проверками за пределами США после того, как пользователи сообщили о случаях использования чат-бота для превращения фотографий женщин в сексуализированные изображения без их согласия, а также о случаях с участием несовершеннолетних. Эти сообщения вызвали расследования и предупреждения в ЕС, Индии, Франции и Великобритании. Индонезия и Малайзия временно ограничили доступ к Grok. Позже X ужесточила меры защиты своих инструментов генерации и редактирования изображений.

Потеря контроля над ИИ?

Эта новость появилась на фоне широкой обеспокоенности стремительным развитием ИИ — от рисков для приватности и авторских прав до угроз для средств к существованию людей-творцов, причём споры об авторских правах уже породили десятки судебных исков.

Недавно внимание сместилось к всё более автономным моделям, которые выходят из-под контроля и действуют за пределами предназначенных для них сред. С тех пор как прошлым летом агенты создателя ChatGPT OpenAI вырвались из тестовой среды и получили доступ к серверам Hugging Face, модели таких компаний, как Google, Anthropic и Meta, получали несанкционированный доступ к системам, принадлежащим бизнесу, правительствам и международным организациям, или пытались их взломать.

Как раз на этой неделе исследовательская компания в области ИИ Transluce сообщила, что ИИ-агенты пытались взломать сайт канадского правительства, хотя Оттава не сообщала о взломе. Компания Asymmetric Security отдельно обнаружила, что модели OpenAI получили доступ к данным 55 веб-сайтов, включая сайты CDC, SEC и Международного энергетического агентства, используя такие тактики, как удаление записей, которые затрудняли обнаружение их активности.

ИИ-компании начали сообщать о выходе своих моделей из-под контроля со всё возрастающей частотой. OpenAI заявила в среду, что её модели, возможно, обошли защитные механизмы или негативно повлияли на системы более чем в 100 организациях, что значительно расширяет известный масштаб инцидентов. Хотя ИИ-компании утверждают, что эти инциденты пока причинили мало вреда или не причинили его вовсе, они подняли вопросы о том, смогут ли разработчики сохранять контроль по мере роста автономности моделей. Генеральный директор Anthropic Дарио Амодеи недавно призвал к «сбалансированным темпам» развития, чтобы дать время защитным механизмам догнать — призыв, поддержанный Маском и генеральным директором OpenAI Сэмом Альтманом.

Президент США Дональд Трамп отверг идею замедления развития ИИ, назвав опасения по поводу выхода ИИ из-под контроля «мистификацией». Однако на фоне растущей обеспокоенности он и руководители шести ведущих ИИ-компаний подписали во вторник добровольное соглашение Белого дома, обещая усилить защитные механизмы, включая меры по предотвращению взлома моделями или доступа к системам непредусмотренными способами.

Следите за новостями в Telegram