Искусственный интеллект на скамье подсудимых: немецкий суд признал Google ответственным за ложь его нейросети

Решение немецкого суда ставит под сомнение многолетний аргумент техногигантов о том, что ответы, генерируемые искусственным интеллектом, являются лишь компиляцией стороннего контента. Судьи постановили: Google может нести прямую ответственность за некорректные данные, созданные функцией AI Overview, и этот вердикт способен стать прецедентом, определяющим правовой статус ИИ-контента во всей Европе. В пятницу Google заявил, что намерен обжаловать это решение.

Традиционно такие платформы, как Google, Facebook и X, настаивали на том, что они лишь размещают или отображают сторонний контент, а не публикуют его, что ограничивает их ответственность. Кроме того, они утверждали, что предупреждения о возможных неточностях должны защищать их от ответственности за ошибки в материалах, сгенерированных ИИ.

Однако этой весной судьям Мюнхенского регионального суда пришлось вынести решение по двум искам, поданным против интернет-гиганта местными издателями. Компании, названия которых не разглашаются, утверждали, что функция AI Overview — запущенный в прошлом году ИИ-генератор кратких сводок, который появляется над традиционными поисковыми результатами, — ложно связала их с мошенническими схемами, подписками-ловушками и незаконными методами ведения бизнеса. Согласно искам, искусственный интеллект смешал информацию о не связанных между собой компаниях и создал вводящие в заблуждение ассоциации, которые отсутствовали в исходных источниках.

Согласно вердикту, опубликованному на этой неделе изданием The Decoder, 26-я Гражданская палата Мюнхенского регионального суда, специализирующаяся на законодательстве о прессе и диффамации, 28 мая вынесла предварительное судебное решение, согласно которому Google несёт ответственность за утверждения, сгенерированные его AI Overviews. Судьи заявили, что, в отличие от традиционного поисковика, который отображает ссылки на сторонний контент, ИИ Google производит «независимые, новые и содержательные утверждения», что делает контент непосредственно относимым к самой компании.

Судьи также отклонили утверждение Google о том, что пользователи понимают возможность неточностей ИИ и способны проверить информацию самостоятельно, охарактеризовав AI Overviews как «самодостаточное заявление с независимо воспринимаемым содержанием».

Суд постановил, что, поскольку Google единолично контролирует алгоритмы, лежащие в основе AI Overviews, компания «должна нести ответственность» за ложные и порочащие честь результаты. Google предписано прекратить распространение порочащих сведений и оплатить 80% судебных издержек, в то время как на каждого из истцов приходится по 10%.

Google выразил несогласие с решением.

«Мы вкладываем значительные ресурсы в качество AI Overviews, чтобы гарантировать, что подавляющее большинство ответов предоставляют точную информацию, и они разработаны так, чтобы отражать информацию, существующую в интернете», — заявил представитель компании в комментарии для СМИ.

В пятницу компания сообщила Reuters, что планирует подать апелляцию, настаивая на том, что в данном случае речь идёт о «специфических и узких ошибках», а не о фундаментальном принципе работы AI Overviews.

Эффект домино для Кремниевой долины

Юридические эксперты предупреждают: последствия этого вердикта могут выйти далеко за пределы Германии. Если решение устоит в апелляционных инстанциях, оно создаст прецедент, приравнивающий сгенерированные ИИ-сводки к контенту, за который технологическая компания отвечает как издатель. Это означало бы радикальный сдвиг в регулировании всей индустрии искусственного интеллекта.

До сих пор технологические платформы успешно укрывались за «щитом» Раздела 230 американского Акта о благопристойности в коммуникациях и его европейских аналогов, настаивая на том, что они — лишь нейтральные посредники между пользователем и информацией. Однако AI Overviews, как и аналогичные генеративные функции конкурентов, не просто индексируют чужие тексты, а синтезируют их, создавая принципиально новый продукт. Мюнхенский суд, по сути, первым провёл юридическую границу между «поиском» и «публикацией», и провёл её не в пользу Кремниевой долины.

Симптоматично, что вердикт прозвучал на фоне масштабного наступления Брюсселя на американских технологических гигантов. По данным CNBC, с начала 2024 года Meta, Google и Apple уже выплатили или были оштрафованы примерно на 7 миллиардов долларов за нарушения антимонопольного законодательства и правил конфиденциальности в ЕС. Ранее в этом месяце появилась информация, что Европарламент намерен заменить Google на поисковую систему, созданную при поддержке Франции и Германии, в качестве стандартного инструмента на внутренних компьютерах, ссылаясь на необходимость «цифрового суверенитета». Критики, впрочем, расценивают этот шаг как форму цифрового протекционизма.

Вашингтон неоднократно обвинял Брюссель в несправедливом преследовании американских технологических компаний. Теперь же мюнхенский вердикт добавляет в эту напряжённую трансантлантическую дискуссию ещё один острый угол: вопрос о том, кто именно — разработчик алгоритма или пользователь — несёт ответственность за слова, произнесённые машиной.

Источник: The Decoder, Reuters, CNBC