Индия нацелена на борьбу с глубокими фейками: новые правила для соцсетей

Нью-Дели стремится гарантировать, что компании социальных медиа будут маркировать контент, созданный с помощью искусственного интеллекта (ИИ), в рамках усилий по борьбе с глубокими фейками.

Индийское правительство предложило проект поправок к правилам информационных технологий, требующих от компаний ИИ и соцсетей обозначать контент, созданный искусственным интеллектом. Как и недавние нормы, введенные в Европейском Союзе и Китае, предлагаемые меры нацелены на решение проблемы растущего использования технологий ИИ, которые могут нанести ущерб пользователям, распространить дезинформацию, повлиять на выборы и позволить выдавать себя за других.

«Недавние случаи virality глубоких фейков с аудио, видео и синтетическими медиа продемонстрировали потенциал генеративного ИИ создавать убедительные ложные данные, изображая людей в действиях или высказываниях, которых они никогда не произносили,»— заявило министерство в своем заявлении. «Такой контент может быть использован как оружие для распространения дезинформации, порчи репутации, манипуляций или влияния на выборы, а также для совершения финансового мошенничества.»

В проекте поправки «синтетически сгенерированным контентом» определяется информация, созданная или измененная с помощью компьютеров или алгоритмов, чтобы выглядеть аутентичной или истинной.

После общественных обсуждений и парламентских дебатов министерство разработало поправки к правилам ИТ 2021 года, которые усиливают регулирование социальных медиа и других онлайн-сервисов, особенно тех, у кого более 5 миллионов пользователей, а также тех, которые позволяют создание контента на основе ИИ.

Новые правила теперь требуют, чтобы платформы маркировали контент, созданный ИИ, со знаками, охватывающими как минимум «10% поверхности визуального дисплея» или первых 10% длительности аудиоклипа, что возлагает дополнительные обязанности на такие компании, как OpenAI, Meta, X и Google.

Такой случай произошел в мае, когда главный советник временного правительства Бангладеш, Мухаммад Юнус, обвинил индийские СМИ в «распространении ложной и вводящей в заблуждение пропаганды» касательно предполагаемой трещины между его администрацией и военными.

Правительство призывает общественность и индустрию предоставить свои предложения до 6 ноября.