ЕС регулирует ИИ

Чат-боты и генераторы дипфейков должны маркировать свои творения и делиться данными о своих алгоритмах.

В пятницу Евросоюз представил первый в своей истории законодательный пакет, направленный на регулирование производства и использования искусственного интеллекта. В законе об искусственном интеллекте утверждается, что в отношении этой технологии будет применяться «подход, основанный на оценке рисков», а приоритетными будут ограничения на те аспекты, которые, как считается, представляют наибольшую опасность для общества.

Законодательство вводит требования прозрачности для всех моделей искусственного интеллекта общего назначения с более строгими требованиями для более крупных и мощных моделей, которые могут представлять «системные риски для Союза», — заявил журналистам в пятницу один из ведущих участников переговоров евродепутат Драгош Тудораче.

В новом законодательстве особо упоминаются страховой и банковский секторы, а также выборы и системы, связанные с голосованием, как области, требующие тщательного тестирования безопасности перед публичным развертыванием.

Сообщается, что граждане будут подавать жалобы, требуя объяснений, как решение системы искусственного интеллекта повлияло на их права и жизнь.

Пакет требует от генераторов дипфейков, больших языковых моделей и других механизмов создания помечать свои работы как созданные искусственным интеллектом и призван защитить владельцев авторских прав от копирования ИИ их работ.

Биометрические системы, использующие «чувствительные характеристики», такие как раса и сексуальная ориентация, для идентификации людей, запрещены новым законодательством, как и неизбирательное извлечение лиц из онлайн-баз данных или других хранилищ изображений. Также запрещены социальный кредитный рейтинг, «системы, манипулирующие поведением людей в обход их свободной воли», и распознавание эмоций работодателями или учебными заведениями, ремонт морозильной камеры либхер.

Использование технологии распознавания лиц правоохранительными органами будет ограничено «определенными исключениями в области безопасности и национальной безопасности», например, для предотвращения «конкретной и настоящей террористической угрозы». Для использования биометрического слежения ИИ «на расстоянии» цель должна быть осуждена или подозреваться в совершении серьезного преступления — терроризма, торговли людьми, сексуальной эксплуатации, убийства, похищения, изнасилования, вооруженного ограбления, участия в преступной организации или «экологического преступления».

Запреты вступят в силу через шесть месяцев, а требования к прозрачности начнут действовать через год. Полный законодательный пакет вступит в силу через два года.

Окончательный проект закона, который был разработан в ходе трехдневных переговоров, начавшихся в среду 22-часовым марафоном, еще не опубликован и должен быть одобрен голосованием в парламенте и Европейском совете.

Блок надеется стать мировым лидером в области регулирования ИИ, повторяя свои противоречивые усилия по регулированию потока информации в Интернете с помощью Закона о цифровых услугах, принятого ранее в этом году. Как и этот закон, он предусматривает серьезные финансовые санкции: нарушители могут быть оштрафованы на сумму до 35 миллионов евро (37,7 миллиона долларов), или на 7 % от глобальной выручки.