Филиппинские военные запрещают приложения, основанные на искусственном интеллекте
Министр обороны страны предупредил, что загрузка личных фотографий в приложение, создающее «цифрового человека», может представлять угрозу безопасности.
Приложения, которые требуют от пользователей загрузки личных фотографий и затем с помощью искусственного интеллекта создают цифровой клон человека, теперь недоступны для филиппинских военнослужащих, заявило Министерство национальной обороны страны. Министр обороны Гилберто Теодоро-младший предупредил, что такие приложения могут представлять угрозу безопасности.
В пятницу представители военного ведомства подтвердили подлинность служебной записки, выпущенной Теодоро на прошлой неделе и распространявшейся в последние дни в Интернете. Однако в ведомстве отказались сообщить какие-либо подробности о запрете.
В служебной записке министр обороны упомянул о приложении, которое с помощью искусственного интеллекта создает «цифрового человека, имитирующего речь и движения реального человека» после получения десяти фотографий пользователя.
«Это, казалось бы, безобидное и забавное приложение с искусственным интеллектом может быть злонамеренно использовано для создания поддельных профилей, что может привести к краже личных данных, социальной инженерии, фишинговым атакам и другим вредоносным действиям», — написал Теодоро, добавив, что ему уже известны подобные случаи.
Он призвал своих подчиненных проявлять осторожность при обмене информацией в Интернете в целом.
В прошлом месяце Агентство национальной безопасности США (АНБ) и ФБР выпустили предупреждение об угрозе применения технологии «глубокой подделки», которая потенциально может быть использована для взлома компьютерных систем военных и других важных объектов.
«Инструменты и методы манипулирования подлинными мультимедийными данными не новы, но легкость и масштабы, с которыми киберпреступники используют эти методы, являются новыми», — говорится в заявлении математика АНБ Кэндис Рокуэлл Герстнер. Она посоветовала американским компаниям научиться распознавать подделки и разработать план действий на случай использования этой технологии против них.
Помимо предприятий, под угрозой находятся американские силовые структуры, а также Пентагон и оборонные подрядчики, предупреждает совет.
Еще одним аспектом предполагаемой угрозы, о котором говорится в документе, является опасение, что «синтетические СМИ могут также вызвать общественные волнения путем распространения ложной информации о политических, социальных, военных или экономических проблемах».
