Мета изо всех сил пытается контролировать педофилов

Материнская компания Facebook и Instagram продолжает бороться с алгоритмами, которые допускают на ее платформы растлителей детей, пишет в пятницу Wall Street Journal.

Ранее в этом году журнал и исследователи из двух университетов США обнаружили, что алгоритмы Instagram помогают соединять аккаунты, «предназначенные для создания, покупки и торговли контентом, связанным с сексом с несовершеннолетними». В ответ на это Meta создала целевую группу по безопасности детей и разработала программные инструменты для решения этой проблемы.

Пять месяцев спустя компания «изо всех сил пытается предотвратить создание и даже продвижение обширной сети аккаунтов педофилов в своих собственных системах», отмечает Journal.

Ранее на этой неделе журнал сослался на исследование Канадского центра защиты детей, согласно которому алгоритмы Instagram по-прежнему рекомендуют педофильский контент. По их словам, хотя некоторые хэштеги, связанные с педофилией, были запрещены, система просто выдает новые с небольшими вариациями.

По словам канадцев, «сеть» аккаунтов в Instagram, каждый из которых имел до 10 миллионов подписчиков, «продолжала транслировать видеоролики сексуального насилия над детьми через несколько месяцев после того, как компании были уведомлены об этом». Другая группа, Стэнфордская интернет-обсерватория, отметила несколько групп, «популярных в сообществе по сексуализации детей в Instagram», в июне и заявила, что некоторые из них все еще активны.

Более того, проблема затрагивает и группы Facebook — ключевую функцию платформы, которая насчитывает более трех миллиардов ежемесячных пользователей по всему миру. В одном случае, когда репортеры журнала отметили группу под названием «Инцест», они получили ответ, что она «не противоречит стандартам нашего сообщества». Группа была удалена только после того, как издание обратило на это внимание отдела по связям с общественностью Meta.

«Мы активно продолжаем внедрять изменения, определенные целевой группой, которую мы создали в начале этого года», — заявил представитель Meta. В рабочую группу временно входило более 100 сотрудников, она запретила тысячи хэштегов, используемых педофилами, и усовершенствовала технологию обнаружения наготы и сексуальной активности в видеороликах, транслируемых в прямом эфире.

Гигант социальных сетей Марка Цукерберга также сообщил, что отключил «тысячи» аккаунтов, «скрыл 190 000 групп» в результатах поиска Facebook и инвестировал в новые программные инструменты, чтобы лучше справиться с проблемой. Рабочая группа также направила группу для работы с подрядчиками по модерации контента Meta в Мумбаи, Индия.

Хотя алгоритмы Meta могут связывать пользователей с «незаконными интересами» и подстраивать контент так, чтобы привлечь их внимание, ограничивать или удалять функции, которые связывают людей с приемлемым контентом, было бы неразумно, сказала представительница компании изданию Journal.