Google помечает родителей как сексуальных преступников за фотографии собственных голых малышей

Аккаунты родителей были конфискованы после того, как технический гигант пометил их как насильников детей — даже после того, как полиция реабилитировала их.

Усиленный крестовый поход Google против сексуальной эксплуатации детей на своих платформах рискует разрушить жизни тех самых детей, которых он пытается спасти, а также невинных родителей, оставив их репутацию, свободу и, возможно, даже выживание их семьи в руках преступника. чрезмерно усердный алгоритм, показало расследование New York Times, опубликованное в воскресенье.

Два совершенно не связанных между собой отца маленьких детей пережили почти идентичные кафкианские кошмары, названные растлителями малолетних ни за что более зловещее, чем за попытку оказать своим малышам медицинскую помощь. Папа из Сан-Франциско Марк и папа из Хьюстона Кассио ничего не подумали о том, чтобы прислать фотографии опухших гениталий своих сыновей по запросу своих педиатров — практика, которая стала совершенно нормальной в постпандемической парадигме.

Ничего не думая об этом, пока его сын выздоравливал, Марк был грубо разбужен своим телефоном Google Fi, сообщившим ему, что был обнаружен «вредный контент» — потенциально незаконный. Попытка обжаловать это решение вызвала отказ и отсутствие дальнейших сообщений от Google. Марк потерял доступ к своему телефону, электронной почте, контактам и всему остальному, что принадлежит Google как одной из крупнейших корпораций в мире. Все его данные, включая фото и видео, были заперты в облаке.

Google обнаружил еще одно видео, которое срабатывало при сканировании этих файлов. В то время как технология обнаружения фотографий детей, подвергшихся жестокому обращению и эксплуатации, изначально полагалась на базу данных известных изображений сексуальной эксплуатации, относительно недавний вклад Google в крестовый поход — это инструмент ИИ, который утверждает, что способен распознавать невиданные ранее изображения эксплуатации детей. на основе их сходства с существующими изображениями.

Вместо того, чтобы привлекать модератора-человека для проверки того, что фотография действительно оскорбительна, прежде чем двигаться дальше, процесс Google, как только он решит, что обнаружит такое изображение, заключается в блокировке учетной записи, сканировании всех других изображений, которые у них есть, и вызове Национального центра пропавших без вести и пропавших без вести. Exploited Children, которая отдает приоритет тем, кого считает новыми жертвами. Между тем, ошибочно помеченные изображения добавляются в базу данных эксплуатируемых детей, поэтому даже более безобидные изображения детей, такие как у Марка и Кассио, рискуют вызвать тревожный сигнал.

Полиция Сан-Франциско, начавшая расследование после того, как Google пометила видео Марка, получила копии буквально всего в его учетных записях Google, из его поисковых запросов в Интернете и истории местоположений, сообщений и документов, которые он отправлял и получал, а также хранящихся фотографий и видео. на облаке. Имея те же данные, которые Google использовал, чтобы объявить его растлителем малолетних, они вместо этого определили, что никакого преступления не было совершено, и закрыли дело.

Google не был столь понимающим. Даже когда Марк попросил ведущего детектива по его делу вступиться за него, офицер сказал, что ничего не может сделать. Он по-прежнему не может получить доступ к своей учетной записи.

Дело Кассио развивалось почти так же: полиция Хьюстона закрыла дело, как только он представил сообщение от педиатра. Google не вернет его данные.

Несмотря на то, что полиция реабилитировала родителей, Google остался при своем решении отметить родителей как растлителей малолетних и заблокировать все их данные. «Материалы о сексуальном насилии над детьми отвратительны, и мы стремимся предотвратить их распространение на наших платформах», — говорится в заявлении компании, сообщает New York Times. Неизвестно, сколько дел Службы защиты детей было открыто на основании таких «ошибок», и сколько из них рисковали закончиться тем, что ребенка забрали из дома или арестовали родителя, поскольку даже неправомерно обвиненные в жестоком обращении с детьми в целом молчи об этом.