Facebook платит подрядчикам за чтение ваших зашифрованных сообщений в WhatsApp и делится информацией с прокурорами

Когда Facebook приобрел WhatsApp, он пообещал уважать конфиденциальность своих пользователей. Этого не произошло, и теперь в компании работают тысячи сотрудников, которые читают якобы зашифрованные чаты.

Гигант социальных сетей Facebook приобрел WhatsApp в 2014 году, а генеральный директор Марк Цукерберг пообещал сохранить урезанное приложение для обмена сообщениями без рекламы «точно таким же». Сквозное шифрование было введено в 2016 году, при этом само приложение предлагало пользователям на экране уверения, что «никто вне этого чата» не может читать их сообщения, а сам Цукерберг заявил Сенату США в 2018 году, что «мы не делаем». не вижу никакого контента в WhatsApp ».

Также на rt.com ирландский наблюдатель за конфиденциальностью данных обвинил WhatsApp рекордный штраф в размере 225 млн евро.

Якобы все это неправда. Более тысячи модераторов контента работают в общих офисах Facebook / WhatsApp в Остине, Техасе, Дублине, Ирландии и Сингапуре, чтобы анализировать сообщения, отправленные пользователями и помеченные искусственным интеллектом.

Основываясь на внутренних документах, интервью с модераторами и жалобе осведомителей, ProPublica объяснила, как работает система, в длинном расследовании, опубликованном в среду.

Когда пользователь нажимает кнопку «отчет» в сообщении, само сообщение и предыдущие четыре сообщения в чате расшифровываются и отправляются одному из этих модераторов для проверки. Модераторы также проверяют сообщения, отобранные искусственным интеллектом, на основе незашифрованных данных, собранных WhatsApp. Приложение собирает обширные данные, в том числе:

«Имена и изображения профиля пользователя в группах WhatsApp, а также их номер телефона, фото профиля, сообщение о состоянии, уровень заряда аккумулятора телефона, язык и часовой пояс, уникальный идентификатор мобильного телефона и IP-адрес, мощность беспроводного сигнала и операционная система телефона, а также список их электронных устройств, любые связанные учетные записи Facebook и Instagram, время последнего использования приложения и любую предыдущую историю нарушений ».

Также на rt.com Россия оштрафовала американских технологических гигантов Facebook, Twitter и WhatsApp почти на полмиллиона долларов за отказ прекратить отправку пользовательских данных за границу.

Эти модераторы не являются сотрудниками WhatsApp или Facebook. Вместо этого они — подрядчики, работающие за 16,50 долларов в час, нанятые консалтинговой фирмой Accenture. Эти работники обязаны хранить молчание в соответствии с соглашениями о неразглашении информации, а их прием на работу не был объявлен Facebook.

Также не сообщается о действиях этих модераторов. Facebook выпускает ежеквартальные «отчеты о прозрачности» для своей собственной платформы и дочерней компании Instagram, в которых подробно описывается, сколько учетных записей было заблокировано или иным образом подвергнуто дисциплинарным взысканиям и за что, но не делает этого для WhatsApp.

Многие сообщения, проверенные модераторами, помечены как ошибочные. У WhatsApp два миллиарда пользователей, говорящих на сотнях языков, и сотрудникам иногда приходится полагаться на инструмент перевода Facebook для анализа помеченных сообщений, что, по словам одного сотрудника, «ужасно» при расшифровке местного сленга и политического контента.

Помимо ложных отчетов, представленных как розыгрыши, модераторы должны анализировать совершенно невинный контент, выделенный ИИ. Компании, использующие приложение для продажи бритв с прямым лезвием, были отмечены как продавцы оружия. Родители, фотографирующие своих купающихся детей, были помечены как детское порно, а компании по производству нижнего белья были помечены как запрещенный «бизнес с сексуальной ориентацией.[es]. »

«В большинстве случаев искусственный интеллект не настолько умен, — сказал ProPublica один модератор.

Также на rt.com Facebook приносит свои извинения за то, что его ИИ поместил ярлык «приматы» на видео о чернокожих.

WhatsApp признал, что анализирует сообщения, чтобы отсеять «худших» злоумышленников, но не называет это «модерацией контента».

«На самом деле мы обычно не используем этот термин для WhatsApp, — сказал ProPublica директор по коммуникациям Карл Вуг. «Решения, которые мы принимаем в отношении того, как мы создаем наше приложение, ориентированы на конфиденциальность наших пользователей, поддержание высокой степени надежности и предотвращение злоупотреблений».

Facebook и раньше лгал о своей приверженности конфиденциальности пользователей. Через два года после того, как Цукерберг заверил пользователей, что его компания оставит WhatsApp без рекламы и позволит компании «работать полностью автономно», он сообщил о планах связать учетные записи WhatsApp с Facebook для таргетинга рекламы. Этот шаг принес Facebook штраф в размере 122 миллионов долларов от антимонопольных регуляторов ЕС, которые заявили, что генеральный директор Facebook «намеренно или по неосторожности» обманул их.

Несмотря на заверения Цукерберга в конфиденциальности, WhatsApp предоставляет правоохранительным органам больше пользовательских метаданных (данных, которые могут идентифицировать пользователя без содержания их сообщений), чем конкурирующие службы обмена сообщениями от Apple и Signal. Эти метаданные, которые могут раскрывать номера телефонов, местонахождение, временные метки и многое другое, ценны для правоохранительных органов и спецслужб, а утечки информации от АНБ Эдварда Сноудена в 2013 году раскрывают широкомасштабную операцию агентства по сбору метаданных миллионов американцев. коммуникации.

«Метаданные абсолютно все расскажут о чьей-то жизни», — сказал однажды бывший генеральный советник АНБ Стюарт Бейкер. «Если у вас достаточно метаданных, вам действительно не нужен контент».

Также на rt.com WhatsApp откладывает обновление политики конфиденциальности, так как убегающие пользователи выражают обеспокоенность по поводу обмена данными Facebook без отказа.

На всех своих платформах Facebook выполняет 95% запросов на метаданные. Хотя неизвестно, что правоохранительные органы смогли почерпнуть из метаданных WhatsApp, Министерство юстиции США запрашивало эти метаданные более десятка раз с 2017 года и, вероятно, гораздо чаще, поскольку многие из этих запросов не публикуются. Метаданные WhatsApp использовались для заключения в тюрьму Натали Эдвардс, бывшего сотрудника министерства финансов, которая слила конфиденциальные банковские отчеты о подозрительных транзакциях в BuzzFeed News.

Внутри WhatsApp компания подчеркивает важность продвижения своей деятельности, ориентированной на конфиденциальность. В маркетинговом документе, полученном ProPublica, говорится, что WhatsApp должен изображать себя «смелым», занимая «твердую общественную позицию, не имеющую финансовой мотивации, в том, что нас волнует», например, в защите шифрования и конфиденциальности пользователей.

Однако в другой строке того же документа говорится, что «будущие бизнес-цели» означают, что «хотя конфиденциальность будет оставаться важной, мы должны учитывать будущие инновации».