Twitter заставляет пользователей подвергать самоцензуре «оскорбительные» ответы на твиты

Команда Twitter, создавшая новые «подсказки» пользователям по поводу ответов, которые модератор искусственного интеллекта счел оскорбительными, сказала, что они были настолько эффективны, что треть пользователей либо редактировала, либо удаляла свои сообщения.

Twitter представил новую функцию, которая заставляет пользователей подвергать пользователей самоцензуре в своих ответах на сообщения в социальных сетях.

В Сообщение блога озаглавленный: «Твиттер с вниманием», директор по дизайну продуктов Twitter Анита Батлер и менеджер по продукту Альберто Паррелла заявили, что новые предупреждающие сообщения для пользователей перед отправкой их ответов в Твиттере вступят в силу начиная со среды — в первую очередь, для англоязычных аккаунтов. .

«Люди приходят в Твиттер, чтобы поговорить о том, что происходит, и иногда разговоры о том, что нас волнует, могут стать интенсивными, и люди говорят то, о чем позже могут пожалеть», — писали они.

В прошлом году Twitter начал тестирование «подсказок», чтобы «побудить» пользователей «приостановить и пересмотреть потенциально опасный или оскорбительный ответ — например, оскорбления, ненормативную лексику или ненавистнические высказывания — перед тем, как опубликовать его в Твиттере».

Батлер и Паррелла сказали, что алгоритмы искусственного интеллекта сначала помечали сообщения без необходимости, потому что они «часто не делали различий между потенциально оскорбительными выражениями, сарказмом и дружеским подшучиванием». Эффект на пользователей был поразительным. Команда обнаружила, что 34 процента пользователей либо редактировали свои ответы, либо вообще не отправляли их в ответ на предупреждающие сообщения. А после своего первого предупреждения послесловие пользователей написало на 11 процентов меньше «оскорбительных» ответов.

Сотрудники Twitter утверждали, что те, кто использует самоцензуру, с меньшей вероятностью получат взамен «оскорбительные и вредные» ответы.

Пара сообщила, что Twitter совершенствует свою систему, чтобы отслеживать отношения пользователей друг с другом, основываясь на том, насколько они взаимодействуют друг с другом, чтобы точно настроить порог срабатывания.

Он также добавил корректировки, чтобы попытаться распознать «ситуации, в которых язык может быть возвращен недостаточно представленным сообществам и использован без вреда», что, возможно, означает использование этническими и другими меньшинствами уничижительных терминов для самих себя.

Сотрудник гиганта социальных сетей Big Tech Facebook имеет аналогичную функцию. Он привлекает пользователей, когда они нажимают «опубликовать» комментарий, который его автоматическая система мониторинга помечает как потенциально противоречащий «стандартам сообщества». У постера есть три варианта: «Редактировать комментарий», «Игнорировать» или «Удалить комментарий».

Бывший президент США Дональд Трамп, которого ранее в этом году забанили как Twitter, так и Facebook, пригрозил снять защиту «Раздел 230», которой пользуются сайты социальных сетей от судебного преследования за клевету, размещенную пользователями, — утверждая, что их правила цензуры сделали их более сродни отредактированным публикациям, чем платформам с открытым доступом.