Австралийская женщина была шокирована и начала сомневаться в своей приватности после того, как сексуальный жест во время FaceTime-звонка с её парнем был мгновенно перехвачен и остановлен её iPhone.
Фрэнки*, 25 лет, которая разговаривала со своим партнёром во время его обеденного перерыва, решила показать ему грудь.
Затем она объяснила, что звонок резко прервался после того, как на экране её партнёра появилось сообщение от Apple.
«Вы уверены, что хотите остаться на этом звонке?» — говорилось в сообщении.
В нём утверждалось, что звонок был приостановлен, поскольку потенциально показывал наготу.
«Звонок остановился — то есть он встал на паузу», — рассказала Фрэнки.
«Я не могла говорить с ним, и он не мог говорить со мной.
«На моём конце это выглядело так, будто он поставил на паузу — как будто он выключил камеру, но не было ни звука, ни чего-либо ещё. Как будто меня поставили на удержание».
Изначально сбитая с толку внезапным обрывом, она была ошеломлена, когда её партнёр снял паузу и показал ей, что произошло.
Она увидела сообщение и подумала: «Что за чёрт?».
Сообщение также предлагало помощь, спрашивая: «Как вы себя чувствуете? Вы не обязаны оставаться на этом звонке, если не хотите», рядом с кнопками либо завершить звонок («Не сейчас»), либо отменить блокировку («Да, продолжить»).
Этот опыт вызвал у Фрэнки немедленное беспокойство: она признаёт, что скорость и точность обнаружения показались ей навязчивыми.
«Ты даже не знаешь, что у Apple есть, чего нет, или что они видят», — сказала она.
«Это просто застаёт тебя врасплох».
Затем она начала сомневаться в своих решениях из-за этого открытия.
«А что, если ты в отъезде и занимаешься сексом по телефону или что-то в этом роде? Я ушла в целую спираль, думая: а что, если он не распознает твоё тело из-за того, как их алгоритм считает, как должна выглядеть нагота? Каков их стандарт того, как это должно выглядеть?» — поделилась Фрэнки.
Что на самом деле происходит?
После поиска в интернете Фрэнки обнаружила, что активировала функцию Apple «Предупреждение о деликатном контенте».
News.com.au связалась с Apple, которая затем направила нас на свою страницу поддержки в интернете, где указано, что система безопасности предназначена для обнаружения и размытия фотографий и видео, содержащих наготу, кровь или насилие, до того как пользователь сможет их просмотреть. Однако её интеграция в живые видеозвонки, такие как FaceTime, работает иначе — полностью приостанавливая и замораживая поток при подозрении на нарушение.
Функция является опциональной для взрослых пользователей и может быть включена или выключена в настройках в разделе «Конфиденциальность и безопасность», а затем «Предупреждение о деликатном контенте».
Для детских аккаунтов, управляемых через «Экранное время», функция, известная как «Безопасность связи», может быть постоянно включена родителями для вмешательства при обнаружении наготы.
Хотя внезапная блокировка может создать ощущение, что за вашими личными разговорами наблюдает активный глаз, Apple уверяет пользователей, что её системы строго приватны.
Согласно официальной документации Apple, функция использует «машинное обучение на устройстве» для анализа фотографий и видео.
Поскольку фотографии и видео анализируются на вашем устройстве, Apple не получает уведомления о том, что был обнаружен деликатный контент, и не получает доступа к фотографиям или видео.
Это означает, что, хотя ИИ на самом iPhone был достаточно умён, чтобы распознать тело Фрэнки и заморозить передачу, никакие визуальные данные не отправлялись на серверы Apple и не просматривались модераторами-людьми.
Другие похожие случаи
После инцидента Фрэнки провела исследование в интернете, чтобы убедиться, что она «не одна», и увидела, что есть другие люди в такой же ситуации.
Она обнаружила ветку на Reddit, где люди делились своим опытом обнаружения этой настройки.
Исходный пост гласил: «Я решила показать своему парню новое бикини, которое купила для нашего предстоящего круиза… Почему это на моём телефоне и почему оно записывает моё тело? Мне только недавно исполнилось 18, если это имеет значение».
Пост вызвал огромную дискуссию, включая людей, шокированных этим неожиданным открытием.
«Приватность — это миф. Теперь ты знаешь», — прокомментировал один.
«Единственное, что бесит, — это тот факт, что их, по-видимому, заставили внедрить такую функцию. Слишком много извращенцев вокруг», — выразил второй.
«Это, вообще-то, довольно гениально. Жутко, но гениально», — написал третий.
«Почему ты удивляешься? Ты держишь в руке губку для сбора данных», — отозвался четвёртый.
Хотя было много людей, поддерживающих функцию Apple, называя её «отличным» дополнением к системным настройкам.
«Девушка, это благословение в маскировке», — написала одна.
«Это то, что называют отличной функцией безопасности. Возможность в один клик продолжить, если ты действительно хочешь показать то, что показываешь, но и шанс спасти жизни тех, кто слишком глуп или наивен, чтобы осознавать опасности секстинга. Слегка бесит? Скорее лёгкое благословение», — написал четвёртый.
Будет ли она делать это снова?
Несмотря на то, что сообщение застало её врасплох, Фрэнки говорит, что не позволит программному обеспечению остановить её — хотя она внесла некоторые коррективы.
«Да, я всё ещё буду это делать! Но я сказала ему отключить эту настройку на его телефоне, очевидно», — поделилась она.
История Фрэнки — не единичный случай. По мере того как Apple и другие технологические компании внедряют всё более sophisticated системы обнаружения контента, пользователи по всему миру сталкиваются с неожиданными последствиями этих функций.
С одной стороны, такие инструменты, как «Предупреждение о деликатном контенте» и «Безопасность связи», предназначены для защиты пользователей, особенно несовершеннолетних, от нежелательного или вредного контента. Они могут помочь предотвратить сексуальную эксплуатацию, кибербуллинг и распространение материалов о насилии.
С другой стороны, они поднимают серьёзные вопросы о границах приватности и о том, насколько далеко могут зайти технологии в мониторинге личных коммуникаций. Даже если анализ происходит на устройстве и данные не передаются на серверы, само ощущение того, что телефон «следит» за вами, может быть неприятным.
Эксперты по цифровым правам отмечают, что подобные функции должны быть прозрачными и легко отключаемыми. Пользователи должны чётко понимать, что именно анализируется, как и с какой целью. В противном случае доверие к технологиям может быть подорвано.
Кроме того, возникает вопрос о стандартах, по которым алгоритмы определяют «наготу». Как отметила Фрэнки, если система обучена на определённых представлениях о теле, она может неправильно интерпретировать изображения людей с разными типами телосложения, цветом кожи или гендерной идентичностью. Это может привести к дискриминационным результатам.
Некоторые критики также указывают на потенциальную возможность злоупотребления такими системами. Например, в странах с репрессивными режимами подобные технологии могут использоваться для слежки за активистами или преследования ЛГБТК+ сообщества.
Тем не менее, многие пользователи приветствуют эти функции как необходимый инструмент безопасности. Родители особенно ценят возможность защитить детей от нежелательного контента и потенциальных хищников в сети.
Apple, со своей стороны, подчёркивает, что все функции разработаны с уважением к приватности и могут быть отключены по желанию пользователя. Компания также регулярно публикует отчёты о прозрачности, в которых описывает, как работают её системы и какие данные собираются.
В будущем, вероятно, появятся более совершенные и менее навязчивые способы защиты пользователей. Однако дебаты о балансе между безопасностью и приватностью будут продолжаться, поскольку технологии развиваются быстрее, чем общество успевает выработать нормы их использования.
*Имя изменено для сохранения приватности
Источник: news.com.au, Apple Support, Reddit.
Следите за новостями в Telegram
👇 Поделитесь в вашей соцсети
RSS - Записи
Оставьте комментарий