«Умные» камеры полиции: этичный рубеж или тотальный контроль? Тестирование распознавания лиц в Эдмонтоне

Полицейские камеры, оснащённые искусственным интеллектом, в канадском Эдмонтоне были обучены распознавать лица около 7000 человек, внесённых в «список повышенного риска». Этот пилотный проект, запущенный на прошлой неделе, стал живым испытанием того, может ли технология распознавания лиц, ранее отвергавшаяся как чрезмерно вмешивающаяся в частную жизнь, найти применение в полицейской работе по всей Северной Америке.

Однако шесть лет спустя после того, как ведущий производитель полицейских камер Axon Enterprise Inc. заявил об этических проблемах использования этой технологии, эксперимент вызывает тревогу далеко за пределами Эдмонтона. Бывший председатель совета по этике ИИ Axon, Барри Фридман, выразил опасение, что компания движется вперёд без достаточных публичных обсуждений, тестирования и экспертной оценки социальных рисков и последствий для приватности.

Основатель и CEO Axon Рик Смит утверждает, что проект в Эдмонтоне — это не запуск продукта, а «полевые исследования на ранней стадии», призванные оценить производительность технологии и выявить необходимые меры безопасности. Цель пилота, по словам исполняющего обязанности суперинтенданта полиции Эдмонтона Курта Мартина, — повысить безопасность патрульных офицеров, позволив их камерам обнаруживать лиц, отмеченных властями как «вооружённые и опасные», «склонные к насилию» или имеющие серьёзные ордера на арест. На данный момент в списках — более 7000 человек.

Если пилотный проект будет расширен, это может оказать серьёзное влияние на полицейскую деятельность по всему миру. Axon, известная своими электрошокерами Taser, является доминирующим поставщиком полицейских камер в США и всё активнее предлагает их правоохранительным органам Канады и других стран.

Тем не менее, перспектива использования распознавания лиц в реальном времени в общественных местах остаётся крайне непопулярной во многих странах. Главные опасения связаны с исследованиями, показывающими, что технология несовершенна и демонстрирует предвзятость по признаку расы, пола и возраста. В ответ на критику защитников гражданских свобод многие компании, включая Axon, ранее приостанавливали продажи такого ПО полиции. Несколько штатов США и десятки городов ввели ограничения, в то время как ЕС запретил сканирование лиц в реальном времени полицией, за исключением случаев расследования тяжких преступлений.

Многие детали эдмонтонского пилота не разглашаются. Известно, что проект продлится до конца декабря, будет работать только в светлое время суток, и около 50 офицеров, тестирующих технологию, не будут получать уведомления о совпадении в реальном времени — данные будут анализироваться позже в участке. Полиция подчёркивает, что активация должна происходить только при расследовании или ответе на вызов, а не при простом патрулировании.

На пути к тотальной слежке: где проходит граница?

Запуск системы в Эдмонтоне знаменует собой опасный прецедент, способный легитимировать массовое наблюдение под предлогом повышения безопасности. Ключевой проблемой остаётся отсутствие прозрачности и демократического контроля: решение о внедрении технологии, способной кардинально изменить баланс между безопасностью и свободой, принимается полицейским ведомством и частным вендором в обход публичных дебатов и одобрения законодателей. Несмотря на заявления о «целевом» использовании против лиц с серьёзными правонарушениями, история показывает, что подобные списки имеют тенденцию к расширению, а технологии — к «миссии расползания».

Более того, даже технически «улучшенные» алгоритмы несут в себе риски системной дискриминации. Как признаёт сам Axon, точность распознавания по-прежнему зависит от освещения, ракурса и цвета кожи, что ставит под вопрос справедливость её применения в многонациональном обществе. Для Канады, с её непростыми отношениями полиции с коренным и темнокожим населением, слепое доверие к алгоритмам может усугубить существующее неравенство и подорвать и без того хрупкое общественное доверие.

Эдмонтонский эксперимент — это не просто тест технологии, а глобальный тест на зрелость наших правовых и этических рамок. Без независимого аудита, чётких законодательных ограничений и механизмов общественного контроля такой инструмент из средства защиты может превратиться в орудие тотального надзора, где каждый гражданин априори становится объектом подозрения. Пилот должен быть остановлен до тех пор, пока общество не даст ответ на фундаментальный вопрос: готово ли оно променять приватность и свободу передвижения на призрачное обещание безопасности, обеспечиваемое всевидящим алгоритмическим оком?