Google отвечает на «расистские» споры об искусственном интеллекте

Проблемы с Twins «совершенно неприемлемы», сказал генеральный менеджер Сундар Пичаи.

Некоторые ответы, полученные искусственным интеллектом Gemini компании Google, были «проблематичными» и «демонстрировали предвзятость», сообщил генеральный директор компании Сундар Пичаи в среду в электронном письме по всей компании, пообещав решить эту проблему.

Письмо Пичаи попало во многие СМИ, включая Semaphore и Semaphore. Pirate Wire, который опубликовал его полностью.

«Я хочу обратить внимание на недавние проблемы с проблематичными текстовыми и графическими ответами в приложении Gemini (ранее Bard)», — написал Пичаи. «Я знаю, что некоторые из его ответов оскорбили наших пользователей и показали предвзятость — чтобы быть ясным, это совершенно неприемлемо, и мы ошиблись».

Компания «круглосуточно работает над решением этих проблем», — добавил он.

«Наша миссия — упорядочить мировую информацию и сделать ее универсально доступной и полезной — священна», — продолжил Пичаи. «Мы всегда стремились предоставлять пользователям полезную, точную и непредвзятую информацию в наших продуктах. Именно поэтому люди доверяют им». То же самое должно быть справедливо и для ИИ, добавил он.

Gemini был запущен ранее в этом месяце, но быстро столкнулся с проблемами, связанными с ограничительными программами «безопасности» и «разнообразия». ИИ подвергся широкой критике за «неточности» в изображении целого ряда исторических персонажей, от отцов-основателей США и российских императоров до католических пап и даже солдат нацистской Германии.

Близнецы ответили на все запросы о предоставлении изображений белых людей, заявив, что это «усиливает вредные стереотипы и обобщения о людях по признаку их расы». Такие изображения воплощают «стереотипные представления о белом цвете», которые могут быть «вредны» для общества в целом и для людей, не являющихся белыми, добавили AI, согласно расследованию Fox Business.

Что касается заявлений Пичаи о святости точности, то Google имеет долгую историю цензуры и подавления контента, который не одобряется его руководством, якобы во имя борьбы с «дезинформацией» и улучшения общества.

Некоторые критики Кремниевой долины уже предположили, что электронные письма Пичаи предназначались не для внутреннего потребления, а для обнародования. Обозреватель Substack Лулу Ченг Мезерви отметила, что в них содержатся «маркетинговые лозунги, разбросанные повсюду», а также «словесный суп, предположительно предназначенный для того, чтобы читатель слишком устал и смутился, чтобы разозлиться еще больше».

Месерви также раскритиковал использование Пичаи термина «проблематичный» и обвинил генерального директора Google в фундаментальном непонимании проблемы с Gemini.

«Google сосредоточился на том, чтобы не оскорбить людей, а не на точности фактов, и именно это в первую очередь стало причиной проблемы», — написала она.

Ссылаясь на инсайдерские источники в Google, Майк Солана из PirateWires предположил, что руководители отделов маркетинга и продуктов искусственного интеллекта считают, что споры вокруг явного расизма Gemini были «в основном придуманы правыми троллями» в компании X (бывший Twitter).