ИИ от «Вашингтон Пост» попал впросак: нейросеть сочиняла цитаты и факты

Новые персонализированные подкасты на основе искусственного интеллекта, запущенные газетой The Washington Post, предлагали подписчикам выдуманные цитаты и фактические ошибки. Об этом в четверг сообщило издание Semafor со ссылкой на внутреннюю переписку американской газеты.

Функция, запущенная ранее на этой неделе, позволяет пользователям мобильного приложения прослушивать созданные ИИ подкасты, которые автоматически обобщают и озвучивают выбранные новостные материалы на основе статей издания.

Уже в течение 48 часов после запуска продукта сотрудники WaPo начали фиксировать множество проблем, включая сфабрикованные цитаты, неправильно приписанные высказывания и неточные фактические детали.

«Поистине удивительно, что это вообще было разрешено к запуску», — заявил, согласно сообщениям, один из редакторов WaPo во внутренней переписке. На момент публикации Semafor газета публично не признавала наличие проблемы.

Описанные ошибки появились на фоне усиленного внимания к достоверности американских СМИ. В конце прошлого месяца Белый дом запустил на своем официальном сайте трекер медийной предвзятости, призванный публично перечислять новостные материалы и издания, которые администрация считает необъективными или неточными. The Washington Post занимает видное место на этом сайте наряду с такими СМИ, как CNN, CBS и Politico.

Контекст: гонка за ИИ и кризис доверия

Эта история разворачивается в момент, когда другие крупные медиакомпании также внедряют аналогичные технологии. Такие компании, как Yahoo и Business Insider, недавно анонсировали или расширили инструменты на основе ИИ, предназначенные для суммирования статей. Это часть более широкой тенденции в медиаиндустрии по использованию искусственного интеллекта для сокращения затрат, ускорения производства и персонализации контента.

Инцидент высвечивает более общие опасения, связанные с использованием искусственного интеллекта в журналистике, где автоматизированные системы неоднократно порождали ошибки, так называемые «галлюцинации» и вводящий в заблуждение контент. Медиаорганизации и эксперты предупреждают, что без надежных редакционных гарантий материалы, созданные ИИ, рискуют подорвать точность, ответственность и общественное доверие.

Запуск сырого и ошибочного продукта такой влиятельной газетой, как The Washington Post, который издаётся под владением основателя Amazon Джеффа Безоса с 2013 года, говорит о системных проблемах. Погоня за технологическими инновациями и персонализацией, по-видимому, в данном случае опередила базовые журналистские стандарты проверки фактов и редакционного контроля. Этот эпизод может стать тревожным сигналом для всей индустрии, указывающим на то, что слепая вера в эффективность алгоритмов без должного человеческого надзора не только вредит репутации, но и ставит под угрозу саму суть журналистики как социального института, основанного на достоверности информации. В долгосрочной перспективе такие ошибки рискуют усугубить кризис доверия к СМИ, играя на руку теориям заговора и обвинениям в «фейковых новостях».