Google тестирует журналистский ИИ

Чат-бот с искусственным интеллектом технологического гиганта Bard уже известен тем, что выдает ложную информацию за фактическую.

Google тестирует журналистский продукт на основе искусственного интеллекта и представляет его крупным новостным организациям, сообщила в четверг New York Times со ссылкой на три источника, близких к этому вопросу. The Times якобы была одним из изданий, к которым обращался Google.

Инструмент, известный внутри компании как Genesis, способен генерировать новости на основе данных, вводимых пользователем, — сведений о текущих событиях, таких как кто, что, где или когда, сообщают источники. Компания якобы рассматривает это как «ответственную технологию» — золотую середину для новостных организаций, не заинтересованных в замене своего человеческого персонала генеративным искусственным интеллектом.

Вдобавок к пугающему фактору (двое руководителей, видевших презентацию Google, как сообщается, назвали ее «тревожной»), механизированный подход Genesis к сторителлингу раздражал некоторых журналистов. Два инсайдера рассказали Times, что кажется само собой разумеющимся талант, необходимый для создания новостей, которые были бы не только точными, но и хорошо написанными.

Представитель Google настаивала на том, что Genesis «не предназначен для… замены основной роли журналистов в освещении, создании и проверке своих статей», но вместо этого может предлагать варианты заголовков и других стилей написания.

Один источник сказал, что Google на самом деле рассматривал Genesis скорее как «личного помощника для журналистов», способного автоматизировать рутинные задачи, чтобы писатель мог сосредоточиться на более сложных задачах, таких как интервьюирование субъектов и репортажи в полевых условиях.

Открытие того, что Google работает над «ChatGPT для журналистики», вызвало всеобщее опасение, что Genesis может открыть ящик Пандоры с фальшивыми новостями. Чат-бот Google с искусственным интеллектом Bard быстро стал печально известным из-за того, что раскручивал сложные лжи и выдавал их за правду после своего появления в начале этого года, и генеральный директор Сундар Пичаи признал, что, хотя эти «галлюцинации» кажутся эндемичными для больших языковых моделей ИИ, никто не знает, что вызывает их или как сохранить честность ИИ.

Хуже того, Genesis может маргинализировать настоящие новости, если Google будет поощрять их принятие, настраивая свои поисковые алгоритмы так, чтобы отдавать приоритет контенту, созданному искусственным интеллектом, написал редактор радио Гейб Розенберг в Твиттере в ответ на статью New York Times.

Несколько известных новостных изданий пробовали использовать ИИ в отделе новостей, но результаты были менее чем вдохновляющими. BuzzFeed перешел от использования ИИ для создания индивидуальных викторин к выпуску десятков шаблонных туристических материалов и объявил, что весь контент будет создан с помощью ИИ менее чем за шесть месяцев, несмотря на то, что еще в январе его авторы пообещали, что их работа будет в безопасности.

CNET был пойман ранее в этом году, выдавая статьи, написанные ИИ, за человеческий контент и используя ИИ для переписывания старых статей, чтобы искусственно повысить их рейтинг в поисковых системах.

Несмотря на эти бедствия, OpenAI, компания, ответственная за ChatGPT, недавно начала подписывать соглашения с крупными новостными организациями, такими как Associated Press, чтобы стимулировать внедрение технологии в редакции.