Ошибки ИИ в отчете Deloitte: Министрия труда Австралии получит частичный возврат средств

Австралийское подразделение крупной бухгалтерской фирмы Deloitte согласилось вернуть часть стоимости отчета, который было подготовлено для правительства в Канберре, после того как было установлено, что в документе содержится множество ошибок, созданных искусственным интеллектом, сообщает Australian Financial Review.

Министерство занятости и трудовых отношений (DEWR) тихо заменило первоначальный отчет, опубликованный в июле, на исправленную версию из 237 страниц в прошлую пятницу, перед длинным выходным. Официальные лица сначала заявили, что обновление добавило новую информацию и исправило «некоторые сноски и ссылки».

Академик Сиднейского университета Крис Радж раньше указывал на множество очевидных «галлюцинаций», типичных для крупных языковых моделей, что побудило Deloitte начать внутреннее расследование в августе.

Обновленный отчет включает новое раскрытие информации, подтверждающее, что в его подготовке использовался искусственный интеллект — конкретно модель Microsoft Azure OpenAI GPT-4o. Также были исправлены более десятка ошибок, включая ссылки на несуществующее судебное решение и академические статьи, а также вымышленную цитату, приписанную судье Дженнифер Дэвис (в первой версии была написана как «Дэвис»), заместителю президента Австралийского трибунала по конкуренции.

Радж сказал Financial Review, что признание Deloitte преобразовало то, что ранее считалось «сильной гипотезой», в уверенность, даже если его признание было «захоронено» в разделе методологии.

Представитель DEWR подтвердил, что Deloitte «согласилась вернуть последний платеж по своему контракту», хотя сумма не была раскрыта. Исследование по компьютеризации автоматизированных штрафов в австралийской системе социального обеспечения обошлось в 440,000 австралийских долларов (примерно 290,000 долларов США).

Радж, специалист по социальному обеспечению, якобы первым заметил что-то неладное, когда отчет ссылался на книгу, якобы написанную его коллегой по Сиднейскому университету Лизой Бертон Крофорд. Заглавие казалось выходящим за рамки ее компетенции и, в конечном итоге, оказалось несуществующим.

Это дело поднимает важные вопросы о надежности использования искусственного интеллекта в профессиональных исследованиях и отчетности, и какие последствия могут возникнуть, если на него полагаться без должного контроля.

Следите за новостями в Telegram