Воздержание и презервативы? Чат-бот AI в Сингапуре упал после странного совета о положительном результате теста на Covid-19

Министерство здравоохранения Сингапура отключило чат-бота после того, как оно распространило серию «несогласованных» ответов, включая советы по безопасному сексу, на вопросы о проблемах, связанных с Covid-19. Ошибки были широко распространены в Интернете.

Когда чат-бота с искусственным интеллектом под названием «Спроси Джейми» спросили, что делать с родителем, чья дочь дала положительный результат на вирус, он ответил: «Вы должны практиковать безопасный секс, правильно и постоянно используя презервативы, или воздержание, по крайней мере, на протяжении всей беременности вашей партнерши ».

Скриншоты похожих ошибок появились в сети ранее на этой неделе, и даже появился специальный Сообщение Reddit это вызвало шутки о том, что Covid-19 становится ЗППП (заболевание, передающееся половым путем), и юмористические сравнения между чат-ботом и компьютером Skynet во франшизе фильма «Терминатор».

В ответ на вопрос о том, где житель Сингапура может пройти АРТ (экспресс-тест на антиген), чат-бот предложил несвязанный ответ о том, как «вакцина от полиомиелита доступна в поликлиниках, частных клиниках, а также клиниках для путешественников».

Однако, если бы вопрос был сформулирован по-другому, чат-бот, по-видимому, дал бы соответствующий совет — для Covid-инфицированного человека сохранять спокойствие и оставаться в своем месте проживания или в указанном медицинском учреждении, ожидая «необходимых транспортных мероприятий» до больницы.

В связи с «несогласованными» ответами Минздрав сообщил местным СМИ, что в понедельник «временно отключил» чат-бота, чтобы «провести тщательную проверку системы и поработать над улучшениями». Однако, по сообщениям СМИ, Ask Jamie продолжает работать на нескольких других правительственных сайтах.

Чат-бот был разработан Государственным технологическим агентством страны (GovTech) в 2014 году и размещен на 70 веб-сайтах государственных учреждений. Во время пандемии GovTech, как сообщается, поощрял жителей использовать инструмент, который один поставщик программного обеспечения рекламировал как «первый в мире виртуальный помощник для всего правительства» — для решения проблем, связанных с Covid.

Очевидно, он использует технологию обработки естественного языка (NLP), чтобы «понять» вопрос и получить наиболее релевантный ответ с веб-сайта или базы данных соответствующего правительственного агентства.

Среди преимуществ использования Ask Jamie, перечисленных на веб-сайте GovTech, можно выделить «большее удобство и доступность для правительства», которые оно предлагает, обещание «быстрых и прямых ответов на запросы» и «улучшение взаимодействия с пользователем за счет диалогового цифрового взаимодействия».

Однако издание технических новостей Techwire Asia отметило, что GovTech планирует заменить чат-бота «платформой виртуального помощника нового поколения» под названием VICA (сокращение от Virtual Intelligent Chat Assistant) в ближайшем будущем. Сообщается, что новый инструмент уже контролирует чат-ботов на веб-сайте правительства Сингапура и на каналах WhatsApp, посвященных Covid-19.

Между тем, Минздрав проинструктировал жителей обращаться к официальному правительственному порталу по Covid-19 за помощью в дальнейших запросах.