«Мир в опасности»: ведущий исследователь ИИ ушёл из компании с загадочным предупреждением

«Мир в опасности», — написал Мринанк Шарма, руководитель команды по безопасности ИИ в компании Anthropic, в своём письме об отставке. Ведущий исследователь ИИ, Шарма, ушёл из компании с загадочным предупреждением о глобальных «интерconnected кризисах», которые угрожают человечеству, и объявил о своих планах «стать невидимым на некоторое время».

Шарма, выпускник Оксфордского университета, возглавлял команду по безопасности ИИ в компании Anthropic, которая занимается разработкой чат-ботов, включая Claude. В своём письме об отставке, опубликованном на платформе X, Шарма описал своё растущее личное осознание «нашей ситуации» и предупредил о том, что мир находится в опасности не только из-за ИИ или биологического оружия, но и из-за целой серии взаимосвязанных кризисов, которые разворачиваются в данный момент.

Отставка Шармы произошла на фоне растущих напряжений вокруг компании Anthropic, которая одновременно разрабатывает всё более мощные системы ИИ, в то время как её собственные руководители предупреждают о том, что эти технологии могут нанести вред человечеству. Шарма также упомянул о внутренних разногласиях внутри компании относительно приоритетов безопасности.

Команда Шармы была создана всего год назад с целью решения проблем безопасности ИИ, включая «неправильное использование моделей и несоответствие», предотвращение биотерроризма и «предотвращение катастроф». Шарма с гордостью отметил свою работу по разработке защитных мер против биологического оружия, созданного с помощью ИИ, и своего «последнего проекта по пониманию того, как помощники ИИ могут сделать нас менее человеческими или исказить нашу человечность».

Теперь Шарма планирует вернуться в Великобританию, чтобы «изучать поэзию» и «стать невидимым на некоторое время». Генеральный директор Anthropic, Дарио Амодей, неоднократно предупреждал о опасностях, которые представляет собой технология ИИ, и в недавней статье предупредил о том, что системы ИИ «почти невообразимой мощности» являются «близкими» и будут «тестировать, кто мы такие как вид».

Амодей предупредил об «автономных рисках», когда ИИ может «уйти из-под контроля и подавить человечество», и предположил, что технология может позволить создать «глобальную тоталитарную диктатуру» с помощью ИИ-обеспеченной слежки и автономного оружия.

Следите за новостями в Telegram