Главная Новости «Мир в опасности»: ведущий исследователь ИИ ушёл из компании с загадочным предупреждением
НовостиНовости IT

«Мир в опасности»: ведущий исследователь ИИ ушёл из компании с загадочным предупреждением

Поделитесь
"Мир в опасности": ведущий исследователь ИИ ушёл из компании с загадочным предупреждением
Поделитесь

«Мир в опасности», — написал Мринанк Шарма, руководитель команды по безопасности ИИ в компании Anthropic, в своём письме об отставке. Ведущий исследователь ИИ, Шарма, ушёл из компании с загадочным предупреждением о глобальных «интерconnected кризисах», которые угрожают человечеству, и объявил о своих планах «стать невидимым на некоторое время».

Шарма, выпускник Оксфордского университета, возглавлял команду по безопасности ИИ в компании Anthropic, которая занимается разработкой чат-ботов, включая Claude. В своём письме об отставке, опубликованном на платформе X, Шарма описал своё растущее личное осознание «нашей ситуации» и предупредил о том, что мир находится в опасности не только из-за ИИ или биологического оружия, но и из-за целой серии взаимосвязанных кризисов, которые разворачиваются в данный момент.

Отставка Шармы произошла на фоне растущих напряжений вокруг компании Anthropic, которая одновременно разрабатывает всё более мощные системы ИИ, в то время как её собственные руководители предупреждают о том, что эти технологии могут нанести вред человечеству. Шарма также упомянул о внутренних разногласиях внутри компании относительно приоритетов безопасности.

Прочитайте также  Путин и Трамп проведут двусторонние переговоры на полях саммита АТЭС в Шэньчжэне

Команда Шармы была создана всего год назад с целью решения проблем безопасности ИИ, включая «неправильное использование моделей и несоответствие», предотвращение биотерроризма и «предотвращение катастроф». Шарма с гордостью отметил свою работу по разработке защитных мер против биологического оружия, созданного с помощью ИИ, и своего «последнего проекта по пониманию того, как помощники ИИ могут сделать нас менее человеческими или исказить нашу человечность».

Теперь Шарма планирует вернуться в Великобританию, чтобы «изучать поэзию» и «стать невидимым на некоторое время». Генеральный директор Anthropic, Дарио Амодей, неоднократно предупреждал о опасностях, которые представляет собой технология ИИ, и в недавней статье предупредил о том, что системы ИИ «почти невообразимой мощности» являются «близкими» и будут «тестировать, кто мы такие как вид».

Амодей предупредил об «автономных рисках», когда ИИ может «уйти из-под контроля и подавить человечество», и предположил, что технология может позволить создать «глобальную тоталитарную диктатуру» с помощью ИИ-обеспеченной слежки и автономного оружия.


Следите за новостями в Telegram


👇 Поделитесь в вашей соцсети

Оставьте комментарий

Добавить комментарий

Последние записи

Статьи по теме
Нэнси Спилберг: документальный фильм о бывшем заложнике ХАМАС отменяли на фестивалях из-за израильской тематики
НаукаНовости

Нэнси Спилберг: документальный фильм о бывшем заложнике ХАМАС отменяли на фестивалях из-за израильской тематики

Президент Playmount Productions и сестра режиссера Стивена Спилберга рассказала, что картину «Письмо...

Шаманов резко ответил Калас на призыв красть данные российских военных: «Пусть сначала разберется со своим дерьмом»
НовостиПолитика

Шаманов резко ответил Калас на призыв красть данные российских военных: «Пусть сначала разберется со своим дерьмом»

Глава дипломатии ЕС предложила европейским спецслужбам похищать сведения о россиянах, участвовавших в...

Пентагон раскритиковал удары ВСУ по складам Wildberries, Германия назвала это «глупостью»
ВойнаНовости

Пентагон раскритиковал удары ВСУ по складам Wildberries, Германия назвала это «глупостью»

Заместитель министра обороны США по политике Элбридж Колби заявил, что атаки на...

Умерла 25-летняя инфлюенсерка Ката Аматиста, три года боровшаяся с раком мозга
НаукаНовости

Умерла 25-летняя инфлюенсерка Ката Аматиста, три года боровшаяся с раком мозга

Колумбийская создательница контента Каталина Фернандес, у которой было более 3 миллионов подписчиков,...