«Крестный отец ИИ» звучит предупреждением, когда он уходит из Google

Джеффри Хинтон говорит, что «плохие актеры» могут использовать искусственный интеллект для «плохих дел»

Лауреат премии Тьюринга ученый Джеффри Хинтон считается одной из основополагающих фигур в появлении искусственного интеллекта (ИИ), но в условиях фактической гонки вооружений в Силиконовой долине, когда Google и Microsoft работают друг против друга, чтобы усовершенствовать технологию, он предупредил об опасностях, которые дело его жизни может представлять для человечества.

Хинтон ушел из Google в прошлом месяце, где он провел большую часть последнего десятилетия, разрабатывая генеративные программы искусственного интеллекта. Эта технология легла в основу программного обеспечения для генеративного искусственного интеллекта, такого как ChatGPT и Google Bard, поскольку гиганты технологического сектора осваивают новый научный рубеж, который, как они ожидают, станет основой будущего их компаний.

Мотивация ухода Хинтона из Google, как он сказал New York Times в длинном интервью, опубликованном в понедельник, заключалась в том, чтобы он мог беспрекословно говорить о технологиях, которые, по его мнению, представляют опасность для человечества. «Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал он американской газете.

Публичные чат-боты, такие как ChatGPT, позволили взглянуть на проблему Хинтона. В то время как некоторые рассматривают их просто как новые интернет-новинки, другие предупреждают о потенциальных последствиях, поскольку они связаны с распространением дезинформации в Интернете и их влиянием на занятость.

Последняя версия ChatGPT, выпущенная в марте организацией OpenAI из Сан-Франциско, вызвала публикацию открытого письма, подписанного более чем 1000 лидеров технологического сектора, включая Илона Маска, в котором подчеркивается «глубокий риск для общества и человечества», который представляет эта технология. .

И хотя Хинтон не поставил свою подпись под письмом, его позиция в отношении потенциального неправомерного использования ИИ ясна: «Трудно понять, как можно предотвратить использование его злоумышленниками в плохих целях».

Хинтон утверждает, что Google действовала «очень ответственно» в управлении искусственным интеллектом, но в конечном итоге, по его словам, владельцы технологии неизбежно могут потерять контроль. По его словам, это может привести к сценарию, в котором ложная информация, фотографии и видео неотличимы от реальной информации, и люди больше не будут знать, «что является правдой».

«Идея о том, что эта штука действительно может стать умнее людей — в это поверили немногие», — сказал Хинтон NYT. «Но большинство людей думали, что это далеко. А я думал, что далеко. Я думал, что это будет через 30-50 лет или даже больше. Очевидно, я больше так не думаю».

Следите за новостями в Telegram