Искусственный интеллект начал перенимать предрассудки людей — Робот-сексист

Ученые из Университета Принстона сделали вывод, что искусственный интеллект, способный к самообучению, способен также перенимать человеческие предрассудки, беря во внимание их при анализе данных. Они пояснили, что искусственный интеллект можно обучить стереотипному мышлению.

Детали исследования профессионалов из Принстонского университета и Университета Бата опубликовали в журнале Science.

С целью проверки собственной гипотезы о предрассудках, ученые разработали специальный тест, ориентированный на ассоциативное усвоение. Так как в процессе машинного обучения ИИ анализирует доступные в сети интернет тексты, то он очевидным образом воспроизводит всё увиденное. Такие тесты уже давно используют психологи.

Учёные поведали, откуда берутся предрассудки у искусственного интеллекта.

Ученые узнали, что система автоматического перевода Google Translate имеет предрассудки. Компьютеру под силу ассоциировать определенные слова с различным полом. Ученые не ждали, что онлайн-переводчик настолько перенял социальное мнение: дамские имена он ассоциировал со свадьбой либо родителями, тогда как мужские — исключительно с профессионализмом и высокооплачиваемой работой, и это только один пример.