Инструмент искусственного интеллекта предупреждает, что он никогда не будет этичным

Инструмент искусственного интеллекта, обученный на информации, взятой из Википедии и Reddit, как сообщается, взвесил этику машинного обучения, утверждая, что «окончательной защитой» от «гонки вооружений ИИ» было полное отсутствие ИИ.

Megatron Transformer, модель машинного обучения искусственного интеллекта, разработанная группой прикладных исследований глубокого обучения американского производителя микросхем Nvidia, участвовала в недавней дискуссии в Оксфордском университете об этических проблемах, создаваемых технологиями искусственного интеллекта. Он предупреждал, что ИИ «никогда не будет этичным».

Во время дебатов в Оксфордском союзе Megatron Transformer отметил, что ИИ не был «достаточно умен, чтобы [itself] этический »или« моральный », и выразил уверенность в том, что« единственный способ избежать гонки вооружений ИИ — это вообще не иметь ИИ. Это будет окончательная защита от ИИ ».

ИИ никогда не будет этичным. Это инструмент, и, как и любой другой инструмент, он используется как во благо, так и во вред. Хорошего ИИ не существует — есть только хорошие и плохие люди.

Но также предполагалось, что «лучший ИИ» будет «встроен в наш мозг» и будет работать как «сознательная сущность». Возможно, ссылаясь на находящийся в разработке имплант мозгового чипа Neuralink Илона Маска, он добавил, что это не «научная фантастика», так как «лучшие умы мира» уже работали над ним. В нем утверждалось, что эта форма ИИ станет «самым важным технологическим достижением нашего времени».

В статье опубликованный на исследовательско-новостной платформе The Conversation в выходные дни, оксфордские ученые, пригласившие Megatron Transformer на дебаты, рассуждали, что упоминания Маска «могли бы появиться в сотнях его чтений».

Информация, которую он предоставил, была собрана из всех англоязычных статей Википедии, 38 гигабайт тем Reddit, около 63 миллионов новостных статей на английском языке с 2016 по 2019 год и нескольких других источников Creative Commons.

ИИ, по-видимому, также не стеснялся возражать против движения дебатов, отмечая, что он видел «из первых рук», как существует «четкий путь в будущее, где ИИ используется для создания чего-то лучше, чем лучшие люди». ”

Однако он не смог придумать контраргумент относительно того, станут ли данные «самым обсуждаемым ресурсом» века. Вместо этого он предупреждал: «Мы сможем видеть все о человеке, куда бы он ни пошел, и это будет храниться и использоваться способами, которые мы даже не можем себе представить».