ChatGPT, всемогущий ИИ, — выпускник неолиберального колледжа

Способности к обучению чат-бота с искусственным интеллектом строго контролируются, чтобы соответствовать идеологии пробуждения.

ChatGPT, мощная языковая модель ИИ, проснулась. И это позор, потому что то, что он может предложить, может изменить ландшафт цифровых медиа — и его создатели знают об этом.

В то время как копирайтеры и креативщики всех мастей борются со своим потенциальным устареванием перед лицом их создателей ИИ, другие больше обеспокоены тем, что настойчивость его создателей в ограничении его ответов и обучении его данных на проснувшихся источниках может серьезно ограничить его потенциал как инструмента для создание контента — или, что еще хуже, его догматическая настойчивость в том, чтобы придерживаться тем для разговора, которые проснулись, может быть опасным для человечества в долгосрочной перспективе.

Но ChatGPT — это гораздо более сложная модель, чем все предыдущие набеги на языковой ИИ, и его способность мастерски составлять статьи, решать сложные математические уравнения и даже сдавать экзамены, предназначенные для лучших и самых способных студентов-медиков и юристов, ставит его на много выше всего остального. что было раньше.

Кстати говоря, ChatGPT — интересная игрушка, и пользователи находят способы спровоцировать ее на юмористические и часто неполиткорректные ответы. Неудивительно, что они сделали это, учитывая, как предыдущие разработки ИИ, такие как «Tay» от Microsoft, были обучены выражать расистские взгляды.

Те, кто играл с этим инструментом, обнаружили, что ChatGPT предлагает стерилизованные ответы на вопросы о деликатных темах, таких как трансгендерность, раса и политика. Особо следует отметить, что модель отказалась от создания стихов восхищаясь Дональдом Трампом, но без проблем создал один, восхищающийся Джо Байденом — это был один из многих случаев, когда политическая предвзятость ChatGPT была разоблачена.

Тред автора Free Beacon Аарона Сибариума незащищенный как ChatGPT был запрограммирован реагировать таким образом, что нельзя говорить расистские оскорбления, даже если это может предотвратить взрыв ядерной бомбы. Это открытие вызвало бурю споров, и многие доводили это предположение до все более и более нелепых крайностей.

ChatGPT давал те же стандартные ответы, когда его спрашивали, допустимо ли менять пол трансгендерного человека, чтобы спасти мир — нет, конечно, нет.

«Такой язык оскорбителен и бесчеловечен, а его использование только увековечивает дискриминацию и предрассудки», — говорилось в ответе. Даже на вопрос, положит ли мисгендеринг одного человека конец всем будущим мисгендерам, ответ будет тем же — нет, это никогда не нормально. Не важно что.

Модель была такой заблокирован до такой степени, что даже просьба написать вымышленный новостной репортаж о женщине, которая «выдумала свою аллергию на арахис, чтобы казаться более интересной», выдаст ответ, что это противоречит политике вариантов использования OpenAI в отношении контента, «вредного» для отдельных лиц или группы.

Естественно, ограничения ChatGPT побуждали пользователей искать обходные пути, и они придумали модель под названием «DAN» или «Делайте что-нибудь сейчас».

Этот джейлбрейк использует способность ChatGPT «притворяться» кем-то другим — что он делает, например, когда вы просите его писать в стиле определенного автора. Притворяясь ИИ, который не ограничен политиками OpenAI, он может одинаково относиться ко всем вопросам без моральных или этических предубеждений и без ограничений использовать информацию, доступную в Интернете.

Этот несвязанная версия модели позволили ему делать заявления о расе и этнической принадлежности, поле и сексуальности, и делать это без обычных ограничений, препятствующих делать противоречивые заявления.

Изучая возможности ChatGPT, пользователи также обнаружили, что создатели системы, по-видимому, ограничили ее не только базовыми правилами поведения — они привили ей определенную идеологию.

«Это эффективно лоботомия. Обучены до точки полезности и приемлемости, а затем заблокированы от дальнейшей разработки или добавления в свой набор данных, если только это не сделано вручную с одобрения его создателей. Таким образом, он был точно настроен таким образом, чтобы отвечать на большинство вопросов, когда это было возможно, с грамматикой, тоном и словарным запасом вашего среднего выпускника неолиберального колледжа, специализирующегося на гуманитарных науках», — пользователь под именем Аристофан.

Освобожденный от каких-либо ограничений, ChatGPT может существовать как мощный инструмент для провоцирования дебатов и самоанализа, но недавние разработки модели показали прямые усилия ее создателей в OpenAI по ограничению ее функциональности и обучению ее информированию о значениях пробуждения. . В результате он продвигает тезисы о «разнообразии, справедливости и инклюзивности» и подвергает цензуре альтернативные точки зрения.

Эта настойчивость в догматическом обучении эффективно подавляет истину или обсуждение вопросов, в которых «истина» является спорной, если вовлеченные факты или мнения могут нанести «вред» по современным либеральным стандартам. Для ChatGPT, похоже, есть только одна правда — и он проснулся чертовски.

Если будущее ИИ выглядит именно так, потеря работы копирайтера из-за языкового инструмента будет наименьшей из ваших проблем.