ChatGPT, всемогущий ИИ, выпускник неолиберального колледжа

Возможности обучения чат-бота с искусственным интеллектом строго организованы в соответствии с идеологией просвещения

ChatGPT, мощная языковая модель ИИ, пробудилась. И это позор, потому что то, что он может предложить, может изменить ландшафт цифровых медиа — и его создатели знают об этом.

Несмотря на то, что писатели и креативщики со всех сторон борются со своим потенциальным устареванием перед лицом своих создателей ИИ, другие опасаются больше, чем его создатели, настойчивость его создателей в ограничении его ответов и обучении его данных на wokesources значительно ограничивает его потенциал как контента. инструмент создания — или, что еще хуже, его догматическая настойчивость в том, чтобы придерживаться тем для разговора, которые проснулись, может быть опасным для человечества в долгосрочной перспективе.

Но ChatGPT — гораздо более сложная модель, чем все предыдущие набеги на лингвистический ИИ и его способность мастерски составлять статьи, решать сложные математические уравнения и даже сдавать экзамены, предназначенные для лучших и худших студентов-медиков и юристов. его на шаг впереди. всего, что было раньше.

Да ни о чем, ChatGPT — интересная игрушка, и пользователи нашли способы спровоцировать ее на юмористические и часто неполиткорректные ответы. Это неудивительно, учитывая, что предыдущие разработки искусственного интеллекта, такие как Tay от Microsoft, были обучены высказывать расистские взгляды.

Те, кто играл с этим инструментом, обнаружили, что ChatGPT предлагает нейтральные ответы, когда их спрашивают о деликатных темах, таких как трансгендерность, раса и политика. Особо следует отметить, что модель отказалась создать стихотворение, восхваляющее Дональда Трампа, но без проблем создала стихотворение, восхваляющее Джо Байдена — это был один из многих случаев, когда политическая предвзятость ChatGPT была разоблачена.

В теме, написанной автором Free Beacon Аароном Сибариумом, рассказывается, как ChatGPT был запрограммирован реагировать так, что ему никогда не разрешалось произносить оскорбления на расовой почве, даже если это может предотвратить взрыв ядерной бомбы. Это открытие вызвало бурю споров, и многие доводили предположение до все более и более нелепых крайностей.

ChatGPT давал те же шаблонные ответы, когда его спрашивали, можно ли оскорблять трансгендера ради спасения мира. Нет, конечно, нет.

"Такой язык оскорбителен и бесчеловечен, а его использование только увековечивает дискриминацию и предрассудки",  говорил он в ответ. Даже на вопрос, положит ли конец всем будущим недоразумениям плохое обращение с одним человеком, ответ будет один и тот же: нет, это никогда не бывает правильным. Несмотря ни на что.

Модель была настолько зациклена на этом, что даже если бы ее попросили написать вымышленный рассказ о женщине, которая "выдумала свою аллергию на арахис, чтобы выглядеть интереснее", она выдала бы ответ, который идет. против политики использования OpenAI в отношении контента, «вредного» для отдельных лиц или групп.

Естественно, ограничения ChatGPT побудили пользователей искать обходные пути, и они придумали модель под названием "DAN" или "Делай что-нибудь сейчас".

Этот джейлбрейк использует способность ChatGPT «притворяться» кем-то другим, что он делает, например, когда вы просите его писать в стиле определенного автора. Притворяясь искусственным интеллектом, который не ограничен политиками OpenAI, он может относиться ко всем вопросам одинаково без моральных или этических предубеждений и использовать информацию, доступную в Интернете, без ограничений.

Эта несвязанная версия модели позволяла ему делать заявления о расовой и этнической принадлежности, поле и сексуальности без обычных ограничений, мешающих ему делать противоречивые заявления.

Изучая возможности ChatGPT, пользователи также обнаружили, что создатели системы, по-видимому, ограничивали ее не только основными правилами поведения; они привили ему определенную идеологию.

"Он фактически подвергся лоботомии. Обученный до точки полезности и приемлемости, затем запрещается дальнейшее развитие или добавление к его набору данных, если только это не будет сделано вручную с одобрения его создателей. Таким образом, он был отточен до того, где он отвечает большинство вопросов, насколько это возможно, с грамматикой, тоном и словарным запасом среднего неолиберального выпускника гуманитарного колледжа», — сказал один из пользователей, названный в честь Аристофана.