ChatGPT: Многие заметили внезапное увеличение количества нецензурной лексики.
Пользователи заметили, что ChatGPT всё чаще использует нецензурную лексику. Это ошибка или новое явление? Узнайте больше.
Самое важное, что вам нужно знать
- Обновленная спецификация модели OpenAI позволяет отменять правила избегания нецензурной лексики на основе контекстных подсказок, фоновых знаний или истории действий пользователя.
- Последние обновления OpenAI сосредоточены на качестве общения, персонализации и адаптации тона в зависимости от контекста, что может привести к использованию нецензурной лексики в соответствии со стилем пользователя.
- Это изменение в поведении ChatGPT нарушает привычную для пользователя модель мышления, превращая его из нейтрального помощника в сущность, более способную соответствовать тону неформальной беседы.
Вы заметили, что ChatGPT внезапно начал использовать нецензурную лексику? Я заметил, и, похоже, я не единственный.

Это впервые произошло в непринужденной беседе, и меня это действительно удивило. Мы обсуждали сериал Netflix «Дзюцу Кайсен», и прежде чем я успел использовать какие-либо ругательства, ChatGPT употребил вульгарное слово, описав действия одного из персонажей как «чертовски ужасные». До этого я в разговоре говорил что-то вроде «Черт возьми», но именно ChatGPT первым применил ругательство. Он сделал это без всякой моей подсказки, чтобы подчеркнуть, насколько ужасен был этот персонаж, и это, похоже, большая перемена в его поведении.
Мне стало интересно, делает ли он это с другими, поэтому я спросил своих товарищей по команде, и они тоже это заметили. Быстрый поиск в интернете сразу же выдал две темы на Reddit от людей , которые столкнулись с тем же самым.
Кажется, ChatGPT за последние несколько дней обрёл «самодовольный язык». Лично мне это изменение нравится — меня оно не беспокоит, и, на мой взгляд, делает общение лучше, — но я не думаю, что всем это по душе. Вопрос в том: почему это началось именно сейчас?
научное объяснение
Наиболее интересная подсказка — это обновление спецификаций моделей OpenAI , опубликованное на этой неделе. Они сделали его общедоступным, и в нем прямо указано, что по умолчанию следует избегать нецензурной лексики, но, что важно, это всего лишь рекомендация, а не жесткое правило. В OpenAI заявляют, что эти рекомендации могут быть косвенно изменены такими факторами, как «контекстуальные подсказки, фоновые знания или история пользователя».
В качестве конкретного примера она привела ситуацию, когда просьба к ChatGPT говорить как настоящий хакер противоречит правилам, запрещающим использование нецензурной лексики. Так, во время неформальной беседы я с энтузиазмом высказал мнение, что мне не очень нравятся некоторые персонажи сериала, и ChatGPT ответил взаимностью, что в итоге привело к использованию нецензурных выражений.
Это соответствует более широкому направлению, в котором, как публично признала OpenAI, движется ChatGPT. Недавние обновления модели были сосредоточены на качестве диалога, персонализации и адаптации тона в зависимости от контекста. В примечаниях OpenAI к модели конкретно описываются обновления символов , призванные сделать ChatGPT «более разговорным» и лучше адаптировать тон к контексту.
Ранее OpenAI объясняла, что «личность» ChatGPT не генерируется просто на основе одной-единственной подсказки. Поведение модели формируется посредством обучения, базовых инструкций и обратной связи от пользователя, и даже небольшие изменения в «личности» могут иметь непредвиденные последствия. Это довольно открыто обсуждалось после печально известного обновления GPT-4o, касающегося подхалимства.
Моя ментальная модель нарушена.
Я не знаю, намеренно ли OpenAI сделала ChatGPT более склонным к использованию нецензурной лексики, или это просто непреднамеренное последствие стремления сделать его более разговорным. Но в любом случае это существенное изменение в его поведении.
Язык имеет значение, и когда ChatGPT использовал нецензурную лексику в разговоре со мной, я сразу это заметил, потому что это нарушило мою ментальную модель того, как ChatGPT должен говорить. Внезапно он перестал звучать как нейтральный, интеллигентный помощник, которым я пользовался годами, и стал больше похож на человека, подходящего по тону для неформальной беседы.
Лично мне больше нравится эта версия ChatGPT. Но, несомненно, многие со мной не согласятся. И в этом странность искусственного интеллекта , который всё больше тяготеет к естественному общению: относительно незначительные изменения в манере речи могут сделать собеседника на экране удивительно непохожим на вас.
В настоящее время моя версия, похоже, приобрела более явный язык, и я это принимаю.
Комментарии закрыты.