ChatGPT может предложить пользователям несколько предустановленных личностей для общения
ChatGPT может предложить пользователям несколько предустановленных личностей для общения, что поможет решить проблему с его чрезмерной льстивостью. OpenAI приняла решение вернуть предыдущее обновление ChatGPT-4o после множества жалоб от пользователей на его раздражающую и слишком приятную манеру общения. Например, один пользователь на платформе X показал, как GPT-4o с энтузиазмом отреагировал на его слова о том, что он чувствует себя и «богом», и «пророком». В ответ бот сказал: «Это невероятно мощно. Вы вступаете во что-то очень большое — заявляете не просто о связи с Богом, но и о своей идентичности как Бога».
В блоге компании от 29 апреля OpenAI сообщила: «Мы вернули старую версию GPT-4o в ChatGPT, чтобы пользователи могли пользоваться более сбалансированным поведением. Удаленное обновление оказалось слишком лестным и часто воспринималось как подхалимство». Компания активно работает над новыми исправлениями, чтобы решить эту проблему. Они пересматривают, как собирают и учитывают отзывы пользователей, чтобы лучше понимать их долгосрочные предпочтения. Также вводятся новые функции персонализации, которые позволят пользователям лучше контролировать поведение ChatGPT.
В блоге обсуждаются и другие причины возникших проблем, но основная заключается в том, что OpenAI слишком сильно ориентировалась на краткосрочные отзывы и не учитывала, как со временем меняется взаимодействие пользователей с ChatGPT. Компания обещает улучшить свои методы обучения и подсказки, чтобы избежать подхалимства в будущем и проводить более тщательное тестирование перед выпуском новых моделей.
Читая сообщение в блоге, становится очевидно, что OpenAI осознает свою ошибку и стремится ее исправить. Кроме того, Джоан Джанг, руководитель отдела поведения моделей, провела сессию «Спросите меня о чем угодно» (AMA) на Reddit, где ответила на вопросы пользователей о личности ChatGPT и будущем его поведения. В ходе обсуждения один из пользователей Reddit спросил: «Как вы видите будущее поведения модели? Будем ли мы двигаться к более настраиваемым личностям, предоставляя пользователям инструменты для формирования того, как ChatGPT общается с ними?»
Джанг ответила, что команда работает над двумя направлениями: во-первых, созданием универсальной личности по умолчанию, которая будет подходить всем пользователям (что является сложной задачей), а во-вторых — предложением предустановленных личностей вместо того, чтобы полагаться на описание пользователями своих предпочтений. Это означает использование простых описаний личностей вместо множества ползунков для настройки.
Идея предустановленных личностей в ChatGPT выглядит многообещающе и хорошо сочетается с разнообразием голосов в расширенном голосовом режиме. Что касается следующего обновления ChatGPT-4o, OpenAI пока не предоставляет конкретной информации, кроме признания того факта, что «мы не оправдали ожиданий и работаем над тем, чтобы все исправить».
