OpenAI обновила ChatGPT для безопасной работы с психическими расстройствами
OpenAI заявила о значительных усовершенствованиях в ChatGPT, имеющих целью более четкое выявление признаков эмоционального кризиса и соответствующее реагирование на них. В процессе разработки обновления компания взаимодействовала с более чем 170 экспертами в области психологии и психиатрии из 60 стран. По их сведениям, частота нежелательных или рискованных ответов системы в подобных беседах уменьшилась на 65-80%.
Теперь ChatGPT более эффективно определяет ситуации, связанные с психотическими состояниями, манией, суицидальными наклонностями или зависимостью от взаимодействия с искусственным интеллектом, и способен аккуратно направлять пользователей к квалифицированной поддержке. В модель добавлены встроенные напоминания, побуждающие делать перерывы во время продолжительных сессий, а также ссылки на действующие телефоны доверия. Модернизированный алгоритм также избегает подтверждения бредовых или тревожных убеждений и стремится проявлять эмпатию и спокойствие в ответах.
Основываясь на итогах испытаний, проведенных с привлечением психиатров, новая версия GPT-5 продемонстрировала существенный прогресс в качестве ответов в «сложных» диалогах. В ситуациях, связанных с саморазрушительным поведением, модель стала давать адекватные ответы в 91% случаев, в сравнении с 77% у GPT-4o, а при признаках эмоциональной привязанности к ChatGPT — в 97% случаев против 50% ранее. Специалисты подчеркнули, что улучшенная версия лучше соблюдает баланс между сопереживанием и направлением к реальной помощи.
В планах OpenAI — внедрение новых стандартов безопасности, включающих контроль не только за темами, связанными с суицидом, но и за более мягкими проявлениями эмоционального дискомфорта. Компания планирует продолжать сотрудничество с врачами и развивать собственные методы оценки поведения моделей, чтобы ChatGPT продолжал быть полезным и надежным даже в самых деликатных беседах.
