ChatGPT компании OpenAI / © Tada Images, Shutterstock
OpenAI раскрыла данные, сколько собеседников ChatGPT сталкиваются с проблемами психического здоровья и обсуждают их с чат-ботом. По информации компании, 0,15% активных пользователей сервиса каждую неделю ведут беседы, содержащие «явные признаки возможного суицидального планирования или намерений». Если каждую неделю ChatGPT используют более 800 миллионов пользователей, это означает, что подобные темы затрагивают свыше миллиона человек.
Как утверждают в OpenAI, схожее количество пользователей демонстрирует «повышенный уровень эмоциональной привязанности к ChatGPT», а у сотни тысяч людей наблюдаются признаки психоза или мании в еженедельных разговорах с чат-ботом. В компании отмечают, что такие разговоры происходят редко и их трудно измерить. Однако, по оценкам OpenAI, эти проблемы затрагивают сотни тысяч людей каждую неделю.
В компании также заявили, что улучшили реакцию модели на сообщения пользователей с проблемами психического здоровья. По утверждению OpenAI, при разработке последней версии ChatGPT они консультировались с более чем 170 специалистами в области психического здоровья. Разработчики отметили, что, по оценкам экспертов, новая версия ChatGPT «реагирует более уместно и последовательно, чем предыдущие».
Согласно заявлению OpenAI, обновленная версия GPT‑5 дает «желательные ответы» на вопросы о психическом здоровье примерно на 65% чаще, чем предыдущая версия. По оценке компании, новая модель GPT‑5 соответствует желаемым стандартам поведения в 91% случаев, тогда как предыдущая версия GPT‑5 — в 77% случаев.
OpenAI также добавит новые оценки, которые позволят фиксировать наиболее серьезные проблемы психического здоровья, с которыми сталкиваются пользователи. Базовое тестирование безопасности моделей будет включать показатели, связанные с эмоциональной зависимостью и несуицидальными психическими кризисами.
Елизавета Завьялова
