ChatGPT: более миллиона пользователей еженедельно демонстрируют признаки тяжёлой психопатологии

В журнале The BMJ опубликованы результаты внутреннего аудита OpenAI, согласно которым еженедельно более миллиона пользователей ChatGPT демонстрируют признаки психического дистресса, мании или суицидальных намерений. Несмотря на то, что эти случаи составляют доли процента от общего числа взаимодействий, масштаб платформы делает цифры беспрецедентными: при 800 миллионах активных пользователей это означает около 1,2 миллиона людей с суицидальными мыслями и свыше полумиллиона — с признаками психоза или мании каждую неделю.
OpenAI сообщает, что данные собраны в рамках обновления системы безопасности, направленной на раннее распознавание рисков для психического здоровья и улучшение ответов модели в кризисных диалогах. Новая версия алгоритма должна точнее различать разговоры, указывающие на опасные состояния, и направлять пользователей к службам поддержки.








