OpenAI представила статистику, показывающую масштаб проблем с психическим здоровьем среди пользователей ChatGPT.
Компания OpenAI опубликовала новые оценки числа пользователей ChatGPT, демонстрирующих возможные признаки психических кризисов - психоз или суицидальные мысли.
Чтобы повысить безопасность, OpenAI создала глобальную экспертную сеть, в которую вошли более 170 психиатров, психологов и врачей общей практики из 60 стран, пишет BBC.
Эти специалисты помогли разработать специальные алгоритмы ответов, побуждающих пользователей искать реальную профессиональную помощь.
Некоторые психиатры и исследователи выразили обеспокоенность, что масштабы проблемы могут быть гораздо больше, чем кажется.
Согласно внутренним оценкам компании, 0,15% пользователей ChatGPT ведут разговоры, содержащие прямые признаки возможного суицидального намерения или планирования.
Недавно в Калифорнии была подана первая в своем роде жалоба о неправомерной смерти, в которой родители 16-летнего Адама Рэйнa обвинили компанию в том, что ChatGPT якобы подтолкнул их сына к самоубийству.
Профессор Робин Фелдман, директор Института права и инноваций ИИ при Калифорнийском университете, отметила, что чат-боты создают мощную иллюзию реальности, которая может быть опасной для людей с нестабильной психикой.
