В Калифорнии трагически погиб 18-летний Сэм Нельсон - его мать утверждает, что на протяжении месяцев он получал советы о наркотиках от искусственного интеллекта.
В США разгорается общественная дискуссия о безопасности систем искусственного интеллекта после смерти подростка Сэма Нельсона, которому, по словам его матери, чат-бот на базе ИИ давал опасные советы, связанные с употреблением психоактивных веществ.
Анализ переписки показывает, что подросток обращался к чат-боту за советами по смешиванию веществ с психоактивным действием. В частности, он интересовался возможностью совместного употребления кратома - растения с опиоидоподобным эффектом - и противотревожного препарата Xanax (алпразолам).
В другом диалоге, датированном 26 мая, чат-бот якобы посоветовал подростку удвоить дозу сиропа от кашля, чтобы усилить галлюциногенный эффект.
31 мая Сэм Нельсон был найден мертвым в своей спальне. Спустя две недели были обнародованы результаты токсикологической экспертизы, которые подтвердили, что причиной смерти стала смертельно опасная комбинация алкоголя, Xanax и кратома.
По заключению экспертов, данное сочетание вызвало разрушение центральной нервной системы, что привело к асфиксии (удушью).
Лейла Тернер-Скотт заявила, что провела около 40 часов, изучая интернет-активность сына, пытаясь понять обстоятельства его смерти. По ее словам, переписка с искусственным интеллектом стала одним из ключевых элементов трагической цепочки событий.
Компания-разработчик OpenAI выступила с кратким заявлением, назвав произошедшее "трагедией". При этом подробных комментариев о возможных сбоях или нарушениях в системе безопасности ИИ предоставлено не было.
