Компания OpenAI объявила о введении новых ограничений на использование ChatGPT для пользователей младше 18 лет. Это решение связано с необходимостью обеспечения безопасности, соблюдения норм и этических стандартов.
По информации компании, некоторые функции могут быть ограничены или полностью недоступны для несовершеннолетних.
По сообщению TechCrunch, данные меры направлены на защиту детей и подростков, а также предоставление им безопасного и соответствующего контента. обновлённая политика будет внедряться постепенно в течение ближайших недель.
На днях соответствующее заявление главы компании Сэма Альтмана опубликовано в блоге на официальном сайте. По его словам, при разработке правил компания искала баланс между безопасностью, свободой и приватностью, однако в случае с подростками приоритет отдается защите.
Сообщается, что OpenAI внедрит систему поведенческого анализа, которая будет помогать определять возраст пользователя. Если модель не сможет достоверно установить возраст, она будет автоматически считать человека подростком и ограничивать доступ к определенным функциям.
Подросткам станет недоступно создание художественных текстов, содержащих элементы самоповреждения или обсуждения самоубийства. Даже в творческих сценариях система будет отказывать в генерации подобных сюжетов. Если несовершеннолетний в диалоге с ChatGPT выскажет суицидальные намерения, система сможет уведомить родителей, а при непосредственной угрозе жизни — обратиться к компетентным органам.
Для взрослых пользователей функциональность ChatGPT сохранится в полном объеме, включая доступ к чувствительным темам при условии соблюдения общих правил безопасности. Ограничения распространяются как на новые, так и на действующие аккаунты. При этом OpenAI пока не уточнила, каким образом будет обеспечиваться соблюдение этих правил в разных странах, учитывая различия в законодательстве и культурных особенностях.
Альтман подчеркнул, что компания стремится сделать ChatGPT полезным и безопасным для всех возрастных групп, но сознательно идет на ограничение свободы подростков ради их защиты. «В некоторых случаях или странах мы также можем запросить удостоверение личности; мы понимаем, что это нарушает конфиденциальность для взрослых, но считаем это оправданным компромиссом», — отметил глава OpenAI.
