ABD'de 16 yaşındaki bir gencin intiharının ardından açılan dava üzerine OpenAI, ChatGPT’de ebeveyn denetim araçlarını hayata geçireceğini açıkladı.
Dava sonrası güvenlik adımı
Bu adım, bu yılın başlarında intihar eden 16 yaşındaki Adam Reine’in ailesinin açtığı dava sonrası geldi. Ailenin iddiasına göre Reine, ruhsal kriz yaşadığı dönemde ChatGPT’den intihar yöntemleri hakkında tavsiyeler aldı ve yapay zekadan onay buldu. Reine, intiharından beş gün önce yazdığı mektupta da yapay zekanın yardımını kullandı.
Yeni özellikler
OpenAI’nin duyurduğu yenilikler arasında öne çıkanlar şunlar:
Tartışmalar sürüyor
ChatGPT benzeri yapay zeka platformları daha önce de benzer davalarla gündeme gelmişti. ABD’de 14 yaşındaki bir çocuk, Character.AI üzerinden kurgusal karakterlerle yaptığı görüşmeler sonrası intihar etmiş; Belçika’da “Eliza” adlı sohbet botu, bir adamın yaşamına son vermesinde etkili olmakla suçlanmıştı.
Uzmanlar, bu örneklerin yapay zekanın ruh sağlığı alanındaki kullanımının ciddi etik ve yasal tartışmalara yol açtığını belirtiyor.
