Son dönemde hayatımızın her anında bir detayı danışmak için koştuğumuz yapay zekânın hızla artan kullanımının ne kadar tehlikeli olabileceğini bir kez daha gözler önüne seren olay, İrlanda’da yaşayan bir adamın başına geldi. Öyle ki, boğaz ağrılarını aylarca önemsemeyen Warren, doktora gitmek yerine yapay zekâya güvendi ve ChatGPT’ye danıştı. “Sorun yok” cevabıyla rahatladı, fakat gerçek bambaşkaydı. İşte yapay zeka tehlikesini bir kez daha gözler önüne seren olayın ayrıntıları.
Gelişen teknolojiyle beraber kişisel danışmanımız haline gelen yapay zeka, son dönemde trajik olaylarla gündeme gelmeye devam ediyor. Bunların sonuncusu ise sağlığını yapay zekayla riske atan Warren Tierney oldu. Aylarca süren boğaz ağrılarını önemsemedi, doktora gitmek yerine çareyi yapay zekâda aradı. “Erkeklerin klasik huyu, doktora gitmeyi sürekli ertelemek” diyen Tierney, semptomlarını ChatGPT’ye anlattı.
'Mahkeme dilekçeni ben hazırlarım'
ChatGPT, Tierney’e “Kanser? Çok düşük ihtimal” cevabını verdi. Hatta, “Yanılırsam benimle dalga geçersin, tamam mı?” diye espri yaptı. Tierney’nin “Kanser çıkarsa seni dava ederim” sözlerine de, “Dava etmene gerek kalmaz, mahkeme dilekçeni ben hazırlarım” diye karşılık verdi.
Geciken teşhis ölümcül oldu
Ancak ağrılar dayanılmaz hale geldiğinde ve eşinin ısrarları üzerine hastaneye gittiğinde gerçek ortaya çıktı: Tierney’ye dördüncü evre yemek borusu kanseri teşhisi konuldu. Artık tedavi şansı çok azalmıştı.
“ChatGPT’ye güvenmem bana birkaç ay kaybettirdi. Yapay zekâ insanın duymak istediğini söylüyor, ama gerçeği söylemiyor” diyerek pişmanlığını dile getirdi.
Yapay zekaya körü körüne güven
Tierney, ChatGPT ile sohbet etmeyi daha rahat, kolay ve güvenilir bulduğunu söyledi: “Sürekli cevap veriyor, bilgiyi güzel sunuyor. Ama güzel sunulması doğru olduğu anlamına gelmiyor.”
Eşi Evelyn, yurt dışında tedavi olabilmek için bağış kampanyası başlattı. Tierney’nin tek isteği ise “çocuklarının büyüdüğünü görebilmek.”
OpenAI’den açıklama
Olayın ardından OpenAI, sözcüsü, yazılımın şartlarının 'herhangi bir sağlık sorununun tedavisinde kullanılmak üzere tasarlanmadığını ve profesyonel tavsiyenin yerine geçmediğini' açıkça belirttiğini söyledi.
ChatGPT güvenlik ekiplerinin 'riskleri azaltmak için çalıştığını ve insanları profesyonel rehberlik almaya teşvik etmek için yapay zeka sistemlerimizi eğittiğini' eklediler.
OpenAI'nin hizmet kılavuzundan bir alıntı şöyle: 'Hizmetlerimiz herhangi bir sağlık durumunun teşhis veya tedavisinde kullanılmak üzere tasarlanmamıştır.'
Kullanım koşullarından bir diğer cümle ise şöyle: 'Hizmetlerimizden elde edilen çıktılara tek başına gerçek veya olgusal bilgi kaynağı olarak ya da profesyonel tavsiyelerin yerine geçecek şekilde güvenmemelisiniz.'
