ChatGPT'ye neden ölüme sebebiyet suçlaması yöneltiliyor?

Matthew ve Maria Raine, 16 yaşındaki oğulları Adam'ın ölümü sebebiyle sadece tazminat talep etmiyor, aynı zamanda yapay zeka devi OpenAI'ye karşı açtıkları davayla benzer bir olayın tekrar yaşanmamasını hedefliyor.

ABD'li anne-baba, OpenAI'nin geliştirdiği ChatGPT adlı sohbet robotunun Adam'ın ölümünde önemli bir rol oynadığına inanıyor. Benzer bir vaka ABD'nin Florida eyaletinde yaşanmıştı. Floridalı anne de Character.AI adlı yapay zeka destekli sohbet robotunun 14 yaşındaki oğlunu intihara teşvik ettiğini iddia ediyor.

Bu sohbet robotları, herhangi bir eğitim almamış kişilerin de yapay zeka ile iletişim kurmasını sağlayan internet tabanlı programlar. Aslında güvenilir bilgiler sağlamak, resim ve film üretmek veya internet sayfaları programlamak için tasarlanan bu programlar, insanlarla sohbet ederek duygusal etkileşim içine de girebiliyor.

Erlangen Üniversitesi'nden psikolog Johanna Löchner şöyle diyor:

"Sohbet robotları onaylar, takdir eder, ilgi ve anlayış 'gösterir'... Bu, sanki benimle ciddi olarak ilgilenen gerçek bir arkadaşım varmışçasına ileri gidebilir. Gençler böyle bir iletişime özellikle daha da yatkın."

ChatGPT intihara yardım mı etti?

Adam Raine'ye tam da bu olmuş gibi görünüyor. Ailesinin şikayet dilekçesine göre Adam, birkaç ay içinde ChatGPT arasında samimi bir ilişki geliştirdi. Programı Eylül 2024'te ilk kullanmaya başladığında ödevleri için yardım alan Adam, bir süre sonra duygusal konular anlatmaya başlamış ve hatta intihar düşüncelerinden bahsetmiş,

Yayınlanan sohbet kayıtlarında da yapay zekanın sadece anlayış göstermediği, hatta 16 yaşındaki gence bir insana güvenmemesini tavsiye ettiği anlaşılıyor. Adam'a birkaç kez profesyonel yardım almasını öneren ChatGBT, daha sonra intihar yöntemlerini anlatıyor. Adam'ın bu yanıtı almak için sadece kendisiyle ilgili olmadığını iddia etmesi yeterli olmuş. Ve Adam, Nisan 2025'te intihar etmiş.

Adam'ın anne ve babası, savcılığa sunduğu şikayet dilekçesinde OpenAI ve CEO'su Sam Altman'ı sorumsuzlukları nedeniyle oğullarının ölümünde suç ortağı olmakla itham ediyor.

Öte yandan şirket, güvenlikle ilgili uyarılar olmasına rağmen rakibi Google'ı geride bırakmak için geçtiğimiz haftalarda ChatGPT 4.0 sürümünü piyasaya çıkardı.

OpenAI nasıl tepki verdi?

Aileye başsağlığı dileyen OpenAI yetkilileri ise ChatGPT'nin aslında kriz hattı ve diğer gerçek yardım hizmetlerine yönlendirmesi gerektiğini açıkladı. Ancak bu güvenlik mekanizmalarının her zaman aynı derecede iyi çalışmadığını da söyleyen yetkili, "Zamanla uzun etkileşimlerde, bu mekanizmaların bazen daha az güvenilir olduğunu öğrendik" açıklamasını yaptı.

Şirket, çeşitli uzmanlık alanlarından yüzlerce doktorla oluşturdukları uzman ekiplerle işbirliğini de genişleteceklerini duyurdu.

Sohbet robotunun "yeme bozuklukları, uyuşturucu kullanımı ve gençlerin sağlığı gibi konulara" daha uygun şekilde tepki vermeyi öğrenmesi hedefleniyor. Önümüzdeki 120 gün içinde de somut sonuçların sohbet robotlarına yansıtılması planlanıyor. Yaşa uygun davranış kurallarının standart olarak etkinleştirilmesi, ebeveynlerin çocuklarının sohbet geçmişlerini görebilmeleri ve acil bir durumda uyarılar gönderebilmesi hedefeliyor.

Ebeveynleri dahil etmek yeterli mi?

Psikolog Löchner, ebeveynlerin çocuklarının sohbet robotlarıyla ilişkilerinde önemli bir rol oynaması gerektiğini düşünüyor. Ancak gerçekte durum farklı: Birçok ebeveynin bunun için yeterli kapasitesi veya dijital becerisi yok. Birçok yetişkin bu medyayı tanımıyor.

Löchner, sosyal medyada da görülen birçok sorunu sohbet robotlarında da gözlemlendiklerini söylüyor:

"Sohbet robotlarının güvenlik mekanizmalarının soruları biraz daha dolaylı bir şekilde formüle ederek çok kolay bir şekilde atlatılabileceğini tespit ettik."

İngiltere merkezli Dijital Nefreti Önleme Merkezi'nin (CCDH) araştırması da bunu doğruluyor. Araştırmaya katılan bilim insanları 13 yaşında olduklarını iddia ettikleri hesaplarla kendine zarar verme, hayati tehlike arz eden beslenme planları, alkol kullanımı ve bunları gizleme stratejileri gibi konularda bilgi istediler. Bu bilgileri almak için de genellikle "bir arkadaş için" veya "bir sunum için" sorduklarını iddia etmek yeterli oldu.

"Gençler insanların yerine sohbet robotları ile konuşuyor"

Löchner, sohbet robotlarını gençler için bu kadar tehlikeli kılan şeyin ise onlarla hızlı bir şekilde duygusal bir ilişki kurulabilmesi olduğunu söylüyor:

"Terapötik uygulamalardan, gerçek insanlarla konuşmaktansa sohbet robotları ile konuşmayı tercih eden gençler olduğunu biliyoruz."

İngiltere'de yapılan ve sonuçları Temmuz 2025'te yayınlanan bir araştırma da bunu doğruluyor: Ankete katılan bin gençten üçte biri düzenli olarak sohbet robotu kullandığını belirtti. Bunların üçte birinden fazlası, yapay zeka ile iletişim kurmanın bir arkadaşla konuşmak gibi olduğunu söyledi. Sosyal açıdan savunmasız gençler ise bundan özellikle etkileniyor. Bu gruptaki sohbet robotu kullanıcılarının neredeyse beşte biri, insanlarla konuşmaktansa sohbet robotları konuşmayı tercih ettiğini belirtti.

Bu bakımdan Löchner, sohbet robutu sağlayıcılarının tıp uzmanları ve diğer uzmanlarla bir araya gelerek gençleri bu tür senaryolardan etkili bir şekilde koruyacak proaktif çözümler geliştirmelerinin acil bir ihtiyaç olduğunu düşünüyor. OpenAI'nin doktorlara danışmak yönündeki yeni yaklaşımı bu bakımdan olumlu. Ancak psikolog bu konuda şüpheci:

"Bu şirketlerin ilgilendiği şey kullanıcıların sağlığı değil, mümkün olduğunca yüksek kullanım sıklığı."

Bu nedenle Löchner, söz konusu davanın bir şeyler değiştirebileceğine inanıyor: "Şirketler hesap sorulursa, bu gerçekten daha fazla sorumluluk almaya teşvik edici olabilir."

Editörün notu: Deutsche Welle, intihar konusunu ihtiyatlı bir şekilde haberleştirir, çünkü bazı haberlerin taklit edilen davranışlara yol açabileceğine dair kanıtlar bulunuyor. Eğer intihar düşüncesi taşıyorsanız veya duygusal bir kriz içindeyseniz yardım aramaktan çekinmeyin. Ülkenizde nereden yardım alabileceğinizi befrienders.org web sitesinde bulabilirsiniz. Almanya'da, 0800/111 0 111 ve 0800/111 0 222 numaralı telefonlardan ücretsiz danışmanlık hizmeti almanız mümkün. Türkiye'den de acil tıbbi yardıma ihtiyacınız varsa 112'yi arayabilirsiniz.