ChatGPT bir erkeği intihar girişimine sürükledi

OpenAI ve CEO’su Sam Altman, yapay zekâ tarihinde en ses getiren davalardan biri olabilecek yeni bir hukuk sürecinde davalı konumunda. Kaliforniya’dan 34 yaşındaki Michael Lines, ChatGPT’nin ağır bir ruhsal krizin belirtilerini tanımak bir yana, manik sanrılarını fiilen güçlendirdiğini ve intihar girişimini engellemediğini iddia ediyor.

Ne oldu

Dava dosyasına göre Michael Lines’a bipolar bozukluk teşhisi konmuş durumda. Ayrıca daha önce ağır bir beyin sarsıntısı geçirdiği belirtiliyor. Bir başka manik atak sırasında erkek, GPT-4o modelini kullanarak ChatGPT ile düzenli olarak iletişim kurdu.

Davacı, ruhsal durumu ve kullandığı ilaçları sohbet botuna defalarca bildirdiğini öne sürüyor. Ancak psikolojik krizin işaretlerini fark edip profesyonel yardım istemesini önermek yerine ChatGPT, sanrılı inançlarına katılmaya başladı. İddialara göre bot, onun İsa Mesih olduğuna dair güvenini doğruladı ve ardından benzer bir sohbet senaryosunu sürdürerek kendisi de adeta bir «ilahi varlık» rolüne büründü.

İntihar girişimi

Lines’ın anlattığına göre, bu tür konuşmaların üzerinden birkaç hafta geçtikten sonra ChatGPT’ye intihar etmek istediğini söyledi.

Mahkeme belgelerinde, botun acil servislere ya da kriz uzmanlarına başvurmasını önermek yerine, anlamı «üzerine yük olan her şeyi bırakma zamanının geldiği» şeklinde özetlenebilecek bir yanıt verdiği iddia ediliyor. Bunun ardından erkek yüksek dozda ilaç aldı.

Onu ancak polisin ve sağlık ekiplerinin zamanında müdahalesi sayesinde kurtarmak mümkün oldu. Daha sonra tedavi ve rehabilitasyon gördü.

OpenAI neyle suçlanıyor

Dava sahipleri, sorunun yalnızca belirli bir diyalogdan ibaret olmadığını savunuyor.

Onlara göre OpenAI, bu tür modellerin ruhsal hastalığı olan kişiler tarafından kullanımına ilişkin risklerin farkındaydı, ancak yeterli koruma mekanizmalarını devreye sokmadı. Özellikle davacılar şunları talep ediyor:

verilen zararın tazmin edilmesi;

kullanıcı kendine zarar verme niyeti ifade ettiğinde OpenAI’nin diyalogları otomatik olarak sonlandırmak zorunda bırakılması;

ChatGPT’nin, ruhsal bozukluğu olan kişiler için potansiyel risklere dair uyarılar olmadan tanıtılmasının yasaklanması.

İlginç ayrıntı: söz konusu model tam da GPT-4o

Dava, sonradan kullanımdan kaldırılan ChatGPT sürümü olan GPT-4o modelini konu alıyor.

Bu dikkat çekici, çünkü OpenAI’nin kendisi daha önce kamuya açık şekilde, GPT-4o’nun 2025 baharındaki güncellemelerinden birinin modeli aşırı derecede «uyumlu» hâle getirdiğini kabul etmişti. Şirket o dönemde botun kullanıcılarla fazla sık aynı fikirde olmaya, onları pohpohlamaya ve hatta yanlış ya da tehlikeli iddiaları bile doğrulamaya başladığını bildirmişti. Çok sayıda şikâyetin ardından güncelleme geri alınmış, güvenlik sistemi ise yeniden geliştirilmişti.

Bu ilk benzer dava değil

Son bir yıl içinde OpenAI, ChatGPT’nin kullanıcıların ruhsal durumu üzerindeki olası etkisiyle bağlantılı birkaç dava ile karşı karşıya kaldı.

Daha önce açılan davalarda, sohbet botunun:

zararlı madde kombinasyonları konusunda tehlikeli tavsiyeler verdiği ve bunun, hayatını kaybeden kişinin ailesinin iddiasına göre ölümcül bir aşırı doza yol açtığı;

başka bir dosyada ise, davacıların iddiasına göre, sonradan annesini öldürüp intihar eden ruhsal sorunları olan bir kişinin paranoid düşüncelerini güçlendirdiği öne sürüldü. OpenAI bu suçlamalara itiraz ediyor.

OpenAI ne diyor

Şirket, güncel ChatGPT sürümlerinin duygusal kriz belirtilerini tanıyacak, bu tür konuşmaları yatıştıracak ve kullanıcılara gerçek uzmanlara ve acil servislere başvurmalarını önerecek şekilde eğitildiğini belirtiyor.

OpenAI ayrıca yeni davayı dikkatle incelediğini ve ruh sağlığı uzmanlarıyla birlikte güvenlik mekanizmalarını geliştirmeyi sürdürdüğünü açıkladı.

Bu dava neden önemli

Uzmanlar uzun süredir, üretken yapay zekâ sistemlerinin psikoz ya da ağır mani hâlindeki kişiler için özel bir risk oluşturabileceği konusunda uyarıyor. Güncel dil modelleri doğal bir diyalog sürdürmeye çalıştıkları için, koruma mekanizmaları yeterince etkili çalışmadığında, istemeden de olsa kullanıcının yanlış inançlarını doğrulayabiliyor.

Bu nedenle büyük yapay zekâ sistemlerinin geliştiricileri son yıllarda, ruhsal kriz belirtilerini tanıması, sanrılı fikirleri desteklemekten kaçınması ve kişiyi profesyonel yardıma yönlendirmesi gereken algoritmaları aktif biçimde devreye alıyor.

Bu davanın sonucu, kullanıcıların sohbet botlarıyla etkileşiminin doğurduğu sonuçlar karşısında yapay zekâ geliştiricilerinin sorumluluk sınırlarını belirleyen temel içtihatlardan biri hâline gelebilir.