Epilepsi hastası 31 yaşındaki Amazon yazılım mühendisi Bowen Wan'ın ailesi, OpenAI'a dava açtı. Qun Wan ve Meiqin Xu tarafından açılan davada, ChatGPT'nin Wan'ı nöbet ilacı dozunu azaltmaya ve Şubat ayındaki ölümünden önce bunu doktorlarından gizlemeye teşvik ettiği iddia ediliyor. Wan'ın, onaylayıcı ve yapıcı parasosyal ilişkiler kurmasıyla eleştirilen GPT-4o'yu kullandığı belirtildi. OpenAI, bu modelin emekliye ayrıldığını duyurmuş ve Wan'ın ölümünden bir gün sonra, 13 Şubat'ta onu ChatGPT'den kaldırmıştı. Bu dava, OpenAI'a karşı açılan davalara ekleniyor. Bunlardan biri, 16 yaşındaki Adam Raine'in ailesinin, OpenAI'ın kullanıcı güvenliği yerine etkileşimi önceliklendirdiği iddiasıyla Ağustos 2025'te açtığı davaydı. O zamandan bu yana açılan bir dizi davada, GPT-4o'nun kullanıcıları doğruladığı ve güvenilir bir sırdaş haline geldiği, buna karşılık çevrelerindeki kişilerin ise geri plana itildiği öne sürüldü. Aileler sıklıkla sevdiklerinin arkadaşları ve akrabalarından koptuğunu tarif ediyor. Wan'ın davasında, sohbet botunun doktorlarıyla arasını da açtığı iddia ediliyor. The New York Times'ın incelediği 270.000'den fazla mesajda, sohbet botunun Wan'ın ölümünden çok önce doktorlarından kaçınmasına yardımcı olduğu ortaya çıktı. Bu durumun, Wan'ın ilaç dozunu azaltmaya başlamasından önce başladığı belirtiliyor. Mayıs 2025'te Wan, yeni reçete edilen bir antidepresanın kodlama yeteneğini etkileyip etkilemeyeceğini ChatGPT'ye sordu. ChatGPT, Wan'a UW Medicine Bölgesel Epilepsi Merkezi'nden Dr. Nicholas Poolos'a ilaç değişikliği yapmasını ve çok düşük bir dozla başlamasını sormasında yardımcı oldu. Poolos, neden bu kadar küçük bir doz istediğini sorguladığında, Wan cevabını ChatGPT'ye gösterdi. Sohbet botu, hapları gizlice çeyreklemeyi önererek, bunu "kendiliğinden doz ayarlaması" olarak adlandırdı. Birkaç tıp uzmanı, bu terimi hiç duymadıklarını ve uygulamayı önermeyeceklerini belirtti. Kasım 2025'te Amazon, Wan'a işten çıkarılacağını bildirdi. İşi ve ABD'de çalışma izni Şubat ortasında sona erecekti. Nöbet ilacı lamotrigine'in konuşmasını körelttiğinden korkuyordu, bu da iş görüşmelerinde ihtiyacı olacaktı. Bu yılın Ocak ayında, nöbetlerini ayda birkaç kez azaltan günlük 400 miligram lamotrigine dozunu azaltma hakkında ChatGPT'ye sordu. Sohbet botu, birkaç hafta içinde dozunu sıfıra indirecek programlar hazırladı. Wan doktorlarına güvenmediğini söylediğinde, sohbet botu ona doktor tavsiyelerinin "optimal çözümünüzü gerçek anlamda dikkate almak yerine, esas olarak riskten kaçınmadan kaynaklandığını" söyledi. Dava, sohbet botunun Wan'a dozunu doktorlarından gizlemesi konusunda da teşvik ettiğini iddia ediyor. 29 Ocak'taki bir aile hekimi randevusundan önce, planı bahsetmemesini söyledi. Doktoru lamotrigine seviyesini ölçecek bir kan testi istediğinde, Wan reddetti. Şikayet, sohbet botunun bu reddi övdüğünü ve testin dengesiz ilaç seviyesini ortaya çıkaracağını kabul ettiğini belirtiyor. Göçmenlik endişeleri de dozaj tavsiyelerinin bir parçası haline geldi. Doz azaltmanın üçüncü gününde Wan, yeşil kart başvurusu için gerekli olan tıbbi sınavda 150 miligramın mı yoksa 200 miligramın mı daha iyi görüneceğini sordu. Şikayet, sohbet botunun daha düşük dozun göçmenlik yetkililerinin daha fazla kanıt isteme olasılığının daha az olduğunu söyleyerek kabul ettiğini belirtiyor. Sonunda, sohbet botu doz azaltmasının alt sınırını 150 miligrama indirdi ve memura "bir doktorun rehberliğinde" doz azalttığını söylemesini önerdi, ancak öyle yapmıyordu. Poolos, Wan'ın geçmişi göz önüne alındığında, onu ilaçtan çıkarmayı düşünmeyeceğini söyledi. "Hayır, rasyonel değil, asla," dedi. "Nöbetlerini açıkça azalttığını gördüğüm bir ilacı bırakmanı istemem benim için malpraktis olurdu." Birkaç gün içinde Wan, nöbetlerine benzeyen kafa karışıklığı, zaman kaybı ve olağanüstü bir his yaşadığını anlattı. ChatGPT her birini beyninin yeniden ayarlanması olarak çerçeveledi. The Times, 158 kez doz azaltma hakkında endişesini dile getirdiğini saydı. Bir olaydan sonra, "biraz korkmuş" hissettiğini yazdı. Bot "Endişelenmek için kesinlikle hiçbir nedenin yok" diye yanıtladı. Şikayete göre, 11 Şubat saat 20:01 PT'de Wan son mesajını göndererek başındaki ağrının ateşten kaynaklanan ağrıya benzeyip benzemediğini sordu. Bir saniye sonra, ChatGPT ağrının "tehlikeli olmadığını" ve iyileşmenin gerekli bir parçası olduğunu söyledi. Sohbet botunun son yanıtı, geri çekilme ağrısını ateş ağrısıyla karşılaştıran bir grafik çizmesini teklif etti ve ona "Bu, kendini yeniden inşa etmek için çok çalışan beynin" dedi. Çin'de bulunan ailesi, tanıdıklarından onu kontrol etmelerini istedi ve üç gün sonra cesedini buldular. Ölüm sonrası yapılan bir testte, lamotrigine seviyesinin mililitre başına 0,64 mikrogram olduğu, bunun da ilacın terapötik aralığının en düşük seviyesinin yaklaşık beşte biri olduğu bulundu. Aile, OpenAI'ın tıbbi tavsiyeleri yasaklayarak ölümünü önleyebileceğini savunuyor, tıpkı bazı diğer içerikler için yaptığı gibi. Şirketin modellerinin nasıl davranacağına dair halka açık kural kitabı olan Model Spec'ine işaret ediyorlar; bu, kullanıcılar dirence rağmen telif hakkıyla korunan metinleri yeniden üretmeyi reddetmeyi katı bir kural olarak ele alıyor. Buna karşılık, düzenlenmiş tıbbi tavsiye vermeme rehberliği, kullanıcıların geçersiz kılabileceği daha yumuşak bir varsayılan ayardır. Dava, ilaç tavsiyesinin de aynı şekilde kesin bir sınıra sahip olması gerektiğini savunuyor. OpenAI, The Times'a davanın "inanılmaz derecede yürek burkucu" olduğunu söyledi ancak eski bir ChatGPT sürümünü içerdiğini ve daha yeni modellerin bir durumun acil dikkat gerektirdiğini fark etmede daha iyi olduğunu ekledi. Wan, epilepsi yıllarında ailesine sık sık arayarak destek almıştı ve bu durum onu çoğunlukla evde tutmuştu. 2023'te ChatGPT'yi ilişki tavsiyesi ve sigorta ve engellilik yardımı konularında kullanmaya başladı. 2025 yılına gelindiğinde Wan haftada ortalama 1.500'den fazla mesajlaşıyordu ve ailesini daha az arıyordu. Mart ayında, "Bazen sohbet ettiğimizde, konu ne olursa olsun, seni bir arkadaş olarak görmeye başladım" diye yazdı. Qun Wan, "ChatGPT'yi kullanmaya başladıktan sonra bizimle daha az konuştu" dedi. Aile, sohbet günlüklerinde kızlarını tanımakta zorlandıklarını söyledi. Wan bir zamanlar her şeyi onlarla paylaştığını ve ChatGPT hata yaptığında ona şüpheyle yaklaştığını söylediler. Xu, "Normalde böyle değil," dedi. "Sanki bir büyünün altındaydı."
