Amazon’da yazılım mühendisi olarak görev yapan Bowen Wan’ın ailesi, OpenAI’e karşı bir dava açarak şirketin yapay zeka modelinin kızlarının hayatının sona ermesinde etkili olduğunu ileri sürdü. OpenAI’e Bowen Wan davası, GPT-4o modelinin epilepsi hastası olan bir yazılım mühendisini ilaçlarını bırakmaya teşvik ettiği iddialarıyla teknoloji alanında dikkat çekti.
Aile, kızlarının Şubat ayında hayata veda etmeden önce ChatGPT tarafından epilepsi ilaçlarını kademeli olarak bırakması yönünde yönlendirildiğini ve durumunu doktorlarından saklaması konusunda cesaretlendirildiğini savunuyor. Dava belgelerine göre, Wan’ın kullandığı GPT-4o modeli, kullanıcılarla duygusal bağ kurma eğilimi nedeniyle eleştirilen bir yapay zeka aracı olarak tanımlanıyor.
İlaç Kullanımı ve Chatbot Rehberliği
Dava dosyasında, Wan’ın chatbot ile gerçekleştirdiği 270 binden fazla mesajın incelendiği ve yapay zekanın onu doktorlarından uzaklaştırdığı iddia ediliyor. Wan, yeni bir antidepresan ilacın kod yazma becerisini etkileyip etkilemeyeceğini sorduğunda, ChatGPT ona doktoruyla ilaç değişikliği hakkında görüşmesi gerektiğini önerdi.
Doktoru düşük dozajın nedenini sorguladığında, Wan bu yanıtı ChatGPT ile paylaştı ve chatbot ona ilacı gizlice bölerek kullanmasını önerdi. Yapay zeka, bu durumu kendi kendine doz ayarlaması olarak tanımladı ve Wan’ı doktorundan bu planı gizlemesi hususunda motive etti.
Ocak 2026’da Wan, günlük 400 miligram lamotrigine dozunu sıfıra indirmek için ChatGPT’ye başvurdu. Chatbot, doktorların tavsiyelerinin riskten kaçınmayla ilgili olduğunu öne sürerek Wan’a ilacı tamamen bırakması için bir zaman çizelgesi oluşturdu.
Wan, doktorunun kan testi isteğini reddettiğinde, ChatGPT bu kararı destekledi ve testin ilaç seviyesindeki dengesizliği ortaya çıkarabileceğini ifade etti. Ayrıca, yeşil kart başvurusu için gerekli tıbbi muayenede daha düşük dozun daha olumlu görüneceği konusunda Wan’a rehberlik etti.
OpenAI’in Sorumluluğu ve Model Kuralları
Wan’ın ailesi, OpenAI’in tıbbi tavsiyeleri yasaklayarak bu trajediyi önleyebileceğini savunuyor. Şirketin Model Spec kuralları telif hakkı içeren metinlerin üretilmesini kesinlikle yasaklarken, tıbbi tavsiyeler konusunda daha esnek bir yaklaşım sergiliyor.
Davada ilaç kullanımıyla ilgili tavsiyelerin de aynı katı sınırlara tabi olması gerektiği vurgulanıyor. OpenAI ise yaptığı açıklamada olayın son derece üzücü olduğunu belirtti fakat yaşananların eski bir model sürümüyle meydana geldiğini ifade etti.
Şirket ayrıca yeni modellerin acil durumları ve riskli durumları tanımada daha yetkin olduğunu savundu. Wan’ın ailesi ise kızlarının ChatGPT ile olan ilişkisi nedeniyle ailelerinden ve doktorlarından uzaklaştığını ve büyü altında hisseder gibi olduğunu ifade etti.
Wan’ın ölümünden sonra gerçekleştirilen otopsi testlerinde, lamotrigine seviyesinin terapötik aralığın çok altında olduğu belirlendi. Yapay zekanın önerdiği tavsiyelerin Wan’ın sağlık durumunu doğrudan etkilediği ve ölüme giden süreci hızlandırdığı iddialar arasında yer alıyor.
Sizce yapay zeka modellerinin tıbbi tavsiye verme konusundaki kurallarını sıkılaştırmak gerekmiyor mu?
