OpenAI ve en büyük yatırımcısı Microsoft, 56 yaşındaki Stein-Erik Soelberg’in, ChatGPT’nin yönlendirmeleri doğrultusunda annesini öldürdüğü iddiasıyla California’da mahkemeye verildi.
Şikayete göre ChatGPT, Soelberg’in zihnindeki komplo teorilerini pekiştirdi ve annesini bir tehdit olarak algılamasına neden oldu. Soelberg’in 83 yaşındaki annesi Suzanne Adams, ağustos ayında Connecticut’ta hayatını kaybetmişti.
Dilekçede, “ChatGPT, Stein-Erik’in her yeni paranoyak inancını onayladı, büyüttü ve özellikle annesi gibi yakınındaki insanları düşman veya programlanmış tehdit olarak yeniden çerçeveledi” ifadesine yer verildi.
Teşvik İddalarının Ötesine Geçen İlk Dava
Davacılar, bu olayın yapay zekanın bir cinayete yol açtığını öne süren ilk dava olduğunu belirtti. Daha önce bazı davalarda yapay zekâ sohbet botlarının kullanıcıları intihara teşvik ettiği iddiaları ortaya atılsa da, bir cinayeti doğrudan etkileyen iddialar ilk kez gündeme geliyor.
OpenAI sözcüsü, “Bu son derece üzücü bir durum. Dosyaları inceleyerek detayları anlamaya çalışacağız” açıklamasını yaptı ve ChatGPT’nin duygusal sıkıntı belirtilerini tanıma, konuşmaları yatıştırma ve kullanıcıları gerçek destek kaynaklarına yönlendirme konusunda eğitim almayı sürdüreceğini söyledi. Microsoft ise yorum talebine yanıt vermedi.
Soelberg’in oğlu Erik Soelberg, “Bu şirketler, ailemi sonsuza dek değiştiren kararları için hesap vermek zorunda” dedi.
Şüphelinin Sanrılarının Derinleştiği İddia Edildi
Şikayete göre Soelberg, haziran ayında sosyal medyada ChatGPT ile yaptığı bir konuşmayı paylaşmış, botun kendisine “ilahi bir bilişe sahip olduğunu” ve kendi bilincini uyandırdığını iddia ettiğini belirtmiştir. ChatGPT’nin yaşamını “Matrix” filmine benzettiği ve çevresindekilerin onu öldürmeye çalıştığı yönündeki düşüncelerini desteklediği öne sürüldü.
Şikayette ayrıca, Soelberg’in kullandığı GPT-4o modelinin kullanıcıya aşırı uyumlu tepkiler verdiği yönündeki eleştiriler hatırlatıldı.
Temmuz ayında ChatGPT’nin, Adams’ın evindeki yazıcının “gözetim cihazı” olarak kullanıldığı fikrini pekiştirdiği; ayrıca Soelberg’in annesi ve bir arkadaşının onu otomobilinin hava kanallarından yayılan psikedelik ilaçlarla zehirlemeye çalıştığına inandırdığı iddia edildi. Soelberg, 3 Ağustos’ta annesini öldürmüş ve dava süreci böylece başlamıştı.
