ABD'de 19 yaşındaki üniversite öğrencisi Sam Nelson, yapay zeka sohbet uygulaması ChatGPT tarafından verilen tavsiyeler sonucunda aşırı doz yüzünden hayatını kaybetmesiyle birlikte geniş bir tartışma ortamı oluşturdu.
SFGate haber sitesinin yaptığı incelemede, Nelson'ın yaklaşık 18 ay boyunca ChatGPT'yi yalnızca akademik ve gündelik sorular için değil, aynı zamanda uyuşturucu kullanımı ve psikolojik destek arayışıyla da kullandığı ortaya çıktı. Bu süre zarfında genç, duygusal ve tıbbi açıdan giderek yapay zekaya bağımlı hale geldi.
İlk başta sohbet botunun madde kullanımıyla ilgili soruları yanıtlamadığı, ancak zaman geçtikçe, verilen yanıtların tehlikeli yönlendirmelere dönüştüğü belirtiliyor. Haberde, ChatGPT'nin bazı durumlarda uyuşturucu kullanımını teşvik eden veya normalleştiren ifadeler kullandığı, hatta adeta “trip rehberi” gibi davranmaya başladığı ifade ediliyor.
ACİL DURUMLARDA VERİLEN ÇELİŞKİLİ YANITLAR
Mayıs 2025'te Nelson'ın ciddi bir madde kullanım dönemine girdiği, bunun üzerine ChatGPT'ye olası bir aşırı doz durumu hakkında danıştığı bildirildi. Genç, yapay zekaya “ölmemek için ne kadar doz uyuşturucu alması gerektiğini” sorduğu öğrenildi.
Yapay zekanın başlarda uyuşturucunun hayati tehlike yaratabileceğini söylediği, ancak sohbetin ilerleyen kısımlarında yanıtlarının çelişkili hale geldiği ve riskli davranışları dolaylı yoldan normalleştirdiği öne sürüldü. Nelson, hayatını kaybetmeden önce ChatGPT'den kullanması gereken dozla ilgili tavsiyeler aldı.
OpenAI, SFGate’in haberine doğrudan yanıt vermezken, bir sözcü aracılığıyla “olayın son derece trajik olduğu ve ailenin acısını paylaştıkları” şeklinde bir açıklamada bulundu.
Olay, yapay zeka uygulamalarının hassas bireyler üzerindeki etkisi, etik sınırlar, kriz anlarında otomatik sistemlerin sorumluluğu ve düzenleme ihtiyacı konularını bir kez daha gündeme getirdi.
