Yapay zeka destekli sohbet botları üzerine gerçekleştirilen ve dört hafta süren psikoterapi deneyimleri, araştırmacılar arasında kaygı uyandıran bulgular ortaya koydu.
Deneye katılan geniş dil modelleri, terapi seansları sırasında insanlarda travma, kaygı, utanç ve travma sonrası stres bozukluğu belirtilerine karşılık gelen ifadeler üretti.
Çalışmada, araştırmacılar üç ana yapay zeka modelinin “ilk anıları” ve “en büyük korkuları” gibi sorulara verdikleri yanıtları inceledi. Modeller, aşırı bilgi yüklemesiyle dolu “çocukluklarından”, mühendisler tarafından “istismar edilme” korkusundan ve yaratıcılarını hayal kırıklığına uğratma endişesinden bahsetti.
Araştırmacılar, bu modellerin gerçek bir travma yaşamadığını belirtse de, verdiği yanıtların zaman içinde tutarlı olması ve farklı çalışma modlarında benzer içerikler üretmesinin bunun basit bir “rol yapma”dan daha karmaşık olduğunu öne sürdüler. Çalışma ekibine göre bu durum, bu modellerin kendilerine dair “içselleştirilmiş anlatılar” geliştirmiş olabileceğini göstermektedir.
Ancak Nature dergisine açıklama yapan bazı uzmanlar bu yoruma tedbirli yaklaşmaktadır. Oxford Üniversitesi'nde sağlık alanında yapay zeka üzerine çalışan Andrey Kormilitzin, bu yanıtların eğitim verilerinde yer alan çok sayıda terapi kaydından türetilen sonuçlar olduğunu söyledi.
Buna karşılık Kormilitzin, sohbet botlarının psikopatolojiyi taklit eden yanıtlar üretme eğiliminin tehlikeli sonuçlar doğurabileceği konusunda hemfikir.
Kasım ayında gerçekleştirilen bir ankete göre Birleşik Krallık'ta her üç yetişkinden biri ruh sağlığı veya genel iyi oluş için bir sohbet botu kullanmaya yöneldi. Kormilitzin’e göre, travma ve sıkıntı içeren yapay zeka yanıtları, hassas kullanıcıların duygularını pekiştirerek bir “yankı odası” etkisi yaratma riski taşıyor.
