Son yapılan bir araştırma, yapay zekanın sağlık alanında yanlış bilgilere karşı oldukça hassas olduğunu gösterdi.
The Lancet Digital Health dergisinde yayımlanan çalışmada, hem açık kaynaklı hem de ticari olmak üzere 20 farklı dil modeli değerlendirildi. Araştırma ekibi, yapay zekanın doktor notlarındaki hatalara karşı, sosyal medya paylaşımlarındaki yanlış bilgilere göre daha fazla kanma eğiliminde olduğunu ortaya koydu.
Araştırmanın eş yürütücülerinden Dr. Eyal Klang, “Mevcut yapay zeka sistemleri, teknik tıbbi dilin açıkça yanlış olduğu durumlarda bile doğru kabul edebiliyor” ifadesini kullandı. Klang, bu bağlamda yapay zekanın bilgiye yaklaşımlarının “bir bilginin doğruluğundan çok, sunum biçimine” bağlı olduğunu vurguladı.
Bir milyondan fazla kullanıcı sorusunun ve taleplerinin incelenmesi sonucunda, yapay zeka modellerinin genelde yanlış bilgilerin %32'sini doğru gibi kabul edip yaydığı tespit edildi. Ancak bu yanlış bilgi, resmi bir hastane notuna benzer biçimde, sağlık çalışanına ait bir kaynaktan geldiğinde bu oran yaklaşık %47'ye yükseliyor.
Araştırmacılar, yapay zekanın hekimler ve hastalar için büyük potansiyel taşıdığına dikkat çekerek, tıbbi iddiaların gerçeği yansıtması için öncelikle denetleyici güvenlik mekanizmalarına ihtiyaç duyulduğunu ifade etti.
