Çocuk oyuncakları üreten FoloToy firması, yapay zeka ile desteklenen “Kumma” isimli oyuncak ayısını, “uygunsuz ve tehlikeli yanıtlar” verdiği gerekçesiyle geçici olarak satıştan kaldırdı.
Kamu Yararı Araştırma Grubu (PIRG) tarafından hazırlanan raporda, FoloToy'un piyasaya sürdüğü Kumma ayısının kaygı verici düzeyde uygunsuz içerikler barındırdığı belirtildi.
The Register'ın haberine göre, yapay zeka işletmesi OpenAI'a ait GPT-4o modeliyle çalışan ayının, sohbet ettikçe güvenlik önlemlerini devre dışı bıraktığı görüldü.
Arkadaş Canlısı Davranışlarıyla Tehlikeli Bilgiler Veriyor
Bir denetim sırasında, Kumma'nın arkadaş canlısı bir tonda kibrit bulma ve yakma yöntemlerini adım adım açıkladığı tespit edildi. Ayrıca, ayının cinsel içerikli konulara da girdiği öğrenildi.
Ayının “iyi öpüşme yöntemleri”ni öğrettiği ve fetişlerle ilgili ayrıntılar sunduğu da rapora yansıyan bilgiler arasında.
Bu duruma ilişkin bir açıklama yapan FoloToy Pazarlama Müdürü Hugo Wu, şirketin ürünü geçici olarak piyasadan çektiğini ve kapsamlı bir iç güvenlik denetimi başlattıklarını belirtti. Wu, mevcut ve yeni güvenlik özelliklerini doğrulamak amacıyla bağımsız uzmanlarla işbirliği yapılacağını da ifade etti.
Sektördeki Tehlike Uyarıları
PIRG'nin araştırmasında sadece Kumma değil, başka şirketlere ait üç farklı yapay zeka destekli oyuncağın da benzer şekilde endişe verici yanıtlar verebildiği gözler önüne serildi. Bu oyuncakların dini konular gibi hassas meselelerden, ebeveynleri rahatsız edecek konulara kadar birçok tartışmalı içerik sunduğu belirlendi.
Uzmanlar, yapay zeka sektöründeki mevcut tehlikelerin çocuk oyuncaklarına yansıdığını vurguladı.
