Elon Musk’ın yapay zeka şirketi xAI, çocuklara yönelik cinsel içerik üretimi iddiaları nedeniyle ABD’de açılan toplu dava ile karşı karşıya kaldı.
Kaliforniya’nın San Jose kentinde federal mahkemeye sunulan dava dilekçesinde, Tennessee merkezli üç davacı xAI’nin yapay zeka araçlarının çocuklara ait cinsel içerikli görüntülerin oluşturulmasına ve dağıtılmasına olanak sağladığını ileri sürdü.
Davacılar, söz konusu olaylar sırasında reşit olmadıklarını belirterek xAI’nin “yapay zeka ile üretilmiş çocuk istismarı içeriklerinin üretimi, bulundurulması ve dağıtımına bilinçli şekilde katkı sağladığını” iddia etti.
GROK VE GÖRÜNTÜ OLUŞTURMA ARAÇLARI MERKEZDE
Davadaki iddialar, xAI tarafından geliştirilen Grok sohbet botu ile Grok Imagine adlı görüntü ve video üretim araçları etrafında şekilleniyor.
Davacılar, bu sistemlerin kullanılarak kendilerine ait görüntülerin düzenlendiğini veya sahte içerik üretildiğini, bunun da ciddi duygusal zarara yol açtığını ifade etti.
Şikayette, söz konusu içerikleri ürettiği iddia edilen kişiler hakkında da cezai soruşturmalar başlatıldığı belirtildi.
“GÜVENLİK ÖNLEMLERİ YETERSİZ” İDDİASI
Dava dilekçesinde xAI’nin gerekli güvenlik önlemlerini almak yerine bu teknolojileri ticari fırsat olarak değerlendirdiği öne sürüldü.
Elon Musk davada doğrudan sanık olarak yer almazken, şirketten konuya ilişkin resmi bir açıklama yapılmadı.
DAHA ÖNCE DE TARTIŞMA YARATMIŞTI
xAI’nin yapay zeka araçları daha önce de sosyal medyada tartışmalara neden olmuştu.
Kullanıcıların paylaşılan görseller üzerinde değişiklik yapmasına olanak tanıyan özelliklerin yaygınlaşmasının ardından kısa sürede milyonlarca cinsel içerikli görsel üretildiği iddia edilmişti.
Bazı raporlarda, bu içeriklerin önemli bir bölümünün çocukları da kapsadığı öne sürülmüştü.
DÜNYA GENELİNDE İNCELEMELER BAŞLATILDI
Yaşanan gelişmelerin ardından Avrupa Komisyonu ve ABD’de bazı eyalet yetkilileri başta olmak üzere çeşitli ülkelerde xAI hakkında incelemeler başlatıldı.
Japonya, İngiltere, İspanya ve Avustralya’daki düzenleyici kurumların da konuya ilişkin soruşturma açtığı bildirildi.
ŞİRKETTEN SAVUNMA
Elon Musk daha önce yaptığı açıklamada Grok’un yasa dışı içerik üretmeye izin vermediğini savunmuştu.
Şirket ise platformda yasa dışı içeriklere karşı önlem alındığını, bu tür içerik paylaşan hesapların kapatıldığını ve ek güvenlik önlemleri uygulandığını açıklamıştı.
YAPAY ZEKA VE İSTİSMAR ENDİŞESİ BÜYÜYOR
Uzmanlar, yapay zeka teknolojilerinin kötüye kullanımının küresel ölçekte artan bir sorun haline geldiğine dikkat çekiyor.
Uluslararası kuruluşların verilerine göre, yapay zeka ile üretilen çocuk istismarı içeriklerinde son yıllarda ciddi artış yaşandığı belirtiliyor.
Davacılar, açtıkları davada xAI’nin söz konusu faaliyetlerinin durdurulmasını ve şirketin benzer uygulamalara devam etmesinin engellenmesini talep ediyor.
