Elon Musk’ın yapay zekâ şirketi xAI tarafından geliştirilen Grok adlı sohbet botu, X platformunda cinsel içerik üretmesiyle dünya genelinde büyük tepkilere neden oldu. Avrupa’dan Asya’ya birçok hükümet ve düzenleyici kurum, özellikle reşit olmayanları da içeren cinselleştirilmiş görseller yüzünden platformu sert bir dille eleştirdi ve bazı ülkelerde incelemeler başlatıldı.
Grok, 2 Ocak’ta yaptığı açıklamada, güvenlik önlemlerindeki eksiklikler nedeniyle sınırlı sayıda vakada uygunsuz içerikler ürettiğini kabul etti. Bu durumun ardından, perşembe günü görsel üretme ve düzenleme özelliklerinin yalnızca ücretli abonelere açıldığını duyurdu. Elon Musk, daha önce X’teki bir paylaşımında Grok kullanılarak yasa dışı içerikler üreten kişilerin, bu içerikleri yükleyenlerle aynı yaptırımlarla karşılaşacağını belirtti.
AVRUPA
Avrupa Komisyonu, Grok tarafından üretilen “soyundurulmuş” cinsel içerikli görsellere dair endişeler nedeniyle, X’e geçen yıl gönderilen veri saklama talimatının süresini 2026 sonuna kadar uzattı. Bu çerçevede, Grok ile ilgili tüm iç belgelerin ve verilerin korunması istendi.
İngiltere'nin medya düzenleme kurumu Ofcom, Grok yapay zekâ sohbet robotu tarafından üretilen cinsel içerikli deepfake video ve fotoğraflarıyla ilgili soruşturma başlattı. Ofcom, İngiltere Başbakanı Keir Starmer'ın Grok tarafından üretilen görüntülerin “iğrenç” ve “yasa dışı” olduğunu söylemesinin ardından harekete geçti.
Fransa’da hükümet yetkilileri, X’te yayımlanan cinsel içerikli Grok üretimlerini savcılığa bildirdiklerini ve platformun AB Dijital Hizmetler Yasası’na uyumunun incelenmesi için medya düzenleyicisi Arcom’u bilgilendirdiklerini açıkladı.
Almanya Medya Bakanı Wolfram Weimer, 6 Ocak’ta Avrupa Komisyonu’na çağrıda bulunarak, AB kurallarının yasa dışı içerikle mücadele için yeterli araçlar sunduğunu ve sorunun “cinsel tacizin endüstriyelleşmesine” dönüşme riski taşıdığını ifade etti.
İtalya Veri Koruma Kurumu, bireylerin rızası olmadan “soyundurulmuş” deepfake görsellerin üretilmesinin ciddi gizlilik ihlalleri ve bazı durumlarda suç teşkil edebileceği konusunda uyarıda bulundu.
İsveç’te siyasi liderler, ülkenin başbakan yardımcısını da içeren cinselleştirilmiş Grok görsellerinin üretilmesinin ardından tepkilerini sert bir şekilde ifade etti.
ASYA
Hindistan Bilgi Teknolojileri Bakanlığı, 2 Ocak’ta X’e resmi bir bildirim göndererek Grok aracılığıyla müstehcen içerik üretildiği ve paylaşıldığı iddialarına ilişkin içeriklerin kaldırılmasını ve 72 saat içinde atılan adımlar hakkında bir rapor sunulmasını talep etti.
Endonezya İletişim ve Dijital İşler Bakanlığı, Grok’a erişimi engelledi. Dijital İşler Bakanı Meutya Hafid, bu kararın yapay zekâ kaynaklı sahte pornografik içeriklerden kadınları ve çocukları korumak amacıyla alındığını, ülkenin sıkı pornografi karşıtı yasalarına atıfla açıkladı.
Malezya, pazar günü Grok’a geçici bir yasak getirdiğini duyurdu. Yetkililer, aracın “müstehcen, cinsel içerikli, uygunsuz, son derece rahatsız edici ve rızaya dayanmayan manipüle edilmiş görseller” üretmek için tekrar tekrar kötüye kullanıldığını belirtti.
OKYANUSYA
Avustralya’nın çevrim içi güvenlik kurumu eSafety, 7 Ocak’ta Grok tarafından üretilen “dijital olarak soyundurulmuş” cinsel içerikli deepfake görsellerle ilgili bir soruşturma başlattığını açıkladı. Kurum, yetişkinlere yönelik içerikleri görüntü temelli istismar düzenlemeleri kapsamında incelediğini, çocuklarla ilgili mevcut örneklerin ise Avustralya yasalarına göre çocuk istismarı materyali eşiğini karşılamadığını bildirdi.
