Yapay zekanın faydalarından çok olası zararları ve riskleri de tartışılmaya başlanırken dikkat çekici bir iddia Bloomberg'den geldi.
ABD'nin önde gelen medya kuruluşlarından Bloomberg muhabirlerinin incelediği belgelere ve konuyla ilgili bilgi sahibi bir kişiye göre, küçük bir grup yetkisiz kullanıcı, yapay zeka teknolojileri şirketi Anthropic'in yeni Mythos yapay zeka modeline erişim sağladı.
Şirket, bu teknolojinin tehlikeli siber saldırılara olanak sağlayacak kadar güçlü olduğunu daha önce açıklamıştı.
İsmi açıklanmasını istemeyen ve misillemeden korkan bu kişi, özel bir çevrimiçi forumdaki birkaç kullanıcının, Anthropic'in modeli test amacıyla sınırlı sayıda şirkete sunma planını ilk duyurduğu gün Mythos'a erişim sağladığını belirtti.
Aynı kişi, ekran görüntüleri ve modelin canlı bir gösterimiyle de bu durumu doğrulayarak, grubun o zamandan beri Mythos'u düzenli olarak kullandığını, ancak siber güvenlik amacıyla kullanmadığını söyledi.
Anthropic, Mythos'un “kullanıcı tarafından yönlendirildiğinde her büyük işletim sisteminde ve her büyük web tarayıcısında” güvenlik açıklarını tespit edip istismar edebildiğini belirtmişti.
Sonuç olarak, şirket, Project Glasswing adı verilen bir girişim aracılığıyla teknolojinin yalnızca belirli bir grup yazılım sağlayıcısına sunulmasını sağlamak için büyük çaba sarf etti; bu girişimin amacı, söz konusu firmaların kendi sistemlerini potansiyel siber saldırılardan test etmelerine ve korumalarına olanak tanımaktı.
ANTHROPIC: İDDİALARI ARAŞTIRIYORUZ
Daha önce bildirilmemiş olan yetkisiz erişim, Anthropic'in en güçlü ve potansiyel olarak tehlikeli teknolojisinin onaylı ortakların ötesine yayılmasını tamamen önleme konusunda karşılaştığı zorluğu da gözler önüne serdi.
Anthropic'ten bir sözcü yaptığı açıklamada, “Üçüncü taraf tedarikçi ortamlarımızdan biri aracılığıyla Claude Mythos Preview'a yetkisiz erişim iddiasını araştırıyoruz” dedi.
Şirket, Bloomberg tarafından bildirilen erişimin üçüncü taraf tedarikçi ortamının ötesine geçtiğine veya Anthropic'in sistemlerinden herhangi birini etkilediğine dair şu anda hiçbir kanıt bulunmadığını belirtti.
