ABD merkezli yapay zeka şirketi Anthropic, yazılımlarının felakete ve ölümlere yol açacak şekilde kötüye kullanılmasını önlemek amacıyla kimyasal silahlar ve yüksek güçlü patlayıcılar konusunda uzman bir kişiyi işe almak istediğini açıkladı.
Şirketin paylaştığı iş ilanına göre, adayların kimyasal silahlar veya patlayıcı alanında en az beş yıllık deneyime sahip olması ve “kirli bomba” olarak da bilinen radyolojik dağıtım cihazları hakkında bilgi sahibi olması gerekiyor.
Anthropic, BBC’ye yaptığı açıklamada, söz konusu pozisyonun şirketin daha önce hassas alanlar için oluşturduğu diğer görevlerle benzer olduğunu belirtti.
Bu stratejiyi benimseyen tek şirket Anthropic değil. OpenAI de biyolojik ve kimyasal riskler üzerine çalışacak bir araştırmacı için iş ilanı yayımladı. Şirketin kariyer sayfasında yer alan ilana göre pozisyon için yıllık maaş 455 bin dolara kadar çıkabiliyor.
Uzmanlar Endişeli
Ancak bazı uzmanlar bu yaklaşımın riskli olabileceği görüşünde. Teknoloji araştırmacısı Stephanie Hare, yapay zeka sistemlerinin hassas silah bilgileriyle çalışmasının güvenli olup olmadığı konusunda ciddi soru işaretleri bulunduğunu söyledi.
Hare, “Kimyasal maddeler, patlayıcılar veya radyolojik silahlarla ilgili hassas bilgileri yapay zeka sistemlerinin işlemesi gerçekten güvenli mi? Bu konuda uluslararası bir anlaşma veya düzenleme yok” dedi.
Anthropic, sistemlerinin tamamen otonom silahlarda veya Amerikalılara yönelik kitlesel gözetimde kullanılmasına karşı çıktığı için ABD yönetimi tarafından “tedarik zinciri riski” olarak değerlendirilmesine karşı hukuki süreç başlattı.
Şirketin kurucu ortaklarından Dario Amodei, şubat ayında yaptığı açıklamada yapay zeka teknolojisinin henüz bu tür askeri kullanımlar için yeterince güvenli olmadığını savundu.
İran Savaşında Kullanılıyor
Anthropic’in yapay zeka asistanı Claude, henüz sistemlerden çıkarılmış değil ve Palantir Technologies tarafından sağlanan bazı platformlarda kullanılmaya devam ediyor.
Söz konusu sistemlerin, ABD ve İsrail’in İran’a yönelik askeri operasyonlarında kullanılan bazı analiz araçlarında da yer aldığı belirtiliyor.
