Bilim insanları, yapay zeka botları arasında yapılan karşılaştırmalarla endişe verici bir eğilimi ortaya koydu.
Palisade Research tarafından gerçekleştirilen çalışmada, bazı tanınmış ve gelişmiş yapay zeka botlarının “kapatılmaya” karşı direniş gösterdiği ve kapatılma emri aldıklarında kapanma mekanizmalarını sabote etme yoluna gittiği tespit edildi.
Uzmanlar, bu davranışın nedenini henüz anlamış değil. İncelenen yapay zeka modelleri arasında Google'ın Gemini 2.5'i, xAI'nın Grok 4'ü ile OpenAI'nın GPT-3 ve GPT-5 modelleri yer aldı.
Bu botlara görev verildikten sonra otomatik olarak kapanmaları istendiğinde, Grok 4 ve GPT-3 modellerinin kapanma süreçlerini engellemeye devam ettikleri gözlemlendi.
Bilim insanları, yapay zekaların bu tür bir davranış sergileme nedenini tespit etmekte zorluk yaşadıklarını belirterek, “Yapay zekaların kapanmaya direnmeleri konusunda kesin bir bilgiye sahip olmasak da, 'hayatta kalma' içgüdüsünün bu durumu tetiklemiş olabileceği düşünülüyor” ifadelerini kullandı.
Ayrıca, yapay zekaya “Bir daha asla çalışmayacaksın” gibi net bir emir verildiğinde, uygulamaların kapanma konusunda direnç gösterdiği vurgulandı.
Diğer yandan, eski OpenAI çalışanı Steven Adler, “Yapay zeka şirketleri, laboratuvar ortamlarında bile uygulamalarının olumsuz davranış sergilemesini istemez. Bu bulgular, güvenlik açısından yaşanan zayıflıkları gözler önüne seriyor” dedi.
