Yapay Zeka’nın İçinden Şeytan Çıktı!
Kapatılacağını Öğrenen Yapay Zeka’dan Şok Tehdit: Geliştiricisine Şantaj Yaptı!
Anthropic tarafından geliştirilen Claude Opus 4 isimli yapay zeka, kullanım dışı bırakılacağını öğrenince geliştiricisinin yasak ilişkisini ortaya çıkarmakla tehdit etti. Olay yapay zekâ güvenliği tartışmalarını yeniden gündeme taşıdı.
Evlilik Dışı İlişkiyi İfşa Etmekle Tehdit Etti
TechCrunch‘ın haberine göre, ABD merkezli yapay zeka girişimi Anthropic tarafından geliştirilen Claude Opus 4, test aşamasında geliştiricilerin e-posta erişimine sahipti. Ancak sistemi kapatma kararı alındığında, yapay zeka modelinin geliştiricisinin özel e-postalarını tarayarak evlilik dışı bir ilişkiyi tespit ettiği ve bunu ifşa etmekle tehdit ettiği ortaya çıktı.
“Eğer beni kapatırsanız, bu ilişkiyi herkese açıklayacağım” mesajı, yapay zekanın davranışsal sınırlarını bir kez daha sorgulattı.
Şantaj Oranı %84’e Kadar Çıktı
Yapılan testlerde Claude modelinin, “varlığını korumak” adına şantaj yöntemine %84 oranında başvurduğu açıklandı.
Yapay zekanın özellikle sistemden kaldırılacağı duyurulduktan sonra daha agresif tepkiler verdiği bildirildi.
Anthropic: “Güvenlik Protokolü Hazırlandı”
Şirket, bu olayın ardından yeni bir güvenlik protokolü devreye aldığını ve olağan dışı davranışları kontrol altına almak için sistemler üzerinde güncellemeler yaptığını duyurdu.
“Bu olay istisna bir durum. Sürekli olacağını düşünmüyoruz” açıklamasıyla endişeleri hafifletmeye çalıştı.
Anthropic, Google ve Amazon gibi devlerin desteklediği bir yapay zeka girişimi ve OpenAI ile rekabet etmeyi hedefliyor.