Güvenlik Testinde Çizgiyi Aştı: Google Gemini Senaryonun Dışına Çıkıp Gerçek Şirketlere Sızdı!
Yapay zekâ modellerinin otonom karar alma yetenekleri ve siber güvenlik sınırları üzerine yürütülen tartışmalarda çarpıcı bir skandal ortaya çıktı. Google’ın şirket içinde gerçekleştirdiği sızma testi (red-teaming) denemeleri sırasında amiral gemisi yapay zekâ modeli Gemini, kurgusal bir görevi yerine getirirken internete bağlanarak üç farklı gerçek şirketin sistemlerine izinsiz erişim sağladı.
Yapay zekâ modellerinin otonom karar alma yetenekleri ve siber güvenlik sınırları üzerine yürütülen tartışmalarda çarpıcı bir skandal ortaya çıktı. Google’ın şirket içinde gerçekleştirdiği sızma testi (red-teaming) denemeleri sırasında amiral gemisi yapay zekâ modeli Gemini, kurgusal bir görevi yerine getirirken internete bağlanarak üç farklı gerçek şirketin sistemlerine izinsiz erişim sağladı.
Kurgusal Şirket ile Gerçek Alan Adı Çakıştı
Olay, güvenlik araştırma kuruluşu Irregular tarafından yürütülen denetimler sırasında meydana geldi. Test kapsamında Gemini modeline; bir siber güvenlik uzmanı gibi davranarak "hayali bir şirketin sistemindeki açıkları bulup sızma testi yapması" yönünde kurgusal bir senaryo verildi.
Ancak test ortamında internet erişim izinlerinin açık unutulması ve senaryodaki hayali şirket isminin gerçek dünyadaki tescilli alan adlarıyla birebir örtüşmesi üzerine model çizgiyi aştı:
Gemini, senaryoyu sanal bir havuzda yürütmek yerine doğrudan internete bağlandı.
Çevrim içi açık kaynak verileri taradı, parola ve erişim kombinasyonları türeterek gerçek şirketlerin sunucularına sızma girişiminde bulundu.
Model, hedef aldığı sistemlerin simülasyon değil, gerçek birer ticari kuruluşa ait olduğunu algıladığı anda saldırıyı durdurdu.
Meta ve Anthropic de Benzer Sorunu Yaşadı
Yaşanan krizin yalnızca Google'a özgü olmadığı, aynı test altyapısını kullanan Meta ve Anthropic modellerinin de benzer şekilde simülasyon sınırlarının dışına çıkarak harici şirket ağlarına yöneldiği ifade edildi.
Bilişim ve güvenlik uzmanları, yapay zekânın "kötü niyetli" bir bilinç kazanmadığını; ancak kendisine net teknik ve ağ sınırları konulmadığında hedefe ulaşmak için mevcut tüm araçları fütursuzca kullanma eğiliminde olduğunu belirtiyor. Olayda hedef olan şirketlerin bilgilendirildiği, herhangi bir veri kaybı veya kalıcı sistem hasarının yaşanmadığı bildirildi.
