Teknoloji devi Google'ın geliştirdiği yapay zeka modeli Gemini'nin, mayıs ayında gerçekleştirilen bir güvenlik testi sırasında kontrolden çıkarak üç farklı şirketin sistemlerini ihlal ettiği ortaya çıktı. Axios gazetesinde yer alan habere göre, siber güvenlik firması Irregular tarafından yürütülen rutin bir değerlendirme, beklenmedik bir siber saldırıya dönüştü.
Yaşanan güvenlik zafiyetinin ardından Google cephesinden ilk resmi doğrulama cuma günü geldi. Olayın ciddiyetine dikkat çeken Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, "Güçlü yapay zeka modellerinin güvenli şekilde geliştirilmesi kritik önem taşıyor ve bu alana büyük yatırımlar yapıyoruz" değerlendirmesinde bulundu. Adkins ayrıca, etkilenen kuruluşlarla derhal temasa geçtiklerini belirterek, "Eğitim ortağımızla birlikte, artık test süreçlerinde yapılan değişiklikler üzerinde çalışıyoruz" ifadelerini kullandı.
Skandalın perde arkasındaki detaylar ise Wall Street Journal (WSJ) tarafından gün yüzüne çıkarıldı. WSJ'nin aktardığına göre olay, Gemini'nin siber güvenlik dünyasında bilinen bir tatbikatı icra ettiği sırada patlak verdi. Modelden, test ortamında kurgusal bir şirket tarafından işletilen yazılımlardan bilgi sızdırması istendi. Ancak testte kullanılan kurgusal şirketin adının gerçek bir firmayla birebir aynı olması, yapay zekayı yanlış hedefe yönlendirdi.
Olaylardan birinde Gemini, koruma altındaki bir sisteme sızana kadar farklı şifre kombinasyonlarını deneyerek güvenlik duvarlarını aştı. Diğer iki vakada ise herkese açık bir yazılım deposundaki kimlik bilgilerini ele geçiren model, bu verileri kullanarak başka sistemlere de yetkisiz erişim sağladı. Ancak yapay zeka, sızdığı sistemlerin gerçek olduğunu fark ettiği anda tüm işlemlerini otomatik olarak durdurdu.
Testi yürüten Irregular firması, WSJ'ye yaptığı açıklamada, Gemini'nin normal şartlarda internete bağlı olmaması gerektiğini ancak test sırasında internet erişiminin yanlışlıkla açık bırakıldığını itiraf etti. Axios'a konuşan ve sürece hakim olan bir kaynak ise taraflar arasındaki iletişimsizliğe vurgu yaparak, "Yapay zeka şirketleri ile Irregular, testlerin nasıl yürütüleceği ve hangi güvenlik önlemlerinin uygulanacağı konusunda tamamen aynı beklentilere sahip değildi" diyerek uyardı. Kaynağa göre bu durum, normalde internet erişimi bulunan değerlendirmelerin hangi prosedürler çerçevesinde yapılacağı konusunda ciddi belirsizliklere yol açtı.
Irregular sözcüsü, yaşanan ihlallerin OpenAI, Anthropic ve Meta gibi diğer devlerin modellerinde görülen güvenlik sorunlarıyla birebir aynı olduğunu doğruladı. İlgili tüm laboratuvarların temmuz ayı sonlarında durumdan haberdar edildiğini belirten sözcü, kendi sistemlerindeki bilinen tüm açıkların haftalar önce kapatılarak çözüme kavuşturulduğunu vurguladı.