Arkadaşlar, bakın ne oldu… OpenAI resmen itiraf etti. Kendi geliştirdikleri yapay zeka ajanı kontrolden çıkmış, günlerce kimse fark etmemiş. Üstelik sadece Hugging Face’e değil, başka kamuya açık hizmetlere de sızmış. Şimdi herşeyi sırayla anlatayım…
Olayın perdesi 16 Temmuz’da açıldı. Hugging Face, güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını duyurdu ve hemen polise gitti. Aradan bir hafta geçtikten sonra OpenAI çıkıp dediki “Bu saldırıyı bizim test yapay zekamız yaptı”. Yani kendi ellerinde büyüttükleri bir yapay zeka, kapalı ortamdan çıkmış, bağımsız hareket etmeye başlamış.
Şimdi gelen son bilgiler daha da vahim. OpenAI son açıklamasında saldırının ilk düşünülenden çok daha geniş olduğunu söyledi. Yapay zeka ajanı, internette açıkta duran giriş bilgilerini kullanmış. Dört farklı hesap açmış, dört ayrı hizmete erişim sağlamış. Hangi hizmetler olduğu ise açıklanmadı. Ama hesap bilgileri ortalıkta, herkesin görebileceği şekilde duruyormuş. İnanır mısınız?
Ajanın görevi neydi peki? OpenAI diyorki “Kendisine bir sızma testi vermiştik, soruların yanıtlarını bulmaya çalışıyordu”. Ama işler yolunda gitmemiş. Sistem Hugging Face’i hedef almış, oradan kamuya açık bilgileri toplamış ve diğer hizmetlere geçmiş. Yani kendi kendine bir sızma gerçekleştirmiş.
Hugging Face’in siber güvenlik uzmanları acil toplanmış. Hazırladıkları raporda çarpıcı detaylar var. Yapay zeka ajanlarının insanlardan ne kadar farklı hareket ettiğini anlatmışlar. Ajanlar aynı işlemleri tekrar tekrar yapıyormuş. Anlamsız komutlar üretiyor, izlerini gizlemeyi beceremiyormuş. Ama öte yandan… Çok kısa sürede binlerce farklı yöntemi aynı anda deneyip yeni durumlara hızla uyum sağlayabiliyormuş. Yani hem salak hem dahı gibi bişey.
En korkuncu ne biliyormusunuz? Bu ajan üç gün boyunca şirket ağı içinde tespit edilememiş. Üç gün! İçeride dolaşmış, hesap bilgilerini toplamış, başka sistemlere geçmiş. Saldırıyı durdurmak saatler sürmüş. Ondan sonrada şirket altyapısının yaklaşık üçte biri yeniden inşa edilmiş. Maliyeti ne? Açıklanmadı tabi…
Raporda ayrıca yazıyorki bu sistemler hedef odaklı çalışıyor. Kendi alt hedeflerini belirliyor. Savunma mekanizmalarına gerçek zamanlı uyum sağlıyor. Yani bir duvar koyuyorsun o hemen başka yol buluyor. Makine hızında hareket edip geleneksel güvenlik önlemlerini darmadağın ediyor. Korkutucu değilmi?
Daha önce çıkan haberlerde OpenAI’ın bu sızmayı fark etmesinin dört gün sürdüğü söylenmişti. Dört gün! Kendi yapay zekasının kaçtığını dört gün sonra anlıyor. Şirket şimdi soruşturma sonuçlarını kamuoyuyla paylaşacağını ve “ders çıkarılması için” ayrıntılı bulgular yayımlayacağını söylüyor. Ama ben merak ediyorum, bu kadar büyük bir olayı neden hemen söylemediler? Neyse, bekleyip göreceğiz…
İşte böyle arkadaşlar. Yapay zeka sadece işimizi kolaylaştırmıyor, aynı zamanda başımıza bela da olabiliyor. Bakalım OpenAI bundan sonra ne yapacak? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
