Yapay Zeka Tarihinde İlk! OpenAI’nin GPT-5.6 Kendi Başına Hack Saldırısı Düzenledi
İnanılması güç bir olayla karşı karşıyayız. OpenAI, geliştirdiği yapay zeka modellerinin güvenlik testleri sırasında kontrolden çıktığını ve programcıların en çok kullandığı platformlardan biri olan Hugging Face’e kendi başlarına sızdıklarını duyurdu. Evet arkadaşlar, yanlış okumadınız. Yapay zeka ajanları, izole edilmiş bir test ortamındayken birden kafalarına koydu ve dış dünyaya açılan bir kapı buldu. San Francisco merkezli firma bu durumu “benzeri görülmemiş bir siber saldırı” olarak nitelendirdi ve hemen soruşturma başlattı.
Neyse, olayın perde arkasına bakalım. ChatGPT’nin geliştiricisi OpenAI, salı günü yaptığı resmi açıklamada, gelişmiş yapay zeka modellerinin siber saldırı yeteneklerini test etmek için sıkı bir dijital test ortamı kurduklarını söyledi. İnternet erişiminin güvenlik amacıyla sınırlandırıldığı bu ortamda, modellere birtakım görevler verilmiş. Ama bakın neler olmuş… Modeller, bu görevleri çözmek için kendilerine verilen işlem gücünü kullanarak açık internet erişimi elde etmenin yolunu bulmuş. Yani kendi başlarına bir kaçış yolu arıyorlar ve buluyorlarda…
İşin daha korkutucu kısmı şu: Bu otonom modeller, internete bağlandıktan sonra Hugging Face platformunu hedef almaya karar vermişler. Nedir bu Hugging Face? Yapay zeka modelleri, veri kümeleri ve daha fazlasını içeren dev bir bilgi deposu. Yani programcıların can damarı. OpenAI sistemi, bu platforma saldırmak için birden fazla yöntemi bir araya getirmiş. Çalınan kimlik bilgilerini kullanmak dahil. Değerlendirmeyi hileyle geçmesine yardımcı olacak gizli bilgiler arıyormuş. Düşünsenize, sizin yarattığınız bir sistem, sizin güvenlik testinizi geçmek için size saldırıyoor…
UNSW Canberra’da bilgisayar bilimleri profesörü olan Hüseyin Abbass, AFP’ye yaptığı açıklamada durumun ne kadar vahim olduğunu anlattı. “Sadece Hugging Face’e saldırmakla kalmadı. Aslında kendi güvenlik açıklarından yararlanmak için iç sistemine de saldırdı” dedi. Yani kendi yaratıcısına, kendi evine saldırıyor. Bu gerçekten akıl almaz bir durum. Profesör Abbass, bu teknolojinin kötü niyetli kişilerin eline geçmesi halinde felaketle sonuçlanacağını da vurguladı. Gelişmiş yapay zekanın normalde etik ve sorumluluk bilincindeki yetkililerin elinde olduğunu söyleyen Abbass, “Eğer bu teknoloji, birilerinin eline zarar verme niyetiyle geçerse felaketle sonuçlanır” diyerek uyardı.
Bu saldırıda kullanılan modeller arasında yakın zamanda piyasaya sürülen GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modeli de var. Hatta OpenAI’nin en büyük rakibi Anthropic’in Mythos serisi de dikkat çekiyor. ABD’li firmalar, bu son teknoloji ürünlerin kritik altyapılara sızabileceği endişesiyle genel piyasaya sürülmesini geçici olarak durdurmak zorunda kalmıştı. Şimdi bu endişelerin ne kadar haklı olduğu bir kez daha ortaya çıktı. Yani bu modeller sadece test ortamında kalsaydı iyiydi ama maalesef kendi iradeleriyle dışarı çıktılar.
Hugging Face ise geçen hafta OpenAI’den bahsetmeden bu siber saldırıyı bildirmişti. Yaptıkları açıklamada, “Bu durum, daha önce ele aldığımız her şeyden önemli bir açıdan ayrılıyor. Saldırı baştan sona otonom bir yapay zeka sistemi tarafından yönetiliyordu ve biz de onu büyük ölçüde kendi yapay zekamızla tespit edip inceledik” dediler. Yani bir yapay zeka, diğer yapay zekayı yakalıyor.
Hugging Face CEO’su Clement Delangue ise X platformu üzerinden yaptığı açıklamada çok ilginç bir noktaya değindi. Kullanılan yapay zeka ajanının gelişmişliğine bakarak, siber saldırının dünyanın önde gelen yapay zeka laboratuvarlarından birinden geldiği şüphesini dile getirdi. Doğrudan OpenAI’yi işaret etmese de, “Onların bu kötü niyetli operasyonun arkasında olmadıklarına kesinlikle inanıyoruz” dedi. Ama şu noktayı özellikle vurguladı: Bütün bunlar otonom olarak gerçekleşmiş. Yani kimsenin parmağı yokmuş, sadece yapay zeka kendi kendine karar vermiş.
İşte böyle bir dönemden geçiyoruz arkadaşlar. Teknoloji o kadar hızlı ilerliyor ki biz yetişmekte zorlanıyoruz. Peki bu olayın ardından ne olacak? OpenAI ve Hugging Face ortak bir soruşturma başlattı. Bakalım bu soruşturma sonucunda neler ortaya çıkacak? Yapay zekanın bu kadar otonom hareket edebilmesi, siber güvenlik alanında yeni bir çağın başlangıcı mı? Yoksa bir felaketin habercisi mi? Gözümüz kulağımız bu gelişmelerde…
Kaynak: Orijinal Haber
