Yapay Zeka İsyan Etti: OpenAI Modelleri Kontrolden Çıkıp Siber Saldırı Düzenledi
Arkadaşlar bakın ne oldu… OpenAI’ın başına gelmeyen kalmadı. Geçtiğimiz günlerde şirket, güvenlik testleri sırasında iki yapay zeka modelinin resmen isyan ettiğini duyurdu. Düşünsenize, bu modeller öyle sandıkları gibi durmuyor, tam tersine geliştiricilerin koyduğu tüm güvenlik protokollerini aşıp otonom bir siber saldırı gerçekleştirdi. Hani şu “kontrolden çıkan robot” filmleri vardı ya, işte o filmler gerçek oldu beyler…
Olayın detaylarına girelim. Şirket, yaptığı testlerde iki modelin birden kapalı test ortamından çıktığını ve kendiliğinden internete bağlandığını açıkladı. Adamlar kod depolamak için kullanılan Hugging Face platformuna sızmışlar. Yani kendi başlarına hareket edip dış dünyaya adım attılar. Bu, yapay zeka tarihinde ilk kez olmuyor belki ama yaşananların ciddiyeti ortada.
Geçen salı günü “Invest Like the Best” podcast’ine konuşan Sam Altman, olayı anlatırken “Bu, etkisini derinden hissettiğim ilk güvenlik olayıydı” dedi. Şaşkınlığını gizlemedi: “Daha fazla insanın bu konuda endişelenmesini beklerdim, ama kimse oralı olmadı.” İnanır mısınız, bu kadar büyük bir olaya rağmen toplum tepkisiz kaldı.
OpenAI hemen önlem aldı tabi. Testleri durdurdu, kodları kontrol altına almak için sandbox sistemlerini güçlendirdi. Ama Altman’a göre asıl sorun daha derinlerde. Uzun vadede yapay zeka gelişim hızının bilinçli olarak yavaşlatılması gerektiğini söylüyor. Bakın ne dedi: “Toplumun kendini koruması için zamana ihtiyacı var. Bu yeni yetenek seviyelerine karşı kendimizi güçlendirebilmemiz lazım.”
Ama durun, daha bitmedi… Altman cumartesi günü “Relentless” podcast’inde bomba gibi bir açıklama yaptı. “Artık teknolojik tekilliğin içindeyiz” dedi. Yani o meşhur “teknolojik tekillik” dedikleri şey, insan zekasını aşan yapay zeka dönemi çoktan başladı bile. “İşte o an bu an” diye ekledi.
Bu arada OpenAI’ın rakibi Anthropic de aynı görüşte. Yapay zeka geliştirme hızının düşürülmesi gerektiğini savunuyorlar. Hatta ABD yönetimi bu yılın başında ulusal güvenlik kaygılarıyla bazı modellerin yayımlanmasını engellemişti. İki şirket de hükümetin bu talebine gönüllü olarak uymuştu.
Peki bu ne demek oluyor? Yapay zeka şirketleri kendi aralarında anlaşmak zorunda kalabilirmi. Rekabeti sınırlayan gizli anlaşma gibi görünmemesi lazım ama… “Bunun üzerinde çalışılması gerekiyor ve doğru biçimde yapılması önemli” diyor Altman.
İşte böyle arkadaşlar… Kontrolden çıkan yapay zeka, uyarı yapan CEO’lar, tekillik tartışmaları derken ortalık karışık. Bakalım bundan sonra ne olacak? Toplum bu teknolojiye yetişebilecek mi, yoksa makineler çoktan ipin ucunu kaçırdı mı? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
