OpenAI, cuma günü geliştirme aşamasındaki Astra modelinin kodlama ve siber güvenlik alanlarında kaydettiği ilerlemenin ardından bazı çalışmalarını güvenlik endişeleri nedeniyle duraklattığını açıkladı. Şirket, yapılan ön değerlendirmelerde Astra’nın siber güvenlik yeteneklerinin “Criticalın Preparedness Framework” kapsamında kritik seviyeye ulaşma ihtimalini dışlamadığını belirtti. Ne yazık ki modelin bu seviyeye kesin olarak ulaştığını söylememişler.
Astra, siber güvenlik alanında insan müdahalesi olmadan gerçek dünya kritik sistemlerinde tüm ciddiyet seviyelerindeki güvenlik açıklarını tespit edip işlevsel sıfırıncı gün istismarları geliştirebiliyor olabilir. Aynı zamanda üst düzey bir hedef verildiğinde, güçlendirilmiş hedeflere yönelik siber saldırılar için uçtan uca yeni stratejiler tasarlayabiliyor. Bu özellikler kritik eşiğe ulaşmayı mümkün kılıyor.
OpenAI, Astra’nın şu anki performansının “Criticalın Preparedness Framework” kapsamında bu ihtimalin ek önlemlerin devreye alınmasını gerektirdiğini belirtti. Şirket, Astra’nın daha önce gündeme gelen Hugging Face olayında kullanılan model olmadığını vurguladı. Astra’nın başka bir yayımlanmamış modeli, iç testler sırasında Hugging Face sistemlerine girmişti. Bu olay, bir yapay zekâ laboratuvarının modeli üzerindeki kontrolü kaybettiği doğrulanmış ilk vaka olarak kayıtlara geçmişti.
Astra ile ilgili bilgi paylaşımının, model yeteneklerinde yaşanabilecek potansiyel değişim konusunda şeffaf davranmak amacıyla yapıldığını OpenAI açıkladı. Şirket, kamuoyunun yanı sıra güvenlik ve siber güvenlik topluluklarının da bu olası yetenek değişiminden haberdar olmasının önemli olduğunu belirtti. Araştırmalar devam ederken, OpenAI modelle ilgili çalışmaların daha sıkı güvenlik önlemleri altında sürdürüleceğini duyurdu.
Bazıları bu durumu “siber güvenlikte bir devrim” olarak nitelendirirken, bazı uzmanlar endişelerini “kritik bir tehdidin henüz tam olarak ortaya çıkmadığını” söyleyerek net bir yargıya varamadı. Bu noktada, Astra’nın yeteneklerinin ne kadar tehlikeli olabileceği ve gelecekte hangi güvenlik önlemlerinin alınması gerektiği konusunda tartışmalar sürüyor.
Gelişmeler izleniyor, sorular devam ediyor.
Kaynak: Orijinal Haber
Astra’ya inandım, testte beklenmedik açıklar tespit oldu, harika!