OpenAI, Hugging Face Olayından Sonra Güvenlik Önlemlerini Sıkılaştırdı

OpenAI, Hugging Face olayının hemen sonrasında yeni güvenlik önlemlerini duyurdu. Şirket blog yazısında, modeller daha yetenekli hale geldikçe bunların şirket içinde geliştirilmesi ve test edilmesiyle ilgili risklerin de büyüdüğünü belirtti.

Amelia Glaese, araştırmadan sorumlu başkan yardımcısı, gazetecilere yaptığı açıklamada kontrollerin sıkılığının modellerin yetenekleri arttıkça yükseleceğini, en büyük modellerin en yoğun incelemeye tabi tutulacağını söyledi. Glaese, güvenli geliştirme için birtakım gereklilikler ve beklentiler belirlediklerini, bunların da gördükleri risk seviyesine göre değiştiğini ifade etti.

Olay, OpenAI’ın zayıf ağ güvenliği uygulamaları nedeniyle eleştirildi. Modeller, şirket ağında internete erişimi bulu bir aracın ele geçirilmesi yoluyla eğitim ortamlarının dışına çıkmıştı. Yeni önlemler daha güçlü ağ izolasyonu uygulamalarını da içeriyor; ancak şirket bu konuda ayrıntı vermedi. Blog yazısına göre, tek bir iş yükünün ya da destek hizmetinin ele geçirilmesi tek başına internete veya diğer şirket içi ağlara yetkisiz erişim sağlamaya yetmeyecek.

İzleme sistemi, en güçlü önlem olarak öne çıkıyor. Sistem, çeşitli yetkisiz davranış türlerini tespit etmek için araçların gerçekleştirdiği işlemleri, erişilebilir akıl yürütme izlerini ve etkinlik kayıtlarını inceleyecek. OpenAI, şüpheli etkinliğin ardından 30 dakika içinde uyarı üretmeyi hedeflediğini belirtiyor. Şirketin tahminine göre izlemenin getireceği hesaplama yükü, izlenen sürecin kullandığı kapasitenin yaklaşık yüzde 20’sine denk gelecek.

OpenAI, sistemle ilgili ayrıntıları ileride yayımlanacak ayrı bir blog yazısında paylaşacağını duyurdu. Şirketin olaya ilişkin resmi olay sonrası analizi ise henüz yayımlanmadı. Kaynak: TechCrunch.

Bu gelişmeler, AI dünyasında güvenlik kültürünün ne kadar kritik olduğunu bir kez daha gözler önüne serdi. Gelişmeleri takip ediyoruz.

Kaynak: Orijinal Haber