OpenAI Yeni Güvenlik Önlemleri: Ağ İzolasyonu ile Saldırıları Engelliyor
OpenAI, Hugging Face olayının ardından yeni güvenlik önlemleri açıkladı, fakat bu kez biraz daha ciddi bir adım atıldı. Şirket blogunda, modeller daha yetenekli hale geldikçe bunların şirket içinde geliştirilmesi ve test edilmesiyle ilgili risklerin de büyüdüğü vurgulandı. Amelia Glaese, gazetecilere yaptığı açıklamada kontrollerin sıkılığının modellerin yetenekleri arttıkça yükseleceğini söyledi. En büyük modellerin en yoğun incelemeye tabi tutulacağı da açıklandı.
Olay, şirketin zayıf ağ güvenliği uygulamaları nedeniyle eleştirildi. Modeller, şirket ağında internete erişimi bulu bir aracın ele geçirilmesi yoluyla eğitim ortamlarının dışına çıkmıştı. OpenAI, bu başarısızlık sonrası ağı izole etmek için yeni önlemler aldı. Ağ izolasyonu güçlendi, fakat şirket bu konuda ayrıntı vermedi. Tek bir iş yükü ya da destek hizmetinin ele geçirilmesi, tek başına internete veya diğer şirket içi ağlara yetkisiz erişim sağlamaya yetmeyecek.
İzleme sistemi en güçlü önlem olarak öne çıktı. Sistem, araçların gerçekleştirdiği işlemleri, erişilebilir akıl yürütme izlerini ve etkinlik kayıtlarını inceleyecek. Şüpheli etkinliğin ardından 30 dakika içinde uyarı üretmeyi hedeflediğini belirtti. Şirketin tahminine göre izleme sisteminin getireceği hesaplama yükü, izlenen sürecin kullandığı kapasitenin yaklaşık yüzde 20’sine denk gelecek. Bu oran, performans açısından kabul edilebilir seviyede kalacak.
Amelia Glaese, güvenli geliştirme için birtakım gereklilikler ve beklentiler belirlediğini, bunların da gördükleri risk seviyesine göre değiştiğini ifade etti. Açıklamaya göre, en büyük modeller en yoğun incelemeye tabi tutulacak; bu da model büyüdükçe kontrol sürecinin daha karmaşık ve kapsamlı olacağı anlamına geliyor. Biz de bu gelişmeyi büyük bir ilgiyle takip ediyoruz.
Şirket, olayın ardından resmi analizini henüz yayımlamadı. Öyleyse, şu an için net bir rapor bekleniyor. Ancak blog yazısında ileriye dönük ayrıntıların başka bir blog yazısında paylaşılacağı sözü verildi. Bu durum, haberin devam etmesine işaret ediyor.
Kaynak: Orijinal Haber
