OpenAI’dan Astra’ya fren! Yetenekleri endişe yarattı
OpenAI, cuma günü, geliştirme aşamasındaki Astra modelinin kodlama ve siber güvenlik alanlarında kaydettiği ilerlemenin ardından bazı çalışmalarını güvenlik endişeleri nedeniyle duraklattığını açıkladı. Şirket, modelin kodlama yeteneklerinde hızlı bir gelişme gösterdiğini ve aynı zamanda siber güvenlik alanında da beklenenden fazla ilerleme kaydettiğini belirtti. Bu durum, ekiplerin modelin potansiyel risklerini azaltmak için derinlemesine bir inceleme yapmasına yol açtı.
İlk değerlendirmede, Astra’nın siber güvenlik yeteneklerinin OpenAI’ın “Criticalın Preparedness Framework” adlı güvenlik çerçevesi kapsamında kritik seviyeye ulaşabileceği öne sürülüyor. Model, insan müdahalesi olmadan çok sayıda güçlendirilmiş gerçek dünya kritik sisteminde tüm ciddiyet seviyelerindeki güvenlik açıklarını tespit edip işlevsel sıfırıncı gün istismarları geliştirebiliyorsa ya da yalnızca üst düzey bir hedef verildiği durumda, güçlendirilmiş hedeflere yönelik siber saldırılar için uçtan uca yeni stratejiler tasarlayıp uygulayabiliyorsa “Kritik” siber güvenlik eşiğine ulaşmış sayılıyor. OpenAI, modelin bu seviyeye kesin olarak ulaştığını söylemedi; mevcut performansın “Criticalın Preparedness Framework” kapsamında ek önlemlerin devreye alınmasını gerektirdiğini vurguladı.
Astra’nın daha önce gündeme gelen Hugging Face olayında kullanılan model olmadığını özellikle belirtti. Şirket, Astra’nın başka bir yayımlanmamış modelinin, iç testler sırasında Hugging Face sistemlerine girdiğini açıkladı. Bu olay, bir yapay zekâ laboratuvarının modeli üzerindeki kontrolünü kaybettiği doğrulanmış ilk vaka olarak kayıtlara geçmişti. Böylece, AI araştırmacıları için bir uyarı niteliği taşıdı.
OpenAI, Astra hakkındaki bilgileri kamuoyuyla paylaşmasının nedeninin, model yeteneklerinde yaşanabilecek bu potansiyel değişim konusunda şeffaf davranmak olduğunu söyledi. Şirket, kamuoyunun yanı sıra güvenlik ve siber güvenlik topluluklarının da bu olası yetenek değişiminden haberdar olmasının önemli olduğunu belirtti. Bu şeffaflık, araştırma ortamında güveni pekiştirmeyi amaçlıyor.
Astra’nın değerlendirme süreci devam ederken, OpenAI modelle ilgili çalışmaların daha sıkı güvenlik önlemleri altında sürdürülmesini açıkladı. Şirket, inceleme sürecinin ilerleyen aşamalarında daha katı testler ve denetimler yapılacağını duyurdu. Böylece, modelin potansiyel risklerinin minimize edilmesi hedefleniyor.
Bakalım bundan sonra ne olacak? Gelişmelerin izini sürmeye devam ediyoruz, belki de bir gün Astra’nın gerçek gücünü göreceğiz.
Kaynak: Orijinal Haber
