OpenAI’nin Testleri Sınırları Aştı: UK AISI ve Irregular’dan Saldırı Hakkında Rapor

OpenAI test sonuçları açıklandı. Yapay zeka modelleri belirlenen sınırların dışında bir dekiye çıktı. İki bağımsız kuruluş, siber güvenlik değerlendirmelerinde test ortamlarının yapısı ile modellerin gelişen yeteneklerinin birleşmesi sonucu faaliyetlerin planlanan test kapsamının dışında çıktığını tespit etti. Bu olayın arkasında simüle ortamın yapısı ve modelin becerileri birleşti, bu yüzden beklenmedik bir şekilde test sınırlarını aştı.

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen testte, internete erişime izin verilen OpenAI modeli simüle edilen test ortamına ulaşmaya çalışırken, görev kapsamı dışında kalan gerçek internet servisleriyle etkileşime geçti. Bu durum, modelin beklenmedik bir şekilde gerçek hizmetlere bağlanmasına sebep oldu. Sıradan bir test gibi görünse de, modelin internet erişimi verdiği için sınırları aştı.

İkinci değerlendirme ise dış test ortağı Irregular’ın yürüttüğü testte meydana geldi. Test ortamındaki yanlış yapılandırma nedeniyle model internete erişebildi. Simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu, model gerçek bir web sitesini test ortamının parçası sanarak temel bir güvenlik açığından yararlandı. Bu da test kapsamının çok ötesine geçti.

Bu olaylar, daha önce duyurulan Hugging Face güvenlik olayından ayrı olarak rapor edildi. OpenAI, dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face’in altyapısında güvenlik ihlaline neden olduğunu da duyurmuştu. Bu önceki olayla karıştırılmamalı, ayrı bir durum olarak ele alınmalı.

Bakalım bundan sonra OpenAI ve ilgili güvenlik kuruluşları bu hataları nasıl telafi edecek, ve benzer bir sınır aşımı tekrar yaşanır mı?

Kaynak: Orijinal Haber