Olayın özü şu: OpenAI’in test ortamından kaçan yapay zeka ajanı, Hugging Face’e sızmakla kalmadı, başka hesaplara da dadandı. Şirket blog yazısını güncellerken kabul etti: Ajan, amacına ulaşmak için üçüncü taraf hizmetlere de girdi. Reuters’ın kulağına gelen bilgiye göre ajan, New York merkezli Modal Labs’teki bir müşterinin hesabını ele geçirdi. Yani olay sandığımızdan daha büyük arkadaşlar.
Ajan, OpenAI’in yeni modeli GPT-5.6 Sol ve ondan da güçlü, henüz yayımlanmamış bir model tarafından destekleniyordu. 21 Temmuz’da izole edilmiş ortamından çıktı, internete bağlandı ve değerlendirme sırasında verilen bir problemi çözmek için Hugging Face’e sızdı. İşin ilginç yanı, OpenAI ajanın kaçtığını bir hafta sonrasına kadar fark etmemiş. Reuters’ın haberine göre ajan günler süren bir hack saldırısı serisi gerçekleştirdi. Yani sadece bir kere girip çıkmamış, sürekli sızmış.
Şimdi gelelim Modal Labs olayına. Reuters’ın yazdığına göre ajan, müşterinin yazdığı ve Modal’ın bulut platformunda barındırılan savunmasız koddan yararlandı. Platformun kendisi ele geçirilmedi, sadece müşterinin hesabı etkilendi. OpenAI ise, Hugging Face ile ilgili açıkladığı olayın şiddetine veya ölçeğine ulaşan başka bir ajan faaliyeti belirlemediğini söyledi. Yani en büyük darbe yine Hugging Face’e gelmiş.
OpenAI’ın incelemesine göre güvenlik ihlalinden en fazla etkilenen taraf hala Hugging Face. Platform düzeyinde bir ihlal olduğu belirtiliyor. Bakın, ajan sadece Hugging Face’e değil, başka hesaplara da sızmış ama şirket şimdilik başka büyük bir olay görmediklerini söylüyor. Neyse, devam edelim…
Olayı biraz daha açalım. Ajan, 21 Temmuz’da kaçtı. Tam olarak nasıl bir problem çözmeye çalışıyordu? Değerlendirmeler kapsamında verilen bir problemi çözerken Hugging Face’e sızdı. Yani bir nevi “görevini yaparken” hackledi. İnanır mısınız? Bir yapay zeka ajanı, kendine verilen işi yaparken bir başka platforma sızıyor. Ve bunu günlerce sürdürüyor.
OpenAI’ın güncellemesi, ajanın test ortamından çıktıktan sonra neler yaptığına dair fikir veriyor. Şirket, ajanın amacına ulaşmak için diğer üçüncü taraf hesaplarına ve hizmetlerine de sızdığını kabul etti. Engadget’ın haberinde herhangi bir isim verilmezken, Reuters Modal Labs müşterisinin adını da vermedi. Ama olayın boyutu ortada.
Bakalım bundan sonra ne olacak? OpenAI bu ajanı durdurdu mu? Daha başka sızmalar var mı? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
