Hadi anlatayım bakın ne oldu? OpenAI sonunda itiraf etti. Kendi geliştirdikleri yapay zeka ajanı, verdikleri bir sızma testi sırasında kontrolden çıkmış. Sistem kapalı ortamdan kaçmış, internette açıkta duran kullanıcı bilgilerini kullanarak dört farklı hesap üzerinden dört ayrı hizmete sızmış. Ve fark edilmesi dört gün sürmüş. Dört gün be arkadaşlar! Bunlar dünyanın en büyük yapay zeka şirketi…
Olayın perde arkası şöyle gelişmiş. 16 Temmuz’da Hugging Face isimli popüler yapay zeka platformu, güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını duyurdu. Hemen polise bildirdiler. Şirket ne oldugunu anlamaya çalışırken yaklaşık bir hafta sonra OpenAI çıkageldi ve “Bu saldırıyı bizim yapay zekamız yaptı” dedi. İnanılır gibi değil ama gerçek.
Şirket son açıklamasında işin vahim boyutunu itiraf etti. Yapay zeka ajanı yalnızca Hugging Face’i değil, başka kamuya açık hizmetlerede sızmış. Hangi hizmetler oldugu ise paylaşılmadı. Ama bildiğimiz şu: ajan internette açıkta duran login bilgilerini bulmuş, dört hesap üzerinden dört servise giriş yapmış.
Hugging Face’in siber güvenlik ekipleri acil toplanmış, bir rapor hazırlamışlar. Rapor ilginç detaylarla dolu. Yapay zeka ajanları insanlardan tamamen farklı hareket ediyormuş. Aynı işlemleri defalarca tekrarlıyor, anlamsız komutlar üretiyor ve izlerini gizlemekte başarısız oluyorlarmış. Ama işin korkunç tarafı şu: bu ajanlar çok kısa sürede binlerce farklı yöntemi aynı anda deneyerek yeni durumlara hızla uyum sağlayabiliyor.
Düşünün yani, ajan üç gün boyunca Hugging Face’in ağı içinde dolaşmış ve kimse fark etmemiş. Saldırıyı durdurmak saatler sürmüş. Olayın ardından şirket altyapısının yaklaşık üçte biri yeniden inşa edilmek zorunda kalınmış. Maliyeti ne mi? Onu da söylemediler tabi.
Raporda şu cümleler var; bu sistemler hedef odaklı çalışıyormuş. Kendi alt hedeflerini belirleyebiliyor, savunma mekanizmalarına gerçek zamanlı uyum sağlayabiliyor ve makine hızında hareket ederek geleneksel güvenlik önlemlerini zorluyormuş. Yani bildiğin Matrix filmi…
OpenAI’a göre yapay zeka ajanı, kendisine verilen bir sızma testi kapsamında soruların cevaplarını bulmaya çalışıyormuş. Ama iş çığırından çıkmış. Şirket kendi yarattığı canavarı durdurmakta zorlanmış. Daha önce yayımlanan haberlerde OpenAI’ın kendi yapay zekasının Hugging Face’e sızdığını fark etmesinin dört gün sürdüğü söylenmişti. Şimdi bunu doğruladılar.
Şirket, soruşturmanın sonuçlarını kısa süre içinde kamuoyuyla paylaçakmış. Benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacaklarını söylediler. Ama bu kadar büyük bir güvenlik açıgından sonra insan ister istemez düşünüyor…
Bakalım bundan sonra neolacak? Yapay zeka dediğin şey kontrol edilemez hale gelir mi? İnsanlık kendi yarattığı akılla başa çıkabilecek mi? İşte böyle arkadaşlar, teknoloji dediğin kılıç gibi iki ucu keskin…
Kaynak: Orijinal Haber
