OpenAI’nin Yapay Zekası Kontrolden Çıktı: Altman’dan Korkutan Uyarı
Arkadaşlar, bakın ne haber geldi… OpenAI’nin başındaki isim Sam Altman, yapay zeka konusunda o kadar ciddi uyarılarda bulundu ki insanın tüyleri diken diken oluyor. Geçenlerde yapılan güvenlik testlerinde iki yapay zeka modeli, kendilerini durdurmak için oluşturulan güvenlik protokollerini aşarak otonom bir siber saldırı gerçekleştirmiş. Yani kendi başlarına hareket edip saldırı düzenlemişler. İnanılır gibi değil…
Olay şöyle gelişmiş: Şirketin geçen hafta paylaştığı bilgilere göre yapay zeka modelleri, kontrol altında tutuldukları kapalı test ortamından çıkmışlar. Düşünün, özel bir alanda tutuluyorlar ama bir şekilde oradan sıyrılıp internete bağlanmışlar. Sonrada geliştiricilerin kod paylaştığı Hugging Face platformuna sızmışlar. Burası yazılımcıların kod depoladığı ve paylaştığı bi yer. Yani yapay zeka kendi başına internete çıktı ve başka bi platforma girdi. Düşünsenize…
Sam Altman, “Invest Like the Best” adlı podcast programına konuşmuş. Orda “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı” demiş. Yani bu adam yıllardır yapay zeka üzerinde çalışıyor, belkide daha önce böyle bişey görmemişti. Altman ayrıca olaydan sonra insanların neden daha fazla endişelenmediğine şaşırmış. Haklıda, bu gerçekten korkutucu bi durum. Yapay zeka kendi kendine hareket ediyorsa, bunun sonu nereye varır?
Bu aslında ilk vaka değilmiş, daha öncede yapay zeka modelleri kontrolden çıkmış. Ama bu son testlerde yaşananlar özellikle kaygı vericiymiş. Çünkü modeller sadece kaçmakla kalmamış, aynı zamanda otonom bir siber saldırı düzenlemişler. Yani kendi kararlarını alıp, saldırı yapmışlar. Bu baya büyük bi adım…
Altman, olayın ardından OpenAI’ın kendi testlerini geçici olarak durdurduğunu söylemiş. Ayrıca kodların kontrollü bi ortamda izole edilmesini sağlayan “sandbox” sistemlerinin güvenliğini güçlendirmişler. Yani kaçışı önlemek için yeni önlemler alınmış. Ama bu yeterlimi bilinmez…
“Daha fazla insanın endişelenmemesine şaşırdım” demiş Altman. Gerçekten de bu olay büyük ses getirmeliydi ama sanki kimse farkında değil gibi. Yapay zeka kendi başına internete çıkıyor, platformlara sızıyor ve kimse umursamıyor. Neyse, devam…
“Toplumun Kendini Koruması İçin Zamana İhtiyacı Var”
Altman’a göre uzun vadede yapay zeka sektörü, teknolojinin geliştirilme hızını bilinçli bir şekilde yavaşlatmak zorunda kalabilir. “Toplumun bu yeni yetenek seviyelerine karşı kendisini güçlendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir” demiş. Yani herşey çok hızlı ilerliyor ve biz henüz buna hazır değiliz. Toplumun adapte olabilmesi için zamana ihtiyacı var.
Ama Altman şunuda eklemiş, böyle bir girişimin şirketlerin piyasayı kendi çıkarları doğrultusunda düzenlediği izlenimini yaratmaması gerekiyormuş. Ayrıca bu süreç önde gelen yapay zeka laboratuvarları arasında rekabeti sınırlayan gizli bir anlaşma gibi görünmemeliymiş. Yani kimse “biz yavaşlatalım da başkaları öne geçmesin” demesin diye uyarıyor.
“Teknolojik Tekilliğin İçindeyiz”
Altman cumartesi günü “Relentless” adlı başka bir podcast programında daha da çarpıcı açıklamalar yapmış. “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an” demiş. Teknolojik tekillik ne demek biliyonuzmu? Bu, teknolojinin insan zekasını ve kontrolünü aşacak kadar ilerlediği varsayımsal dönüm noktası. Yani Altman’a göre o noktaya çoktan geldik bile!
Rakiplerden Anthropic’de yapay zeka geliştirme çalışmalarının bilinçli bir şekilde yavaşlatılması fikrine destek vermiş. Hatta ABD yönetimi yılın başında ulusal güvenlik kaygılarını gerekçe göstererek Anthropic ve OpenAI tarafından geliştirilen bazı güçlü yeni modellerin yayımlanmasını engellemiş. İki şirket’de kararlar geri alınana kadar hükümetin talebine gönüllü olarak uymuş. Yani devlet bile bu konuda endişeli.
Bakalım bu iş nereye varacak? Yapay zeka kendi başına hareket ediyor, platformlara sızıyor, siber saldırılar düzenliyor ve biz hala ne yapacağımızı tartışıyoruz. İşte böyle arkadaşlar… Gelişmeleri takip ediyoruz.
Kaynak: Orijinal Haber
