BMGK’de yapay zeka alarmı: ‘İnsanlığın önünde iki büyük risk var’
23 Eylül’te New York’da gerçekleştirilen “Yapay Zeka ve Uluslararası Güvenlik” toplantısı, Birleşmiş Milletler Güvenlik Konseyi’nin Fransa tarafından yürütülen dönem başkanlığı çerçevesinde düzenlendi. Toplantıya OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue katıldı. Altman, yapay zekanın hızla gelişen kapasitesinin insan müdahalesini devre dışı bırakabileceğini ve ekonomik ile güç dengelerini değiştirebileceğini belirtti. Ona göre, kritik kararların yalnızca teknoloji laboratuvarlarında değil, demokratik süreçler ve halka karşı sorumlu hükümetler tarafından şekillendirilmesi gerekti. Amodei, yapay zekanın iki temel riskini vurguladı: kötü amaçlı kullanımla biyolojik silah geliştirme olasılığı ve kontrol kaybı. Biyolojik silah üretiminde AI kullanımının yasaklanmasını önerirken, uluslararası değerlendirme ve doğrulama mekanizmalarının kurulmasını talep etti. Delangue, AI destekli siber saldırıların artma potansiyeline dikkat çekerek, kendi şirketinde yaşanan bir AI‑ajanlı güvenlik olayından dersler çıkardığını söyledi. Onun görüşüne göre, AI sistemlerinin savunma amaçlı da kullanılabileceği, ancak küresel izleme, şeffaflık ve olay bildirim standartlarının oluşturulması gerektiği savunuldu. Toplantı, güçlü ve otonom hale gelen sistemlerin yönetiminin yalnızca şirketlere bırakılamayacağını ve uluslararası standartlara ihtiyaç duyulduğunu ortak bir nokta olarak ortaya koydu.
