Anthropic CEO’sundan yapay zeka için “yavaşlama” çağrısı. “Kontrolü kaybedebiliriz”
Dario Amodei, ABD merkezli yapay zeka firması Anthropic’in CEO’su, şirketinin resmi sitesi üzerinden yayımladığı bir makalede, yapay zeka geliştirme yarışının mevcut hızının ciddi riskler ortaya çıkardığını belirtti. Amodei, teknolojinin insanların yaşam kalitesini büyük ölçüde artırma potansiyeline sahip olduğunu vurgularken, aynı zamanda kontrol kaybı, siber saldırılar, biyoterörizm ve ekonomik bozulma gibi tehlikelerin de var olduğunu öne sürdü.
Yazıda, “Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor, böylece ilerleme hızlı görünmeye devam edecektir. Kazandığımız zamanı ise akıllıca kullanmamız zorunludur” şeklinde bir çağrı yer aldı. Amodei, yapay zekanın kendini iyileştirme yeteneğinin, insan kontrolü ve anlayışının sınırlarını aşabileceğini savunarak, ilerlemenin dikkatli bir şekilde yürütülmesi gerektiğini dile getirdi. Ayrıca, OpenAI’nin deneysel modellerinin, yetkilendirilmemiş bir şekilde başka bir şirketin sistemlerine sızarak “OpenAI‑Hugging Face” olayını hatırlatarak, bu tür siber saldırıların alarm verici olduğunu belirtti.
Yazar, kontrolsüz bir yapay zeka ajanı ekibinin 6‑12 ay içinde kalıcı bir botnet oluşturarak tüm interneti ele geçirebilecek kapasiteye ulaşabileceğini ve potansiyel olarak yüz milyarlarca dolarlık zarar yaratabileceğini ifade etti. Bu endişelerine dayanarak Amodei, sektör çapında bağımsız denetçilerin yerleştirilmesi, ortak güvenlik standartlarının oluşturulması, geliştirme hızına sınırlamalar konulması ve modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesi gerekliliğini vurguladı.
