Anthropic kurucusundan yapay zeka için ”acil kapatma düğmesi” önerisi

Jack Clark, Anthropic’in kurucu ortaklarından, BBC’ye verdiği bir röportajda yapay zekanın tehlikeli bir seviyeye ulaşması durumunda tamamen devre dışı bırakmanın bir yolu olarak üçüncü taraf kontrolüyle bir acil kapatma düğmesinin zorunlu hale getirilebileceğini belirtti. Clark, bu düğmenin gerekliliklerinin ve denetiminin, yapay zeka konusunda yürütülen daha geniş kapsamlı politika tartışmasının bir parçası olması gerektiğini söyledi. Soru üzerine “Bu, toplumun bilmek isteyeceği ve nihayetinde kurallar koymak isteyebileceği bir konu” diyerek öne çıktı.

Ayrıca Clark, yapay zekanın tüm insanlığı yok etme olasılığıyla ilgili istatistiklerin işe yaramayacağını, ancak tamamen kontrolsüz bir endüstrinin kötü bir fikir olduğunu ifade etti. “Muazzam riskler alarak kumar oynuyoruz” diyerek sektörün yönünü değiştirmesi gerektiğini vurguladı.

Coxon, OpenAI ve Anthropic’te son üç yıldır araştırmacı olarak çalıştıktan sonra iki şirketin sorumlu davranmadığını savunarak istifa etti. Coxon, şirketlerin kendi kendini geliştiren yapay zeka sistemleriyle kontrolsüz bir yarış içinde olduğunu; bu sistemlerin yakın gelecekte “her şeyi hackleyebilecek” insanüstü bir düzeye ulaşabileceğini ve 10 yıl içinde insanlığı öldürebileceğine inandığını öne sürdü.