Anthropic kurucusundan yapay zeka için ”acil kapatma düğmesi” önerisi

Jack Clark, Anthropic’in kurucu ortaklarından biri, BBC’ye verdiği röportajda yapay zekanın tehlikeli hale gelmesi durumunda acil kapatma düğmesinin zorunlu hale gelebileceğini söyledi. Clark, birçok şirketin farklı kapanış mekanizmaları geliştirdiğini belirtti ve bu düğmenin toplumun ileride kurallar koymak isteyebileceği bir konu olduğunu vurguladı.

Röportaj sırasında Clark, acil kapatma düğmesinin üçüncü bir taraf tarafından kontrol edilmesi gerektiği sorusuna, “Bu, toplumun bilmek isteyeceği ve nihayetinde kurallar koymak isteyeceği bir konu” diye yanıtladı. Ayrıca, yapay zekanın insanlığı yok etme olasılığını gösteren istatistiklerin işe yaramayacağını, fakat kontrolsüz bir endüstrinin kötü bir fikir olduğunu söyledi. Clark, “Muazzam riskler alarak kumar oynuyoruz. Sektörün gidişatını değiştirmemiz gerekiyor” ifadelerini kullandı.

Jacob Coxon, OpenAI ve Anthropic’te üç yıldır araştırmacı olarak çalışan bir isim olarak, şirketlerin yeterince sorumlu davranmadığını iddia ederek istifa etti. Coxon, AI sistemlerinin yakın gelecekte her şeyi hackleyebilecek insanüstü seviyelere ulaşabileceğini ve bazı çalışanların bu sistemlerin 10 yıl içinde insanlığı ortadan kaldırabileceğine inandığını öne sürdü.