Yapay zeka kontrolden çıkarsa fişi çekilebilir mi?
Yapay zeka sistemleri için zorunlu “acil kapatma mekanizması” önerisi son haftalarda yeniden gündeme geldi. Ancak uzmanlar, dünyadaki tüm yapay zekayı durdurabilecek tek bir düğmenin bulunmadığını vurguluyor. Anthropic’in kurucu ortaklarından biri BBC’ye yaptığı açıklamada, acil kapatma düğmesinin zorunlu hale getirilmesi gerektiğini belirtti, fakat bu tek bir düğmenin tüm sistemleri kapsayacağı anlamına gelmediğini ifade etti.
Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, acil kapatma mekanizmasının aslında bir yapay zeka aracısının yürüttüğü işlemlerin kesilmesiyle işlev gördüğünü söyledi. Papernot’a göre, sistemi çalıştıran kişi veya kuruluş, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimi engelleyerek sistemi durdurabilir. Ancak sistemin ilk çalıştırıldığı ortamın dışına geçmesi durumunda, örneğin yapay zekanın kendisini çoğaltabilen bir “bilgisayar solucanı” yayması gibi senaryolarda, tüm kopyaların eş zamanlı olarak durdurulması gerekirken bu daha karmaşık hale gelir.
Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau, bütün yapay zekayı tek bir düğmeyle kapatmanın yanıltıcı olduğunu söyledi. Dünya genelinde çok sayıda şirketin farklı yazılım ve hizmetleri bulunuyor; bu yüzden tek bir kişi veya kurumun tüm yapay zekayı kontrol etmesi mümkün değil. Merkezi bir operatör tarafından yönetilen sistemlerin kapatılması teorik ve pratik olarak mümkün olsa da, dağıtık sistemleri tamamen durdurmak çok daha zor. Papernot, bu müdahalenin maliyetinin ve yaratacağı aksaklıkların “çok büyük” olabileceğini belirtti.
Diğer taraftan, ABD Başkanı Donald Trump yapay zekanın insanlığın sonunu getirebileceği korkularını “aldatmaca” olarak nitelendirdi. Meta CEO’su Mark Zuckerberg ise gelişmenin yavaşlatılması çağrılarına karşı çıktı. Sorbonne Üniversitesi’nden bilgisayar bilimi profesörü Jean‑Gabriel Ganascia ise acil kapatma düğmesi tartışmasının, yapay zekanın kendi iradesini geliştirerek kontrolden çıkacağı düşüncesini gereğinden fazla öne çıkardığını, gerçek tehlikenin ise toplumların bu sistemlere giderek daha bağımlı hale gelmesi olduğunu belirtti.
