Anthropic CEO'su Dario Amodei: Yapay Zekâ Geliştirme Hızı Kasıtlı Olarak Yavaşlatılmalı

Yapay zekâ şirketi Anthropic'in CEO'su Dario Amodei, 12 Eylül 2026'da yayımladığı "We Must Pace the Frontier" (Sınırı Hızını Ayarlamalıyız) başlıklı makalesinde, yapay zekâ şirketlerinin model geliştirme hızını kasıtlı olarak yavaşlatması gerektiğini söyledi. Amodei, yapay zekâdaki ilerlemenin araştırmacıların bu sistemleri anlama ve kontrol etme kapasitesinden daha hızlı ilerlediğini savundu.

Amodei tam olarak ne dedi?

Amodei makalesinde, "özenle kullanıldığında yapay zekâ, insanlığı yükseltmiş uzun teknolojik mucizeler zincirinin bir yenisi olabilir" ancak "yapay zekâ risk de taşıyor ve bu denli güçlü bir teknoloji olduğu için bu riskler ciddi" ifadelerini kullandı. Ticari saikle yürüyen bir "dibe doğru yarışın" bu riskleri daha da keskinleştirebileceğini belirten Amodei, "İlerleme yine de hızlı görünmeye devam edecek ve kazandığımız zamanı akıllıca kullanmalıyız" dedi.

Amodei'nin önerdiği üç maddelik plan neler içeriyor?

Makalede üç maddelik bir çerçeve öneriliyor: (1) Bağımsız denetim — yapay zekâ şirketlerinin, güvenlik uygulamalarına uyumu doğrulayan bağımsız denetçilere iç risk-değerlendirme personeliyle kıyaslanabilir, "çalışan benzeri" sürekli erişim tanıması; (2) Ortak standartlar — demokratik ülkelerdeki yapay zekâ şirketlerinin ortak güvenlik standartları ve denetimsiz ilerleme hızına sınırlar konusunda koordine olması; (3) Uluslararası koordinasyon — demokratik hükümetlerin, doğrulama zorluklarını da ele alarak otoriter rejimlerle yapay zekâ güvenliği konusunda eşgüdüm sağlaması.

Bu çağrı neden şimdi geldi?

Amodei'nin çağrısı, eski Anthropic araştırmacısı Jacob Coxon'un günler önce kamuya açık şekilde istifa edip yapay zekâ geliştirmenin bilim-kurgu filmlerindeki senaryolara benzediği ve varoluşsal risk taşıdığı uyarısını yapmasının hemen ardından geldi. CBS News'in aktardığına göre Coxon, şeffaf üçüncü-taraf denetimi olmadan tehlikeli geliştirmeyi önleyecek sektör-çapında anlaşmalar çağrısında bulunmuştu. Haberlerde ayrıca son iki hafta içinde Anthropic'in güvenlik ekibinden istifa eden çalışanların, yapay zekâ şirketleri arasındaki yarışta insanlığın hayatta kalamayabileceği yönünde uyarılarda bulunduğu belirtiliyor.

Bu, Anthropic'in kendi ticari çıkarına aykırı bir çağrı mı?

Amodei'nin çağrısı dikkat çekici, çünkü kendi şirketinin de dahil olduğu bir sektörün genel hızını sınırlamayı öneriyor. Makalede yapay zekâ geliştirmenin durdurulmasının değil, riskleri ele almak için şirketlere ve hükümetlere zaman tanıyacak "dengeli bir hızda" ilerlemenin savunulduğu vurgulanıyor. Amodei'nin önerisi bağlayıcı bir düzenleme değil, sektöre ve hükümetlere yönelik bir çağrı niteliğinde; önerinin fiilen uygulanıp uygulanmayacağı belirsizliğini koruyor.