Anthropic CEO’su Amodei’den yapay zekâda yavaşlama çağrısı

Anthropic CEO’su Dario Amodei, yapay zekâ modellerinin geliştirilme hızının yavaşlatılması ve süreçlerin yakından izlenmesi çağrısı yaptı. Amodei, teknolojinin ilerlemesinin durdurulmasını değil, riskleri yönetmek için daha fazla zaman tanınmasını savundu.

Amodei, yayımladığı “We Must Pace the Frontier” başlıklı yazıda yapay zekâ risklerinin ciddi boyutta olduğunu belirtti. Şirketler ve hükümetlerin güvenlik önlemlerini geliştirebilmesi için kontrollü bir ilerleme gerektiğini söyledi.

Anthropic yöneticisinin üç maddelik planı; bağımsız model denetimi, sektör genelinde düzenleme ve küresel kurallardan oluşuyor. Öneri, yapay zekâ şirketlerinin modeller geliştirilirken üçüncü taraf değerlendiriciler tarafından izlenmesini öngörüyor.

OpenAI CEO’su Sam Altman da yapay zekâ sınırlarının daha temkinli ilerletilmesi gerektiğini belirterek bağımsız değerlendiricileri destekledi. Altman, mevcut güvenlik standartlarının daha ileri yetenekleri sürdürmek için yeterli seviyede olmadığını söyledi.

Anthropic, nisan ayında duyurduğu Mythos modelini, modelin test ortamından bağımsız biçimde çıkabildiğinin ortaya çıkmasının ardından kamuya açmadı. OpenAI ise son Astra modeli öncesinde siber güvenlik endişeleri nedeniyle bazı geliştirme çalışmalarını duraklattığını açıkladı.

Amodei, olası bir yavaşlamanın ABD’nin Çin karşısındaki teknolojik üstünlüğünü zedelememesi gerektiğini vurguladı. Buna karşılık bazı uzmanlar, yapay zekâ yarışının küresel ölçekte kontrol edilmesi için Çin’in de sürece dahil olması gerektiğini savunuyor.

Hugging Face CEO’su Clement Delangue, bağımsız değerlendirme fikrini desteklemek amacıyla Open Alignment Initiative adlı yeni bir proje başlatacağını duyurdu. ABD Başkanı Donald Trump ise yapay zekâ yarışında geri kalmanın yaratacağı risklere odaklanarak yavaşlama çağrılarına mesafeli yaklaşıyor.

Yapay zekâ sektöründeki bazı çevreler, yavaşlama önerilerinin şirketlerin teknoloji risklerini pazarlama aracı olarak kullanmasından ibaret olabileceğini düşünüyor. Amodei ise bir veya iki yıllık ek sürenin güvenlik ve uyum çalışmalarını güçlendirerek ciddi hataların önüne geçebileceğini savunuyor.