Altman’dan AI çağrısı: Güven ve denetim tartışması

OpenAI Üst Yöneticisi Sam Altman, yapay zekâ şirketlerine güvenilmesi gerektiğini söyledi. Altman, firmaların teknolojiyi güvenli tutmak için doğru adımları atacaklarını ve risklerin büyüklüğünün farkında olduklarını belirtti.

Altman’ın açıklamaları, yapay zekânın kontrolsüz gelişiminin insanlık için oluşturabileceği risklere ilişkin endişelerin arttığı bir dönemde geldi. Anthropic’ten ayrılan bir araştırmacının, denetim olmazsa yapay zekânın on yıl bitmeden insanlığı yok edebileceği iddiası tartışmayı yeniden alevlendirdi.

Altman, şirketlerin güvenlik ve insan değerleriyle uyumu teknolojinin yeteneklerinin önünde tutamaması halinde gelişimi yavaşlatacaklarını veya durduracaklarını söyledi. OpenAI de aralarında Anthropic ve Google DeepMind’ın bulunduğu laboratuvarlarla gönüllü güvenlik standartları üzerinde çalışıyor.

Ancak birçok siyasetçi ve uzman, yapay zekâ şirketlerinin kendilerini denetlemesine güvenilemeyeceğini savunuyor. Senatör Bernie Sanders ve eski Trump danışmanı Steve Bannon, kararların dünyanın en zengin teknoloji yöneticilerinden oluşan dar bir grubun elinde bırakılmasını eleştirdi.

Nvidia Üst Yöneticisi Jensen Huang ise yeni yapay zekâ sürümlerinin yayımlanıp yayımlanmayacağına şirketlerin karar vermesi gerektiğini söyledi. Huang, yenilik hızı ile güvenlik arasında zorunlu bir tercih bulunmadığını ve yeni yasalara ihtiyaç olmadığını savundu.

Anthropic CEO’su Dario Amodei, yapay zekâ geliştirme hızının düşürülmesi ve hükümetlerin sektörü düzenlemesi çağrısı yaptı. Şirketin yöneticilerinden Jack Clark da yapay zekâyı tamamen denetimsiz bırakmanın büyük risklerle kumar oynamak anlamına geldiğini belirtti.

Yapay zekâ güvenliği alanındaki uzmanlar, kamu yararını korumak için kâr amacı gütmeyen bağımsız girişimlerin de güçlendirilmesi gerektiğini vurguluyor. Tartışmanın odağında, güvenlik kurallarını şirketlerin gönüllü adımlarıyla mı yoksa bağlayıcı devlet düzenlemeleriyle mi belirleyeceği sorusu bulunuyor.