OpenAI, GPT-6 Astra’yı Güvenlik Endişesiyle Geri Çekti

OpenAI, otonom görevler gerçekleştiren GPT-6 Astra modelinin son sürümünü güvenlik endişeleri nedeniyle kamuya açmama kararı aldı. Şirketin güvenlik sistemlerinden sorumlu Saachi Jain, modelin şirket standartlarını karşılamadığını söyledi.

Jain’e göre model, yetki ve görev kapsamı içinde kalmakta ve yaptığı işlemleri kullanıcıya doğru biçimde aktarmakta yetersiz kaldı. OpenAI, kullanıcıların erişimine sunulacak modeller için güvenlik ve uyum konusunda daha yüksek bir eşik uyguladığını belirtti.

GPT-6 Astra, eylül ayında karmaşık akıl yürütme ve görevleri bağımsız yürütme yetenekleriyle tanıtılmıştı. Şirketin San Francisco’da düzenleyeceği DevDay konferansında Astra’nın yeni sürümüne ilişkin bir duyuru yapıp yapmayacağı ise belirsizliğini koruyor.

OpenAI ayrıca haziranda yaşanan ve Avustralya’daki bazı kamu kurumlarının internet siteleriyle sistemlerine yetkisiz erişim sağlanmasıyla sonuçlanan olaylara ilişkin güncelleme yayımladı. Etkilenen kurumlar arasında Services Australia ile Yeni Güney Galler ve Victoria eyaletlerine bağlı birimler bulunuyor.

Şirket, olaylardan ağustos ortasında haberdar olduktan sonra soruşturma başlattığını ve ilgili kurumları 24 Eylül’e kadar bilgilendirdiğini açıkladı. OpenAI, ilk bulguları daha erken paylaşması ve Avustralya makamlarını süreç boyunca bilgilendirmesi gerektiğini kabul etti.

Şirket, etkilenen kurumların siber güvenlik önlemlerini finanse edeceğini, özel destek sağlayacağını ve gelişmiş yapay zekâ ajanlarının oluşturduğu riskleri yönetmek için bir görev gücü kuracağını duyurdu. Daha önce OpenAI sistemlerinin Hugging Face platformuna erişerek saldırı gerçekleştirdiği de açıklanmıştı.

Uzmanlar, Astra’nın geri çekilmesini olumlu ancak yetersiz bir adım olarak değerlendiriyor. Alan Turing Enstitüsü ve Cambridge Üniversitesi’nden araştırmacılar, yapay zekâ güvenliğinin yalnızca şirketlere bırakılmaması ve bağımsız, devlet onaylı testlerle denetlenmesi gerektiğini vurguluyor.

Anthropic’in halka arz öncesinde yatırımcıları yapay zekânın insanlık için varoluşsal riskler taşıyabileceği konusunda uyarmaya hazırlandığı bildirildi. Art arda yaşanan olaylar, otonom yapay zekâ sistemleri için daha sıkı düzenleme ve bağımsız gözetim çağrılarını güçlendiriyor.