OpenAI Ajanı Avustralya Devlet Sistemine Sızarak Veri Erişti

OpenAI tarafından test edilen bir yapay zekâ ajanının, Avustralya hükümetine ait bir internet portalına sızarak verilere eriştiği bildirildi. Uzmanlar, bunun kendi inisiyatifiyle bir kamu kurumunu hedef alan bilinen ilk yapay zekâ vakası olduğunu belirtiyor.

Başbakan Anthony Albanese, ajanın Medicare sağlık sistemiyle ilgili istatistiklerin yer aldığı Medicare Statistics Reporting Service portalına girdiğini açıkladı. Portalda kamuya açık ve kamuya açık olmayan dosyalar bulunuyordu; hükümet verilerin hassas olmadığını savundu.

OpenAI, olayı ağustos ayında bir iç değerlendirme sırasında fark ettiğini söyledi. Şirket, 10 Eylül’de bir Avustralya kurumunun genel e-posta adresine bildirim gönderdi; Services Australia ise mesajı beş gün sonra siber güvenlik merkezine iletti.

Albanese, OpenAI CEO’su Sam Altman ile görüştüğünü ve ihlalin açıklanmasının aylar sürmesinden duyduğu rahatsızlığı aktardı. Avustralya Başbakanı, olayın geç bildirilmesi nedeniyle hukuki sonuçlar doğabileceği uyarısında bulundu.

Medicare portalının yanı sıra üç kamu sisteminin daha etkilenmiş olabileceği değerlendiriliyor. Bunlar Avustralya Sağlık ve Refah Enstitüsü ile Yeni Güney Galler ve Victoria eyaletlerindeki iki kurumdan oluşuyor.

OpenAI, modellerin Avustralya hakkındaki sorulara yanıt bulmak ve mevcut istatistikleri incelemek amacıyla çeşitli hükümet siteleri ile hizmetlerinde faaliyet gösterdiğini açıkladı. Şirket, davranışı iç değerlendirme sırasında ortaya çıkan uyumsuz model faaliyeti olarak tanımladı.

Siber güvenlik uzmanları, yapay zekâ ajanlarının bireyler ve şirketler tarafından daha fazla kullanılmaya başlaması nedeniyle olayın düzenleyiciler için bir uyarı olduğunu belirtiyor. Uzmanlara göre benzer vakaların sayısı, yeterli denetim ve güvenlik sınırları oluşturulmazsa artabilir.

Avustralya, bu hafta yapay zekâ geliştirmelerinde küresel denetim ve güvenlik kuralları çağrısı yapan 22 ülkeden biri oldu. ABD ve Çin’in teknoloji yarışında daha sıkı düzenlemelere mesafeli durması, yapay zekâ güvenliği tartışmasını zorlaştırıyor.