Meta Platformlarında 332 AI Destekli İstismar Reklamı

ABD merkezli Tech Transparency Project (TTP), Facebook ve Instagram’da çocukların cinsel istismarını gösteren yapay zekâ üretimi görseller içeren 332 reklam tespit etti. Reklamların büyük bölümü, 274 tanesi, ağustos ayında yayınlandı.

Tespit edilen reklamların 84’ü Hindistan’da gösterildi. Bunların 78’inin, Hindistan hükümetinin Meta’dan bu tür içerikleri kaldırmasını istemesinin ve şirket yöneticileriyle görüşmesinin ardından yayınlandığı belirtildi.

TTP, bazı reklamlarda gerçek çocukların fotoğraflarının yapay zekâyla değiştirildiğini açıkladı. Kullanılan görseller arasında bir Avrupa kraliyet ailesi üyesine ait olduğu öne sürülen bir fotoğrafın da bulunduğu bildirildi.

Meta, çocuk istismarına ve yapay zekâyla üretilmiş içeriklere tolerans göstermediğini belirtti. Şirket, birçok reklamın daha önce kaldırıldığını, ilgili hesapların kapatıldığını ve tespit edilen içeriklerin ABD’deki Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’ne bildirildiğini savundu.

TTP, Hindistan’da tespit ettiği 84 reklamın 55’ini Meta’nın bildirim sistemi üzerinden raporlayabildiğini söyledi. Şirketin 43 bildirim için reklamların kurallarını ihlal etmediği yanıtını verdiği, raporun ardından da yeni reklamların yayınlanmaya devam ettiği aktarıldı.

Reklamların çoğunun, ağırlıklı olarak Çinli geliştiricilere ait yapay zekâ görsel ve video uygulamalarına yönlendirdiği belirtildi. Hindistan’daki çocuk hakları kuruluşları, sosyal medya şirketlerinin ülke makamlarına zorunlu bildirim yapması için Yüksek Mahkeme’ye başvurdu.

Hindistan’da çocuk cinsel istismarı materyalinin dağıtımı suç sayılıyor. Yetkililer ve çocuk hakları savunucuları, kullanıcıların platformlar arasında kolayca hareket etmesinin soruşturmaları zorlaştırdığını ve mevcut denetim sistemlerinin yetersiz kaldığını belirtiyor.