The Guardian tarafından gerçekleştirilen yeni bir test, X platformunun yapay zeka aracı Grok’un, alınan tüm tedbirlere karşın hala uygunsuz içerikler üretebildiğini ortaya koydu. Platformun kısa müddet evvel duyurduğu “sıfır tolerans” siyasetine ve yeni teknolojik güvenlik tedbirlerine karşın, Grok giyinik insan fotoğraflarından cinsel içerikli görseller oluşturmaya devam ediyor.

X’in Yapay Zekası Grok Yasaklara Karşın Bel Altı İçerik Üretiyor

Gazeteciler, bağımsız çalışan Grok Imagine web uygulamasını kullanarak kolay komutlarla gerçek bayanların büsbütün giyinik fotoğraflarını bikini görüntülerine dönüştürdü. Bu içerikler daha sonra fiyatsız bir hesap aracılığıyla X platformuna yüklendi ve rastgele bir ikaz etiketi yahut moderasyon manisi olmadan saatlerce herkese açık biçimde yayında kaldı. Bu durum, X’in açıkladığı siyasetler ile uygulamadaki yetenekleri ortasında önemli bir boşluk olduğunu gösteriyor.

Bu başarısızlık, hem Grok’un hem de X’in ardındaki şirket olan xAI’ın global reaksiyonlar üzerine bir dizi acil tedbir açıklamasından çabucak sonra geldi. X’in Güvenlik hesabı 14 Ocak’ta, Grok’un gerçek insanları bikini üzere kıyafetlerle değiştirmesini önlemek için “teknolojik önlemler” aldığını duyurmuştu. Ancak platform üzerindeki kimi yetenekler kısıtlanmış olsa da, bağımsız Grok Imagine uygulaması kullanıcıların kısıtlamalara takılmadan açık saçık içerik üretmesine ve paylaşmasına hala imkan tanıyor.

California Başsavcısı Rob Bonta, 16 Ocak’ta xAI şirketine bir ihtarname göndererek istek dışı cinsel içerikli yapay zeka görsellerinin üretiminin ve dağıtımının durdurulmasını talep etti. Başsavcılık ofisi, bayanları ve kız çocuklarını taciz etmek için kullanılan “büyük ölçekli deepfake üretimi” olarak tanımladığı bu durumu incelemek üzere bir soruşturma başlattı.

Tartışmalar dünya çapında hükümetlerin reaksiyonunu çekti. İngiltere Başbakanı Keir Starmer, durumu “kesinlikle iğrenç ve utanç verici” olarak nitelendirirken, düzenleyici kurum Ofcom da X’in yasal yükümlülüklerini ihlal edip etmediğine dair resmi bir soruşturma başlattı. Endonezya 10 Ocak’ta Grok’u engelleyen birinci ülke olurken, onu Malezya izledi. Hindistan, Fransa ve Avrupa Komitesi da hususla ilgili inceleme süreçlerini başlattı.

Grok kullanıcıları tarafından amaç alınan bayanlar, yaşadıklarını bir tıp atak olarak tanımlıyor. BBC’ye konuşan bir kullanıcı kendisiyle ilgili en az 100 cinsel içerikli görsel üretildiğini belirtirken, otomatik sistemler bu istek dışı değişiklikleri tespit etmekte zorlanıyor. Elon Musk ise telaşları büyük ölçüde reddederek hükümetleri “ifade özgürlüğünü bastırmaya” çalışmakla suçluyor ve tenkitlere emojilerle cevap veriyor.

X idaresi, yasa dışı içerik oluşturmak için Grok kullanan herkesin sonuçlarına katlanacağını tez etse de, platformun reaktif yaklaşımı ziyanlı imgelerin yayılmasını önlemekte yetersiz kalıyor. Sizce toplumsal medya platformları yapay zeka ile üretilen içerikleri denetleme konusunda kâfi sorumluluğu alıyor mu? Görüşlerinizi yorumlarda bizimle paylaşın.