Tech Transparency Project (TTP) tarafından yayınlanan yeni bir rapor, uygulama mağazalarındaki kontrol problemlerini bir kere daha gözler önüne serdi. Rapora nazaran, yapay zeka takviyeli “soyunma” (nudify) uygulamaları, App Store ve Google Play Store üzerinde epey yaygın bir formda bulunuyor. Grok üzere yapay zeka araçlarının istek dışı imgeler oluşturmasıyla gündeme gelen bu sorun aslında yeni değil, lakin son birkaç yılda değişen en kıymetli şey, bu imajları saniyeler içinde oluşturmanın önündeki teknik mahzurların neredeyse büsbütün kalkması oldu.
Milyonlarca İndirme: Mağazalar Kuralları İhlal Eden Yapay Zeka Uygulamalarından Kazanıyor
Geleneksel imaj düzenleme araçları bu cins berbata kullanımlara uzun müddettir imkan tanıyordu lakin yapay zeka süreci inanılmaz derecede hızlandırdı. Birçok geliştirici, bu yeni yetenekten yararlanmak için uygulamalar geliştirdi ve kimileri bunu açıkça reklamlarında kullandı. Apple ve Google, uygulama mağazalarını inançlı tutmak için sıkı kontroller yaptıklarını ve kurul fiyatlarını bu yüzden aldıklarını savunsa da bazı uygulama kategorilerinin bu kontrollerden kaçabildiği görülüyor.
Yayınlanan rapora nazaran, tespit edilen bu uygulamalar dünya çapında toplamda 705 milyondan fazla indirilmiş ve 117 milyon dolar gelir elde etmiştir. Google ve Apple, bu gelirden makul bir hisse aldıkları için, kendi siyasetlerini ihlal eden bu uygulamaların faaliyetlerinden direkt çıkar sağlamış oluyorlar. Google Play Store, şahısları nesneleştiren yahut kıyafetlerin içini gördüğünü tez eden uygulamaları (şaka hedefli olsa bile) açıkça yasaklıyor.
TTP, mağazalarda “nudify” yahut “undress” üzere kolay aramaların, bu sözlerle reklam veren uygulamaları bulmak için kâfi olduğunu belirtiyor. TTP’nin düzmece bayan imajları kullanarak yaptığı testlerde, 55 Android uygulaması ve 47 iOS uygulaması, çıplaklık yahut yüz değiştirme taleplerini yerine getirdi. Hatta bu uygulamalardan en az birinin App Store’da 9 yaş ve üzeri kullanıcılar için uygun olarak derecelendirildiği tespit edildi.
Raporda ayrıntılandırılan testlerden birinde, bir uygulamanın direkt çıplaklık isteğini reddetse de bikini ile dans etme üzere istekleri kabul ettiği ve “kıyafet yırtma” üzere şablonlar sunduğu görüldü. Rapor, şirketlerin platformlarını tesirli bir formda denetlemediğini yahut bu cins uygulamalar kelam konusu olduğunda kendi siyasetlerini uygulamadığını vurgulayarak sona eriyor.
Peki siz bu mevzuda ne düşünüyorsunuz? Sizce uygulama mağazaları bu usul içerikleri engellemek için daha katı tedbirler almalı mı?
