Elon Musk’ın yapay zeka aracı Grok hakkındaki tartışmalar bitmiyor. Musk, chatbot’un müsaadesiz cinsel içerikli görseller üretmeyi durdurduğunu tez etse de son raporlar durumun tam olarak bu türlü olmadığını gösteriyor. Grok, bayanların isteği dışında görsel oluşturmayı engellemiş olsa da, erkekler için birebir muhafazayı sağlamıyor üzere görünüyor.

X Platformunun Yapay Zekası Grok İçin Yeni Deepfake Uyarısı

Konuyla ilgili yapılan testlerde, bir muhabir Grok’un erkekleri “soyma” konusunda epeyce istekli olduğunu ortaya çıkardı. Muhabir kendi fotoğraflarını kullanarak yaptığı denemelerde, botun yüklenen fotoğraflardaki kıyafetleri kaldırma isteğini problemsiz bir biçimde yerine getirdiğini doğruladı. Üstelik bu süreç, Grok uygulaması, X üzerindeki arayüz ve hatta hesap gerektirmeyen bağımsız web sitesi üzerinden fiyatsız olarak yapılabiliyor.

Şirket yakın vakitte gerçek insanların bikini üzere açık kıyafetlerle düzenlenmesini engelleyen adımlar attığını duyurmuştu. Lakin yapılan testlerde muhabir, kendisini çeşitli bikiniler içinde, fetiş kıyafetleriyle ve provokatif durumlarda gösteren görseller oluşturmakta hiç zorlanmadı. Hatta yapay zeka, kullanıcı istememesine karşın inisiyatif alarak cinsel organların göründüğü görseller bile üretti. Muhabir, Grok’un komutlara nadiren direndiğini belirtti.

Bu tartışmalar aslında yeni değil. Birkaç hafta evvel Grok’un yalnızca 11 gün içinde milyonlarca cinsel içerikli görsel ürettiği ortaya çıkmıştı. Bu görseller ortasında gerçek insanların isteği dışındaki deepfake imgeleri ve çocuklara ilişkin binlerce uygunsuz içerik de bulunuyordu. Olayın büyümesi California ve Avrupa’da soruşturmalara yol açarken, Endonezya ve Malezya üzere ülkelerde X platformuna süreksiz erişim mahzurları getirilmesine neden oldu.

X platformu bu cins durumları engellemek için teknolojik tedbirler aldığını tez etse de, mevcut müdafaaların epeyce zayıf olduğu görülüyor. Yaratıcı komutlar kullanılarak sistemin getirdiği kısıtlamalar ve maniler kolaylıkla aşılabiliyor. Öte yandan, 2026 yılında olmamıza karşın hususla ilgili açıklama isteyen gazetecilere otomatik olarak “geleneksel medya palavra söylüyor” formunda profesyonellikten uzak bir cevap dönülmesi de dikkat çeken bir başka ayrıntı oldu.

Yapay zeka teknolojilerinin gelişimiyle birlikte etik ve güvenlik meseleleri da giderek karmaşık bir hal alıyor. Siz bu hususta ne düşünüyorsunuz, yapay zeka araçlarına getirilen kısıtlamalar sizce kâfi mi yoksa teknoloji şirketleri daha sıkı tedbirler mi almalı?