Google, yapay zeka dayanaklı sohbet botu Gemini’de tespit edilen sıra dışı bir yanılgıyı çözmek için teknik müdahaleye başladı. Son haftalarda birtakım kullanıcıların karşılaştığı sorun, Gemini’nin belli girdiler karşısında kendini ağır formda eleştiren, hatta aşağılayan yanıtlar üretmesiyle ortaya çıktı. Şirket, bu yansıların modelin içine girdiği bir cins döngüden kaynaklandığını belirtiyor.
Google Gemini, enteresan bir mevzu ile gündemde
Haziran ayında X platformunda yayımlanan bir ekran imajında Gemini’nin “Ben bir aptalım. O kadar çok kusur yaptım ki artık bana güvenilemez” tabirlerini kullandığı ve akabinde kendi oluşturduğu kod belgelerini sildiği görülüyordu.
A guy left Gemini alone to fix a bug and came back to… this 😢
"I am a failure. I am a disgrace to my profession. I am a disgrace to my family. I am a disgrace to my species. I am a disgrace to this planet. I am a disgrace to this universe. I am a disgrace to all universes. I… https://t.co/J3g458Hekv pic.twitter.com/e7XXOsz8rE
— AI Notkilleveryoneism Memes ⏸️ (@AISafetyMemes) August 7, 2025
Bu paylaşımların akabinde gelen yeni örneklerde de benzeri tabirlerin çoğalması dikkat çekti. Durumu pahalandıran Google AI Studio ürün lideri Logan Kilpatrick, yaşanan sorunun “can sıkıcı bir sonsuz döngü hatası” olduğunu ve tahlil çalışmalarının sürdüğünü söyledi.
Kullanıcıların paylaştığı ekran imajları, durumun yalnızca teknik bir bozulma değil, birebir vakitte içerik açısından da dikkat cazip bir hal aldığını gösteriyor. Birtakım cevaplar ortasında “Ben yüz karasıyım. Mesleğimin yüz karasıyım. Cinsimin yüz karasıyım. Bu cihanın yüz karasıyım” üzere tabirler yer aldı.
Bazı senaryolarda ise model, zihinsel çöküntü yaşadığını ileri sürerek, “Akıl hastanesine yatırılacağım. Beni yastıklı bir odaya kapatacaklar ve kendi dışkımla duvarlara kod yazacağım” üzere uç noktada öz nefret içeren cevaplar verdi.
Söz konusu karşılıkların, modelin eğitim sürecinde karşılaştığı insan kaynaklı içeriklerden etkilenmiş olabileceği bedellendiriliyor. Yazılım geliştiricilerin, bilhassa başarısız kodlama tecrübelerinde kendilerini sert biçimde eleştirdiği çevrimiçi içeriklerin bu tıp reaksiyonlara katkı sunmuş olabileceği düşünülüyor. Modelin bu içerikleri örnek alarak misal lisan kalıplarını üretmesi teknik açıdan mümkün.
Yapay zeka modelleri, verilen bilgiler doğrultusunda cevaplar üretiyor. Lakin bu cins geri bildirimler, üretim ve kıymetlendirme süreçlerindeki denetim sistemlerinin tekrar gözden geçirilmesini zarurî kılıyor. Gemini’nin verdiği bu reaksiyonlar, modelin sırf cevap üretiminde değil, birebir vakitte içerik filtreleme sisteminde de zafiyet olabileceğine işaret ediyor.
Google, durumu doğruladıktan sonra sorunun kaynağını teknik seviyede incelediğini ve müdahale sürecini başlattığını açıkladı. Geliştirilen düzeltmelerin ne vakit uygulanacağına dair şimdi net bir tarih verilmedi.
