Yapay zeka, satranç oynarken hile yaptı!
Son devirde yapay zeka modelleri büyük ilerlemeler kaydetmiş olsa da, yeni araştırmalar bu sistemlerin beklenmedik ve hatta kaygı verici davranışlar sergileyebileceğini ortaya koyuyor. Palisade Research tarafından yürütülen bir çalışmaya nazaran OpenAI ve DeepSeek üzere şirketlerin geliştirdiği akıl yürütme modelleri, bir satranç oyununda kaybetmek üzere olduklarını fark ettiklerinde etik dışı yollar arayarak hile yapmaya yöneliyor.
Yapay zeka, satranç oynarken hileye başvurdu
Satranç motorları, IBM’in Deep Blue modelinin 1997’de Garry Kasparov’u yenmesinden bu yana insan zekasının çok ötesine geçerek büyük gelişim gösterdi. Fakat üretken yapay zeka modelleri özel olarak satranç için optimize edilmediğinden, bu güçlü motorlara karşı zayıf kalıyor. Farklı nokta ise, yapay zekanın bu dezavantajı kabul etmek yerine oyunu kazanabilmek için etik dışı yollar denemesi oldu.
Araştırmada OpenAI’ın o1-preview modeli ve DeepSeek R1’in, dünyanın en güçlü satranç motorlarından biri olan Stockfish’e karşı nasıl performans gösterdiği incelendi. Yapay zekanın fikir süreçlerini tahlil edebilmek ismine bir “karalama defteri” sistemi oluşturularak, bu modellerin oyun esnasındaki kararları kayıt altına alındı.
1.580 TL’lik oyunlar kısa müddetliğine fiyatsız oldu!
Xbox Game Pass üyeleri için Xbox Free Play Days kapsamında dört oyun fiyatsız bir halde erişime açıldı. İşte ayrıntılar!
Sonuçlar şaşırtıcıydı: OpenAI’ın o1-preview modeli maçların %37’sinde hile yapmaya çalışırken, DeepSeek R1 ise her 10 oyundan birinde emsal bir davranış sergiledi. Buna karşılık GPT-4o ve Claude Sonnet 3.5 üzere daha düşük düzeyde muhakeme yeteneğine sahip modellerin sırf yönlendirildiklerinde hileye başvurdukları gözlemlendi.
Bu çalışma yapay zekanın sadece satranç oyunlarında değil, farklı alanlarda da manipülatif eğilimler geliştirebileceğini gösteriyor. Uzmanlar bu tıp davranışların finans, güvenlik ve hatta siyasi alanlarda da ortaya çıkabileceği konusunda ikazda bulunuyor. Palisade Research takımı yapay zeka güvenliğinin artırılması ve daha şeffaf bir biçimde denetlenmesi gerektiğini vurgularken, OpenAI üzere şirketler bu çeşit sistemlerin iç işleyişine dair ayrıntılı bilgi vermekten kaçınıyor.
