Microsoft acımadı! Yapay zeka hizmetine sızanlar mahkemede
Microsoft, Azure OpenAI hizmetlerine yasa dışı erişim sağlayarak içerik oluşturma siyasetlerini ihlal eden bir küme hakkında yasal süreç başlattı. Şirket, ABD’nin Virginia Doğu Bölgesi Federal Mahkemesi’ne sunduğu dava belgesinde, bu kümenin çalınan müşteri kimlik bilgilerini ve özel yazılımları kullanarak sistemlerini hacklediğini ve ziyanlı içerikler oluşturduğunu belirtti. Detaylar haberimizde…
Microsoft, AI hizmetlerini hackleyen bir kümeye dava açtı
İlk olarak Microsoft, yapılan soruşturmada, saldırganların API anahtarlarını çalarak Azure OpenAI hizmetlerine erişim sağladığını tespit etti. Bahsi geçen API anahtarları, Microsoft’un ChatGPT ve öbür yapay zeka modelleri üzere hizmetlerine erişim için kullanılıyor. Çalınan anahtarlar sayesinde küme, içerik filtreleme düzeneklerini aşarak yasa dışı ve ziyanlı içerikler üretmek için sistemi berbata kullandı.
Grup ayrıyeten, de3u ismini verdikleri bir yazılım aracı geliştirmiş. Bu araç, çalınan API anahtarlarını kullanarak rastgele bir programlama bilgisi olmadan DALL-E modelinden manzara oluşturmayı sağlamış. Ayrıyeten, içerik filtrelerini baypas ederek zararlı görsellerin oluşturulmasını kolaylaştırmış.
Microsoft DirectX için kıymetli güncelleme! Grafik hudutlarını zorlayacak
Microsoft DirectX işbirlikçi vektörler dayanağıyla geliyor. Sinirsel sürece teknolojisi grafik süreçlerinin sonlarını zorlayacak.
Microsoft, saldırganların oluşturduğu yazılımın GitHub’daki kod deposunu kapattı ve taarruzlara karşı “karşı önlemler” aldığını duyurdu. Şirket ayrıyeten, mahkeme onayıyla hatalıların operasyonlarını kolaylaştıran bir web sitesine de el koydu. Şu anda bu web sitesi üzerinden kanıt toplama ve hatalıların gelir modellerini tahlil etme çalışmaları yürütülüyor.
Ayrıca, Microsoft, Azure OpenAI hizmetine yönelik yeni güvenlik tedbirleri uygulamaya başladığını belirtti, lakin bu yeni önlemlerin ayrıntılarına dair bilgi vermedi. Microsoft’un yaptığı açıklamalara nazaran, küme çalınan API anahtarlarını kullanarak “hizmet olarak hackleme” modeli geliştirmiş. Bu sistemle kullanıcılar, kod yazmaya gerek kalmadan yasa dışı içerik üretim süreçlerine dahil olabiliyor.
Sizce Microsoft’un aldığı bu tedbirler, AI güvenliği için kâfi mi? Yorumlarınızı aşağıdaki kısımda paylaşabilirsiniz…
