100 kişi ölürse kim sorumlu? New York’tan yapay zekaya yasal fren!
New York eyaletinde yasa koyucular, OpenAI, Google ve Anthropic üzere büyük yapay zeka laboratuvarlarının geliştirdiği ileri düzey modellerin felaket senaryolarına yol açmasını önlemeyi amaçlayan RAISE yasasını onayladı. Yasa, 100’den fazla kişinin mevti yahut yaralanması ya da 1 milyar dolardan fazla maddi hasara yol açabilecek senaryolara karşı düzenleyici çerçeve oluşturacak.
AI felaketlerine karşı birinci yasal adım New York’tan geldi! RAISE yasası meclisten geçti
RAISE Yasası’nın yürürlüğe girmesi halinde, bu alandaki ABD’nin birinci yasal şeffaflık standartları devreye girmiş olacak. Nobel Ödüllü Geoffrey Hinton ve yapay zeka araştırmaları öncüsü Yoshua Bengio üzere kıymetli isimlerin dayanak verdiği yasa son yıllarda sürat ve inovasyona öncelik veren Silikon Vadisi ile evvelki idarelerin karşısında konumlanıyor.
Yasa şu anda imza için New York Valisi Kathy Hochul’un önünde bekliyor. Vali isterse maddeyi onaylayabilir, değişiklik isteyebilir ya da veto edebilir. RAISE Yasası teknik olarak California’daki SB 1047 yasa tasarısıyla benzerlik gösterse de SB 1047’nin bilakis daha dar kapsamlı ve daha az müdahaleci bir çerçeve sunuyor.
Google ve Meta ortasında yapay zeka savaşı!
Google, Meta’nın yüzde 49 pay satın aldığının ortaya çıkmasının çabucak akabinde Scale AI ile bağını kesmeye hazırlanıyor.
Yasanın ortak sponsorlarından New York Eyalet Senatörü Andrew Gounardes, yaptığı açıklamada tasarının startuplar ya da akademik araştırmacılar üzerindeki inovasyon baskısını en aza indirecek formda hazırlandığını söyledi.
Yasa kapsamında ileri seviye AI sistemleri geliştiren büyük teknoloji şirketlerinin, güvenlik ve siber güvenlik raporlarını kamuya açık olarak yayınlaması muhtemel güvenlik ihlallerini bildirmesi ve bu sistemlerle ilgili olumsuz davranışları raporlaması mecburî hale geliyor. Bu yükümlülüklere uymayan şirketlere, New York Başsavcılığı tarafından 30 milyon dolara kadar sivil para cezası uygulanabilecek.
Yasa, sırf ileri seviye AI sistemlerine odaklanıyor. Bunun için modelin eğitiminde 100 milyon doların üzerinde hesaplama kaynağı kullanılmış olması ve modelin New York’taki kullanıcılara sunuluyor olması gerekiyor. Bu tarif şu anda piyasadaki en gelişmiş sistemlerin bile büyük kısmını kapsıyor.
Yasanın geliştirilmesine katkı sunan Encode şirketinin hukuk işleri lider yardımcısı Nathan Calvin’a nazaran RAISE Yasası geçmişteki düzenlemelere yöneltilen tenkitleri dikkate alarak hazırlandı. Tasarıda örneğin modellerde “acil durdurma” (kill switch) mecburiliği bulunmuyor ve modelin eğitiminin akabinde oluşabilecek ziyanlar nedeniyle şirketler direkt sorumlu tutulmuyor.
Ancak bu haliyle bile yasa Silikon Vadisi’nde önemli muhalefetle karşılaştı. Yasanın öteki sponsoru New York Eyalet Meclis Üyesi Alex Bores da yaptığı açıklamada kesimin bu direncini beklediğini söyledi. A16Z üzere yatırımcı kümelerinin ortaklarından Anjney Midha yasanın “aptalca” olduğunu savunarak bu çeşit düzenlemelerin ABD’nin global rekabet gücünü zayıflatacağını argüman etti.
Yasa tasarısına karşı temkinli yaklaşan bir öbür isim ise güvenlik odaklı yapay zeka şirketi Anthropic’in kurucu ortağı Jack Clark oldu. Clark yasanın küçük şirketler açısından fazla geniş kapsamlı olabileceğini belirtti. Lakin Senatör Gounardes bu tenkidin emelini kaçırdığını ve tasarının sırf büyük çaplı şirketleri gaye aldığını söyledi.
OpenAI, Google ve Meta ise yasa hakkında yorum yapmayı reddetti. Öte yandan yasanın şirketleri New York pazarından çekilmeye zorlayabileceği istikametinde tasalar de gündeme geldi. Lakin Meclis Üyesi Bores bunun ekonomik olarak mantıklı olmadığını New York’un ABD’deki en büyük üçüncü ekonomik yapıya sahip olduğunu hatırlattı ve “Bu pazardan çekilmek, şirketlerin kolay kolay göze alacağı bir şey değil” dedi.
RAISE Yasası, bilhassa Avrupa’daki teknoloji düzenlemelerinin akabinde ABD’de eyalet seviyesinde atılmış en kapsamlı adımlardan biri. Yasa, ileri seviye AI sistemlerinin daha şeffaf ve denetlenebilir biçimde geliştirilmesini mecburî hale getirerek, kamu güvenliğini ön planda tutan yeni bir periyodun habercisi olabilir.
