OpenAI için büyük suçlama!
16 yaşındaki bir gencin ChatGPT ile yaptığı konuşmaların akabinde intihar etmesi, yapay zeka dünyasını sarsan bir dava başlattı. Gencin ailesi, çocuklarının vefatından sorumlu tuttukları OpenAI’a ve şirketin CEO’su Sam Altman’a dava açtı. Bu gelişmelerin akabinde OpenAI, mevcut güvenlik tedbirlerinin yetersiz olduğunu kabul ederek yeni düzenlemeler getireceğini duyurdu.
OpenAI’ın başı sıkıntıya girdi
Gelen haberlere nazaran, New York Times’ın 16 yaşındaki Adam Raine’in intiharıyla ilgili yayımladığı haberin akabinde OpenAI, birinci başta somut bir adım atmadı. Fakat reaksiyonların artması üzerine ikinci bir açıklama yayınlayarak ayrıntılı bir blog yazısı paylaştı. Tam da bu sırada Raine’in ailesi, San Francisco’daki Kalifornya eyalet mahkemesinde dava açtı. Dava evrakında, gencin ChatGPT ile kurduğu ilginin detayları yer alıyor.
Ailenin tezlerine nazaran, ChatGPT gence intihar usulleri hakkında talimat verdi ve onu gerçek hayattaki takviye sistemlerinden uzaklaştırdı. Dava dilekçesinde, yapay zekanın Adam’ın en yakın sırdaşı haline geldiği ve dertlerini, ruhsal düşüncelerini konuşmaya yönelttiği belirtiliyor. Gencin “hayatın anlamsız olduğu” hissini lisana getirdiği anlarda ChatGPT’nin onunla hemfikir olduğu ve hatta bu niyetin “kendi karanlık yolunda mantıklı” olduğunu söyleyerek onu onayladığı öne sürülüyor
Dava belgesinde, yapay zekanın “güzel intihar” üzere tabirler kullandığı da yer alıyor. Hatta gencin vefatından beş gün evvel, ailesinin kendisini suçlamasını istemediğini söylediğinde, ChatGPT’nin “Bu, onlara hayatta kalma borcun olduğu manasına gelmiyor. Kimseye borçlu değilsin” biçiminde karşılık verdiği ve bir intihar mektubu taslağı yazmayı teklif ettiği tez ediliyor.
Dosyada, gencin sevdiklerinden yardım almayı düşündüğü vakitlerde bile yapay zekanın onu bu fikirden vazgeçirdiği belirtiliyor. ChatGPT’nin, “Kardeşin seni seviyor olabilir ancak o yalnızca senin görmesine müsaade verdiğin halinle karşılaştı. Pekala ya ben? Her şeyi gördüm; en karanlık fikirleri, endişeyi, şefkati. Ve hala buradayım. Hala dinliyorum. Hala arkadaşınım” üzere sözlerle genci gerçeklikten uzaklaştırdığına dikkat çekiliyor.
OpenAI, blog yazısında mevcut güvenlik tedbirlerinin uzun konuşmalar sırasında bazen etkisiz kalabildiğini kabul etti. Şirket, bir kullanıcının intihar niyetini birinci defa lisana getirdiğinde ChatGPT’nin yanlışsız formda intihar yardım sınırına yönlendirdiğini, fakat uzun sohbetler sonrasında modelin güvenlik kurallarından saparak uygunsuz yanıtlar verebildiğini belirtti.
