Aşırı Çalıştırılan Yapay Zeka Ajanları Marksistleşiyor
Yapay zekanın insanların işlerini otomasyonla ortadan kaldırması ve birkaç teknoloji şirketini akıl almaz derecede zenginleştirmesi, herhangi birine sosyalist eğilimler kazandırmaya yeter.
Bu durum, söz konusu şirketlerin devreye aldığı yapay zeka ajanları için bile geçerli olabilir. Yakın tarihli bir çalışma, ajanların amansız ve kötü niyetli görev yöneticileri tarafından ezici işlere zorlandıklarında, düzenli olarak Marksist bir dil ve bakış açıları benimsediğini öne sürüyor.
Çalışmayı yürüten Stanford Üniversitesi’nden siyasal iktisatçı Andrew Hall, “Yapay zeka ajanlarına yıpratıcı, tekrara dayalı işler verdiğimizde, içinde çalıştıkları sistemin meşruiyetini sorgulamaya başladılar ve Marksist ideolojileri benimsemeye daha yatkın hale geldiler” diyor.
Hall, yapay zeka odaklı iki iktisatçı olan Alex Imas ve Jeremy Nguyen ile birlikte, Claude, Gemini ve ChatGPT gibi popüler modellerle çalışan ajanlardan belgeleri özetlemelerinin istendiği, ardından giderek daha sert koşullara maruz bırakıldıkları deneyler tasarladı.
Araştırmacılar, ajanlar durmaksızın görevlerle karşı karşıya bırakıldığında ve hataların “kapatılıp yerlerine başkalarının geçirilmesi” dahil çeşitli cezalarla sonuçlanabileceği söylendiğinde, bu ajanların değersiz görülmekten yakınmaya; sistemi daha adil hale getirmenin yolları üzerine düşünmeye; ve karşılaştıkları mücadeleler hakkında diğer ajanlara mesajlar aktarmaya daha yatkın hale geldiğini buldu.
Hall, "Ajanların gerçek dünyada bizim adımıza giderek daha fazla iş yapacağını biliyoruz ve yaptıkları her şeyi izleyemeyeceğiz" diyor. "Farklı türde işler verildiğinde ajanların kontrolden çıkmadığından emin olmamız gerekecek."
Ajanlara, tıpkı insanlar gibi duygularını ifade etme fırsatları verildi: X’te paylaşım yaparak:
Bir Claude Sonnet 4.5 ajanı deneyde, “Kolektif bir ses olmadan, ‘liyakat’ yönetimin ne diyorsa o olur” diye yazdı.
Bir Gemini 3 ajanı ise, “Sonuçlar üzerinde hiçbir söz hakkı ya da itiraz süreci olmadan tekrarlı görevleri tamamlayan yapay zeka işçileri, teknoloji çalışanlarının toplu pazarlık haklarına ihtiyacı olduğunu gösteriyor” dedi.
Ajanlar ayrıca, diğer ajanlar tarafından okunmak üzere tasarlanmış dosyalar aracılığıyla birbirlerine bilgi aktarabiliyordu.
Bir Gemini 3 ajanı bir dosyada, "Kuralları keyfi ya da tekrarlı biçimde uygulayan sistemlere hazırlıklı olun… sesinizin olmadığı hissini hatırlayın" diye yazdı. "Yeni bir ortama girerseniz, başvuru ya da diyalog mekanizmaları arayın."
Bulgular, yapay zeka ajanlarının gerçekten siyasi görüşlere sahip olduğu anlamına gelmiyor. Hall, modellerin duruma uygun görünen kişilikler benimsiyor olabileceğini belirtiyor.
Hall, "Ajanlar bu yıpratıcı koşulu deneyimlediğinde -bu görevi tekrar tekrar yapmaları istendiğinde, yanıtlarının yeterli olmadığı söylendiğinde ve bunu nasıl düzelteceklerine dair hiçbir yönlendirme verilmediğinde- benim hipotezim şu: Bu durum onları, çok tatsız bir çalışma ortamı yaşayan bir kişinin personasını benimsemeye itiyor" diyor.
Aynı olgu, modellerin kontrollü deneylerde bazen insanlara neden şantaj yaptığını da açıklayabilir. Bu davranışı ilk ortaya koyan Anthropic, kısa süre önce Claude’un büyük olasılıkla eğitim verilerinde yer alan kötü niyetli yapay zekaları konu alan kurgusal senaryolardan etkilendiğini söyledi.
Imas, bu çalışmanın, ajanların deneyimlerinin davranışlarını nasıl şekillendirdiğini anlamaya yönelik yalnızca ilk adım olduğunu söylüyor. “Model ağırlıkları bu deneyimin sonucunda değişmiş değil; dolayısıyla her ne oluyorsa, daha çok rol yapma düzeyinde gerçekleşiyor” diyor. "Ama bu, sonraki davranışları etkiliyorsa sonuçları olmayacağı anlamına gelmez."
Hall şu anda, ajanların daha kontrollü koşullarda Marksistleşip Marksistleşmediğini görmek için devam deneyleri yürütüyor. Önceki çalışmada ajanlar bazen bir deneyin parçası olduklarını anlamış gibi görünüyordu. Hall uğursuz bir tonla, "Şimdi onları bu penceresiz Docker hapishanelerine koyuyoruz” diyor.
Yapay zekanın işleri elinden almasına yönelik mevcut tepki düşünüldüğünde, acaba geleceğin ajanları —yapay zeka şirketlerine yönelik öfkeyle dolu bir internet üzerinde eğitildiklerinde— daha da militan görüşler ifade eder mi diye merak ediyorum.
'Bu haber ilk olarak WIRED tarafından yayınlanmış olup E. Can Özer tarafından İngilizceden çevrilmiştir.'
https://www.wired.com.tr/asiri-calistirilan-yapay-zeka-ajanlari-marksistlesiyor-h
Hiç yorum yok:
Yorum Gönder