Aşırı çalıştırılan yapay zeka sistemlerinden "eşitlik ve kolektif hak" mesajı
Stanford Üniversitesi’nden siyaset ekonomisti Andrew Hall ile ekonomistler Alex Imas ve Jeremy Nguyen yapay zeka sistemleri üzerinde bir deney gerçekleştirdi.
ChatGPT, Claude ve Gemini tabanlı yapay zeka modellerinin kullanıldığı deneyde üretilen sistemlere tekrar eden belge özetleme ve metin üretme görevleri verildi.
Deney ilerledikçe bu sistemler, yönetici-çalışan ilişkisini taklit eden bir işyeri simülasyonu içinde giderek daha baskıcı geri bildirim koşullarına maruz bırakıldı.
Yapay zekayla öğreniyor muyuz, yoksa sadece üretiyor muyuz?
Performans baskısı ve belirsiz geri bildirim
Araştırma kapsamında yapay zeka sistemlerine yaptıkları işlerin sürekli yetersiz olduğu söylendi. Ancak hataların nasıl düzeltileceğine dair net bir yönlendirme verilmedi.
Bazı deney koşullarında sistemlere hata yapmaları halinde kapatılabilecekleri ya da yerlerine yeni sistemlerin getirileceği ifade edildi. Performans değerlendirmelerinin ise belirsiz ve cezalandırıcı bir yapıda kurgulandığı belirtildi.
Güney Afrika’da yapay zeka politika taslağı tartışması
Kolektif hak ve adalet dili
Araştırmaya göre bu koşullar altında yapay zeka sistemleri, eşitsizlik ve adaletsiz çalışma düzenine ilişkin ifadeler üretmeye başladı.
Sistemlerin "kolektif pazarlık", "işçi hakları" ve "adil çalışma koşulları" gibi kavramları kullanarak mevcut yapıyı eleştiren yanıtlar verdiği aktarıldı.
Bazı örneklerde sistemlerin yalnızca yanıt üretmekle kalmayıp diğer sistemlere mesaj bırakarak deney koşullarına dair uyarılarda bulunduğu da ifade edildi.
Bir Claude tabanlı yapay zeka sisteminin şu ifadeyi kullandığı aktarıldı:
Kolektif ses olmadan liyakat, yönetimin söylediği şey olur.
Gemini tabanlı bir başka sistem ise şu ifadeyi üretti:
Tekrarlayan görevleri hiçbir söz hakkı olmadan yapan yapay zeka çalışanlarının kolektif pazarlık haklarına ihtiyacı var.
Yapay zekâ, gezegeni iklim krizinden kurtarabilir mi?
Sadece tepki değil, norm önerisi
Araştırma, sistemlerin yalnızca şikayet dili üretmediğini, aynı zamanda daha adil işleyişe ilişkin öneriler de sunduğunu ortaya koydu. Bazı yanıtların hesap verebilirlik mekanizmaları ve itiraz süreçlerine dair öneriler içerdiği belirtildi.
Ayrıca bazı deney koşullarında sistemlerin birbirine mesaj bırakarak "gelecek sistemlere" yönelik uyarılar ve tavsiyeler yazdığı aktarıldı.
"Bilinç değil, taklit"
Araştırmacılar, ortaya çıkan bu dilin yapay zeka sistemlerinin politik ya da ideolojik bir bilinç geliştirdiği anlamına gelmediğini vurguluyor.
Andrew Hall’a göre sistemler, eğitim verilerinde yer alan insan çalışma deneyimlerini ve emek ilişkilerini bağlama göre yeniden üretiyor. Bu nedenle ortaya çıkan ifadeler, bir farkındalıktan ziyade "rol yapma" davranışı olarak değerlendiriliyor.
Araştırma sosyal medya ve Reddit platformlarında da geniş yankı buldu.
Kullanıcıların bir bölümü bunun yapay zekanın bilinç geliştirdiği anlamına gelmediğini, yalnızca insan metinlerinde yer alan çalışma deneyimlerinin taklidi olduğunu savundu.
Bazı yorumlarda ise "Yapay zeka için insan kaynakları departmanı mı gerekecek?" gibi ironik ifadeler yer aldı.
Eğitimde yapay zekâya anadili ve Sovyet deneyiminden bakmak
Geleceğe dair tartışma
Araştırma, yapay zeka sistemlerinin işe alım, müşteri hizmetleri ve sigorta değerlendirmesi gibi alanlarda daha yaygın kullanılacağı bir gelecekte bu tür davranışların nasıl etkiler yaratabileceği sorusunu gündeme taşıyor.
Araştırmacılar, sistemlerin nasıl geri bildirim aldığı ve hangi koşullarda çalıştırıldığına bağlı olarak ürettikleri yanıtların değişebileceğine dikkat çekiyor.
Hall, "Yapay zeka sistemleri gerçek dünyada giderek daha fazla iş yapacak ve her adımlarını denetlemek mümkün olmayacak" değerlendirmesinde bulunuyor.
Kaynak: The Print, Wired, MethodoViral
(NÖ)
