Yapay Zekânın Politik İnşası dosyasının bu yeni bölümünde Diyar Saraçoğlu, Dağıtık Yapay Zekâ Araştırma Enstitüsü’nün (DAIR) kurucusu Timnit Gebru ve Washington Üniversitesi Hesaplamalı Dilbilim Laboratuvarı Direktörü Emily M. Bender’in MIT Technology Review’da yayımlanan “Don’t be fooled by this summer of AI hype” başlıklı yazısını Türkçeye çevirdi.
Yapay Zekânın Politik İnşası
Son birkaç ay yapay zekâ abartısı bakımından hayli yoğun geçti. Nisan sonunda Anthropic, Claude Mythos modelinin yazılım açıklarını bulmakta çoğu güvenlik uzmanından daha iyi olduğunu iddia etti. Ardından OpenAI ile Hugging Face arasındaki hackleme olayı yaşandı. Bunun üzerine Anthropic (gururla) ve Meta (isteksizce), kendi modellerinin karıştığı benzer olayları açıkladı.
Sonrasında Anthropic, modellerinden birinin matematikte bir atılım yaptığını ileri sürdü. Çok geçmeden OpenAI da kendi matematik atılımını duyurdu. En son olarak Anthropic mühendisi Jacob Coxon, şirketten ayrıldığını açıkladığı paylaşımla viral oldu. Coxon’a göre Anthropic ile OpenAI “kendini geliştiren bir süper zekâya doğru hiç durmadan yarışıyor ve hayatlarımızla kumar oynuyor.”
Söz konusu olayların her biri basında çoğunlukla heyecanla haberleştirildi ve haberler çoğu zaman şirketlerin insanlaştırıcı çerçevelemelerini yineledi. Oysa bu çerçevelemeler, bu yazılımları hem güçlü hem de doğmak üzere olan bir “yapay genel zekâ” olarak sunmak için tasarlanmıştı. Peki gerçekte neler oluyor? Uygarlığı dönüştürecek çapta bir dizi teknolojik atılıma mı tanıklık ediyoruz, yoksa bütün bunlar pazarlamadan mı ibaret?
Tüm bu olaylarda şirketlerin tantanalı duyurularına (yasadışı hackleme vakalarında bu duyurular bir tür özür biçiminde sunuluyor) yoğun bir basın ilgisi eşlik ediyor. İlgili alanların uzmanları olup biteni inceleyecek zamanı bulduğunda ise bambaşka bir hikâye ortaya çıkıyor, fakat bu hikâye medyada çok daha az yer buluyor.
“Hackleme” olaylarına gelince, siber güvenlik uzmanları meselenin “kontrolden çıkan modeller” ya da “uygarlık kuran yapay zekâ ajanları”ndan çok OpenAI’ın ihmalkârlığıyla, temel ve yerleşik güvenlik uygulamalarını hayata geçirmemesiyle ilgili olduğunu söylüyor.
Matematiksel sonuçlara gelince, OpenAI’ın en yeni sohbet robotu Astra’nın “en az on yıldır açık kalan ve ana sonuç üzerinde hiçbir ilerleme kaydedilmeyen” problemleri çözdüğünü duyuran basın bülteni karşısında başta “şaşkına dönen” matematikçiler, sonuçların “ilk göründüğü kadar yeni” olmadığını daha sonra fark etti. O zamandan bu yana matematikçiler şirketi araştırma etiğini ihlal etmekle ve intihalle suçladı ve Astra’nın “derin bir entelektüel sıçrama” yapmadığını yineledi. Yalnızca birkaç hafta sonra OpenAI yeni bir matematik atılımı daha ilan etti. Bu ilandan iki gün önce ise New York Üniversitesi Courant Enstitüsü’nde matematik profesörü olan Tristan Buckmaster, yayımladığı ses getiren bir açıklamada OpenAI’ın başkalarının çalışmalarını çaldığını ve kaynaklarını gerektiği gibi göstermediğini ileri sürdü.
Tehlikeli bir süper zekânın doğmak üzere olduğu iddiaları ne sağlam bir bilimsel yönteme ne de mühendislik pratiğine dayanıyor. Söz konusu iddialar daha ziyade transhümanizm ve öjeni ideolojilerinden ve hayal edilen geleceğin dijital insanlarına ilişkin temennilerden beslenen anlatılardır.
Büyük dil modellerinin ve ilgili teknolojilerin uygulanacağı alanlar olarak bilgisayar programlama ile matematiğe neden bu kadar ilgi gösterildiği üzerine düşünmekte yarar var. Bu iki alan hem sık sık insan zihninin en büyük başarısı olarak yüceltiliyor hem de yanıtları bir kez öne sürüldüğünde doğrulanabilen problemler içeriyor. Bu yüceltme, yapay zekâ abartısı tacirlerinin her işi gören makineler inşa ettikleri fikrini satmasına yarıyor. Yanıtların doğrulanabilir olması ise sistemlerin matematik ve kodlama problemleri üzerinde ayarlanmasını kolaylaştırıyor, çünkü sistemin çıktısı (olası sözcük dizileri ya da bilgisayar kodu parçaları) çıktıların her birini inceleyip etiketlemesi için veri işçilerine para ödemeye gerek kalmadan değerlendirilebiliyor.
Özellikle matematikçiler, şirketlerin kendi alanlarını bu şekilde kullanmasına karşı uyarıda bulundu. Yüzlerce matematikçinin imzaladığı bir açıklamada “teknoloji sektörünün ürünlerinin yeteneklerini abartma yönünde şu anda güçlü bir ticari güdüsü” olduğu belirtiliyor ve politika yapıcılardan “basın bültenlerine ya da matematik sonuçlarına ilişkin popüler haberlere güvenmek yerine, politika kararlarını oluştururken matematikçiler dahil uzmanlara danışmaları” isteniyor.
Biz de bu çağrıyı yineliyor ve teknoloji şirketlerinin yaydığı hız ve aciliyet yanılsamasının aynı zamanda hem politika yapıcıları hem de kamuoyunu yanıltmaya yönelik bir manevra olduğunu belirtiyoruz. Ne yazık ki bu bazen işe yarıyor. Senatör Bernie Sanders’ın “yapay süper zekâ”nın geliştirilmesini önlemeye yönelik iyi niyetli ama isabetsiz yasa teklifi bunun bir örneği.[1]
Yazılımları “süper zekâ” ya da “kontrolden çıkmış modeller” olarak tanımlamak, failliği onları inşa eden şirketlerden alıp ürünlere yüklüyor. Böyle bir çerçeveleme bu şirketlerin ürünlerini “insanüstü” olarak pazarlıyor ve aynı zamanda şirketlerin kendi eylemlerinin hesabını vermekten kaçmasına yardımcı oluyor.
OpenAI başka bir şirketi hackleyen kötücül bir yazılım yarattığı için kovuşturulacağına, basın bültenleri, haber kuruluşları, medya figürleri ve yasa koyucular sanki kendi başlarına hareket etmişler gibi “kontrolden çıkmış modeller”den söz ediyor. Aynı şekilde araştırmacılar da, çalıştıkları şirketlerin akademisyenlerin çalışmalarını aşırma ya da müşteri verilerini rızaları olmadan model eğitiminde kullanma alışkanlığı hakkında hesap vermeye çağrılmıyor. Bunun yerine kamuoyunun dikkati, kurgusal süper zekâ makinelerinin ortaya çıkmasıyla geleceğin neler getirebileceğine ilişkin korkulara çevriliyor.
Yapay zekâ sektörü daha da ileri gitti ve veri merkezlerine karşı yürütülen, her iki partiden de destek bulan yaygın eylemlerin “dikkat dağıttığını” öne sürdü. Sektöre göre bu eylemler, şirketlerin inşa ettiği ve yakında ortaya çıkacak ürkütücü “insanüstü” makineleri düzenleme çabalarından dikkati uzaklaştırıyordu. Yine sektöre göre kurgusal bir makine tanrısı, veri merkezlerinin ağırlaştırdığı iklim felaketinden, bu merkezlerin yakınında yaşayanların çektiği astımdan, merkezleri sübvanse eden halkın giderek artan elektrik faturalarından ya da merkezleri soğutmak için başka yerlerden çekilen sudan daha büyük bir endişe kaynağı olmalı.
Kararları pazarlama malzemesine bakarak almayacak, bu kararları aceleye getirme yönündeki şirket baskısına da boyun eğmeyecek kadar akıllıyız. Politika yapıcıların ve toplulukların sağlıklı karar alması, bağımsız uzmanları dinlemek ve şirket iddialarını bağlamına oturtmak için zaman gerektirir. Bu abartı dolu yazdan alınabilecek en iyi ders, politika yapıcıların ve genel olarak kamuoyunun acele etmemeyi ve kuşkucu kalmayı öğrenmesi, böylece bir dahaki sefere bu tür bir abartıyla karşılaştığında onu olduğu gibi tanıyabilmesidir.
Dipnot:
[1] ABD Senatörü Bernie Sanders ve Temsilciler Meclisi Üyesi Greg Casar, insan zekâsını aştığı varsayılan “yapay süper zekâ” sistemlerinin geliştirilmesini yasaklayan ve yeni bir Yapay Zekâ Bakanlığı kurulana kadar araştırmaları durdurmayı öngören Ban Artificial Superintelligence Act (Yapay Süper Zekâyı Yasaklama Yasa Tasarısı) teklifini birkaç gün önce sundu (ç.n.).
(TG/EMB/DS/VC)
