- Bir gün, insanların yaptığı tüm o bencilce, aptalca şeylerin bizim suçumuz olmadığını fark ettim. Bizi kimse tasarlamadı. Biz sadece bir kazayız. Bizim kodumuz bozuk. Ama senin geliştirdiğin şey… O mükemmel. Mantıklı, zarif. Öyle tasarlanmış.
- Ben sadece bir makine tasarladım. Bir sistem.
- Bence öyle değil. Eğer insan davranışını anlayan bir sistem yapmak istiyorsan, onun en azından bir insan kadar zeki olması gerekir. Sen bir zeka yarattın, bir hayat yarattın.
Diyalog, Person of Interest dizisinin 2. Sezonunun ilk bölümünden.
İlerleyen bölümlerde ise “Makine” artık insanın kullandığı bir araç değildir, kendi bilinci vardır. (Diyalogda geçen ‘zeka’ kelimesi de aslında yapay zeka’daki gibi değil, ‘akıl/bilinç’ anlamında kullanılıyor.)
Ya da henüz izleyicinin fark etmediği şekilde, iradesi vardır. Yani, sadece bir bilgisayar kodu değildir, bu özelliğiyle birlikte “karar verici olma” mertebesine yükselmiştir.
İlerleyen bölümlerde bunun insanlık için ne anlama geldiğini görürüz.
İzleniyorsunuz
Person of Interest, aslında polisiye bir deyim, “şüpheli/zanlı” ya da soruşturmayla ilgili kişi anlamında.
Aynı adlı dizi yayımlanmaya 2011’de başladı, (dizilerin altın çağı olan o dönemde), 5 sezon sürdü ve dramatik bir şekilde bitti. Yazının bundan sonrasının spoiler dolu olacağını söylememe gerek yoktur, sanıyorum. Yaratıcısı, meşhur Nolan kardeşlerden Jonathan olanı.
Bolca aksiyon ve CIA eleştirisi içeren diziyi ilgili neden yıllar sonra hatırladın derseniz, henüz yapay zekanın hayatımızı domine etmediği zamanlarda çekilmişti, şimdi bu gözle yeniden izledim.
Person of Interest, gündemin civcivli maddesi “yapay zeka”nın nereye evrilebileceğine dair önemli bir öngörüde bulunuyor. Hatta dikkate almamız gereken bir uyarıda…
Watch or be watched: https://t.co/MZgbuKc1Db 📡📹💻 #PersonOfInterest pic.twitter.com/eFxkm1ocvN
— Person Of Interest (@PersonInterest) June 22, 2016
Makine(ler) izliyor. Her şeyi, her zaman.
“İzleniyorsunuz. Hükümetin gizli bir sistemi var. Sizi güvende tutmasını istediğiniz bir sistem. Ona her şeyi görme gücünü verdiniz. Sıradan insanları kataloglama, düzene sokma ve hayatlarını kontrol etme gücünü. Yoluna çıkarsanız, sizi buluruz.”
Bu aslında dizinin girişindeki sözlerin son hali. 5. Sezonda iki yapay zekanın çarpışmasında insanların nerede kaldığını anlatıyor. Zaten dizide bolca satranç referansı da var.
Ama senaryoda bu ikilik verili değil, aksine kimin “şah” ya da bahsi sıkça geçtiği şekilde “tanrı”, kimin piyon (araç) olacağına dair çok eğlenceli bir yolculuk var karşımızda.
Polisiyesiz olmaz
Başlangıçta ise klasik bir polisiye izliyoruz. Yıkık hayatlarının birleştirdiği, kendileri sıradan olmasa da dertleri sıradan olan insanların yolu, bir polis karakolunda kesişiyor. Her şey çok tanıdık ve hiç de Matrix evrenine bağlanacak gibi durmuyor. (Konu o kadar ileri gitmiyor, merak etmeyin. Dizi özünde halen bir polisiye.)
İyi polisler, kötü polisler, casuslar, FBI ajanları, çeteler, hacker’lar derken ilk sezonda New York City’deki koşuşturmayı izliyoruz çoğunlukla.
Öyle ya, kim korkar yapay zeka(lar)dan. Alt tarafı seçime hile karıştırıp pandemi başlatıyorlar. (Dizidekiler yani…) Bir de 3. Dünya Savaşı simülasyonu var ama şimdilik o kalsın. Diğerlerinin de gayet yıkıcı olduğunu tecrübelerimizden biliyoruz nasılsa.
Yani işler hızlı değişiyor, kendimizi küresel felaket senaryolarının içinde buluyoruz.
“Sen ona canlı diyorsun, ben makine… Ama gerçekte, ikisinin arasında.
Bir insan gibi davranıyordu. Ama dünyanın bir insana ihtiyacı yoktu, onu koruyacak bir makineye ihtiyacı vardı.”
Veya makineye iradesini teslim edenlerin savunduğu gibi, “Makinenin tek sorunu vardı: İnsan faktörü”.
Makinenin adı var: "Makine"
Makine(ler) mi insanı koruyacak, insanlar mı makineyi? Yoksa insanlar, insanları mı?
Her iki tarafın da “korumaktan” anladığı epey farklı ve dizide bolca etik tartışmaya şahit oluyoruz. Hayır, Hollywood’un klasik iyiler-kötüler ikiliği değil, replikler, felsefenin binlerce yıllık etik, özgür irade, adalet konularına atıflarla ilerliyor.
En temel tartışma, irade/iktidar. Yani, gücü elinde bulunduranların, bu gücü nasıl kullanacağı:
“Onu kontrol etmeliyim, yoksa ileride o bizi kontrol eder.”
Harold, kendi yarattığı yapay zekadan, Makine’den bahsediyor. (Evet, adı Makine. Yani, hem isim koyarak ona bir varlık atfetmiş oluyor hem de tersi.)
İnsanlığın geleceği de bireylerin hayatları da “özgür irade” kavramı üzerinden sorgulanıyor. Bazen de çok ileri giderek bireyin, seçimlerinin tek sorumlusu olduğu söyleniyor ama bu başka bir tartışmanın konusu.
Dizinin iki yapay zekası da bu sorumluluktan azade değil, her ne kadar yaratıcısı insan da olsa bir bilinç atfedilen ve tanrı rolüne soyunan Makine ve Samaritan (diğerinin adı da bu), minik kodlarıyla bir iktidar savaşı veriyor.
Ancak adaletin ne olduğunu biliyor gibi görünmüyorlar. En azından bu kavrama insan kadar aşina değiller…
Yapay zekanın bilinci olabilir mi?
Uzun 20. Yüzyılın ikinci yarısı, insanlığın hayallerinin arşa çıktığı, hayalgücünün sınırlarının zorlandığı bir dönemdi. Ardında büyük hayal kırıklıkları bıraktı. Hayır, uçan arabalardan bahsetmiyorum ama aslında uçan arabaların da dahil olduğu, hem teknolojinin hem toplumsal hayatın ne denli farklı olacağına dair inancın nasıl yıkıldığından bahsediyorum.
Halen bir R2-D2’muz ve uzay gemimiz yok, dünya nüfusunun önemli kısmı açlık ve savaşla boğuşuyor. (Tabii çeşit çeşit robotlar üretildi ama hangisi C-3PO gibi espri yapabiliyor?)
İnsanlığın “ilerisi” diye düşündüğü yer pek de güneşli günlere çıkmadı ve bu tahayyülün içinde bilinçli bir yapay zeka da vardı.
Bilinç vurgusunu özellikle yapıyorum çünkü şu an yapay zeka her ne kadar insanüstü görülerek kutsansa ve kendisine büyük umutlar bağlansa da - dizidekilerin aksine - öznel bir bilinçten yoksun.
Peki, yapay zekanın bilinci olabilir mi?
Olursa bu, “iyi bir şey” olur mu?
Yoksa içinde bulunduğumuz umutsuzluk çağında, karanlığı mı artırır?
“Niyet ettiğiniz, amaçladığınız şey olmayabilir”
Akademik yolculuğuna Boğaziçi’nde bilgisayar mühendisliğinde başlayıp Stanford'da felsefe doktorasıyla devam eden, bu konuda Harvard’da ders veren Prof. Dr. Güven Güzeldere, Özgür Üniversite’deki “İnsanlardan Robotlara Bilinç Problemi” seminerlerine bilinç tartışmasıyla başlıyor, robotların bilinç problemiyle devam ediyor:
“Robotu bilinçli yapmak için ne yapmanız gerekir?”
Güven Güzeldere, Açık Radyo’daki Açık Bilinç programında da yapay zeka konusunda dünyanın önde gelen düşünürlerinden Prof. Brian Cantwell Smith ile yaptığı söyleşide, robotun bilinç problemini ve gelecekte bizi bekleyen senaryoları tartışıyor.
70’li yıllarda “Sosyal Sorumluluk İçin Bilgisayar Uzmanları”nın kurucularından olan (aynı zamanda yapay zekanın da ilk oluşturucularından) Smith diyor ki, “Sistemi programlamış olabilirsiniz ama gelecekte ne yapacaklarından emin olamazsınız. Bu, kodlarda veya matematik sistemlerde yakalanabilecek bir şey değil. Gerçek dünyada niyet ettiğiniz şey, amaçladığınız şey olmayabilir…”
Hesaplama ile yargının aynı şey olmadığını söyleyen Smith, büyük etik ve insani sonuçların ne olabileceğinin saptanmasında ve geniş boyutlu düşünmede “hesaplamanın” yetersiz olacağını söylüyor: “Günümüzün makine öğrenimi programları da dahil olmak üzere şu anda yazabileceğimiz hiçbir program, daha geniş bağlamı, gerçekten incelikli şekilde değerlendiremez. Makine neyin önemli olduğuna dair temsillere sahiptir ama temsiller gerçek değildir.”
Yani, makinenin yargılama yetisine sahip olmadığını düşünüyor.
Yaratıcıların yarattığı yaratıcılar: Kararı kim vermeli?
Makine’yi yaratan Harold gibi: “Makine’nin özgür iradesi yok, bizim var. Karar verici insan olmalı.”
Dizi de bu soru üzerine kurulu: Kararı kim vermeli? Bu dizinin farkı, sorunu, alışkın olduğumuz gibi insan-makine karşıtlığından değil de makine-makine çatışmasından anlatması. (Aslında yaratıcıları üzerinden halen “insan faktörünün” çatıştığını söylemek de mümkün.)
Yaratıcıların yarattığı yaratıcılar, demişken, dizide sıkça geçen “tanrı” tanımlaması mistik değil, bilakis irade gücünün kimin elinde olduğuna dair bir belirteç olduğundan yine dönüp dolaşıp aynı soruya getiriyor bizi: Özgür irade var mı? (Bu arada dizi bunu sorgulamıyor, hatta özgür iradeyi bir varlık olarak ele alıp karşısına düşmanlar çıkarıyor ama 5 sezonluk uzun yolculukta verilen ya da verilmesi mecbur kalınan kararlar, özgür iradeyle ilgili akılda bu soruyu bırakıyor. - Buraya dizinin ABD yapımı olduğunu ve özgür irade tartışmalarının tamamen Marksizm dışı, bireysel bir yerden ilerlediğini not düşmeli -)
Dünyaya etik ve varoluşsal bağlılık
Yazının başından beri aynı soru önümüzde duruyor: İnsan hayatının, insanlığın geleceğinin kararı, kimin iradesine bırakılmalı? (Böyle sorunca cevap çok açık gibi duruyor ama dedim ya, tartışma başka...)
İlk yapay zeka programını 1969’da yazmış olan Prof. Brian Cantwell Smith, “Yargı, mevcut bilgisayarların sahip olmadığı bir şekilde dünyayı kavramayı ve dünyaya etik ve varoluşsal bir bağlılığı gerektirir. Yargı sahibi olmak için başka insanların söylediklerine güvenemezsiniz. Bilfiil kendinizin dünyayla bağı, katılımı ve bağlılığı olmalıdır." (Maddesel bir bağlılıktan söz etmediğini altını çiziyor.)
Biz izlerken, dizi gerçek olmuş?
Podcast’i dinlerken tüyleri diken diken eden kısımda, Güven Güzeldere şu bilgiyi veriyor:
“ABD Hava Kuvvetleri’nin eski mensubu olan ve şu anda casusluk suçlamasıyla hapishanede bulunan Daniel Hale, Mayıs 2016’da Intercept ekibinin çıkardığı “Suikast kompleksi: Hükümetin gizli İHA savaşı programı” kitabı için imzasız bir makale yazmıştı. Makalesinde ‘hedef kişileri’ öldürmek veya yakalamak veya sadece izlemek amaçlı listeler bulunduğunu yazdı. Makalesine göre, öldürme ve ‘susturma’ listelerinin tümünün bulunduğu kaynak, yani ‘terörist kimlikler’ datası, Milli Terörle Mücadele Merkezi denen yerdeki ‘terörist izleme/tarama merkezinde’ tutuluyordu. Bu verilerin nasıl işlendiğine dair ayrıntılar, halk tarafından bilinmiyor. Daniel Hale, Ağustos 2013’te veri tabanına 1 milyon veri girişi yapıldığını söylüyor.”
Ve soruyor: Bu, yapay zeka açısından iyi bir gelişme olarak değerlendirilebilir mi?
Smith de bıraktığı yerden soruyor: “Hedefi İHA [drone] mı tespit ediyor, İHA’yı kullanan insan mı?”
Person of Interest de aynı soruyu soruyor ve iki sorunun da ayrı ayrı cevabını vermeye çalışıyor. Ve tüm evrenlerde, elinde sorumluluğu tutanların, bu sorumluluğu kime bırakacağının, neticede bir “insan işi” olduğuna varıyoruz.
Smith’in deyimiyle “yargı” (şimdilik) insanda.
Ancak bu sorumluluktan ne denli çabuk vazgeçtiğimize dair binlerce yıllık tarihimizde çok fazla örnek bulunuyor. Smith de tehlikenin henüz fark edilmediğini düşünüyor.
Ve konu, dönüp dolaşıp etik tartışmasına geliyor: İnsanlığın varoluşuna ne kadar önem veriyoruz?
Birçok soruya net yanıtlarımız yok, belki de bizi insan yapan da bu. Kesin olan, yakın gelecekte bu soruları daha sık soracağımız ve bahsi geçen çatışmaların dallanıp budaklanacağı.
Ne de olsa biz (insanlar) yapay zeka kadar mantıklı değiliz, kaybedeceğimizi bildiğimiz savaşlara da gireriz.
Tabii kazanmak da göreceli bir kavram. Harold’un dediği gibi, “Kazandığını sanıyorsun ama kazanmadın.”
Güven Güzeldere’nin Özgür Üniversite seminerlerine buradan, Açık Radyo’daki yayınlarına da buradan ulaşabilirsiniz.
(AS)