Af Örgütü’nün yıllık raporunda “yapay zeka” uyarısı
Uluslararası Af Örgütü, 155 ülkede insan haklarının durumunu mercek altına alan Dünyada İnsan Haklarının Durumu başlıklı yıllık raporunu yayımladı.
Af Örgütü raporunda, dünyanın şiddetlenen çatışmalar ve uluslararası hukukun neredeyse topyekûn çöküşünün korkunç sonuçlarıyla baş başa kaldığını belirtti.
“Yapay zeka” ve hak ihlalleri
Örgüt, yapay zekadaki hızlı ilerlemelerle hukuk sistemindeki çöküşün de hızlanabileceği ve Big Tech olarak bilinen büyük teknoloji şirketlerinin egemenliğiyle bir arada düşünüldüğünde, denetimin ilerlemelerin gerisinde kalmaya devam etmesi halinde bu durumun insan hakları ihlallerini “aşırı derecede artırma riski taşıdığı” uyarısı yaptı:
“Mevcut durumda askeri ve siyasi aktörlerle şirketler tarafından rutin olarak silah haline getirilen yeni ve bilindik teknolojilerin denetimsiz kullanımı, çatışmalarda ve diğer bağlamlardaki hukuksuzluğu, ayrımcılığı ve cezasızlığı kolaylaştırdı. Big Tech platformları çatışmaları körükledi.
Casus yazılımlar ve kitlesel gözetim araçları temel hak ve özgürlükleri ihlal etmek için kullanılırken, devletler, otomatik araçlardan yararlanarak toplumların en fazla ötekileştirilen gruplarını hedef alıyor.”
Gazze, Ukrayna, Sudan, Etiyopya ve Myanmar
Uluslararası Af Örgütü Genel Sekreteri Agnès Callamard raporla ilgili açıklamasında, “Raporumuz, küresel eşitsizliğin derinleştiği, süpergüçlerin üstünlük için rekabet ettiği ve iklim krizinin şiddetlendiği bir dönemde insan haklarına yönelik endişe verici baskıları ve bolca işlenen uluslararası hukuk ihlallerini gösteren kasvetli bir tablo çiziyor” dedi.
Callamard sözlerini şöyle sürdürdü:
“İsrail’in uluslararası hukuku açıkça hiçe sayması, müttefiklerinin Gazze’de yaşanan tarifsiz sivil katliamı durdurmaktaki başarısızlığıyla daha da şiddetli bir hâl aldı. Bu müttefiklerin çoğu, İkinci Dünya Savaşı sonrası hukuk sisteminin mimarlarıydı.
Rusya’nın Ukrayna’ya karşı süregelen saldırıları, artan sayıdaki silahlı çatışmalar ve örneğin Sudan, Etiyopya ve Myanmar’da tanık olduğumuz geniş çaplı insan hakları ihlalleri, kurallara dayalı küresel düzeni dağılmanın eşiğine getirdi.
Gitgide daha güvencesiz hale gelen bir dünyada, üretken yapay zeka, yüz tanıma sistemleri ve casus yazılımların denetimsiz bir şekilde çoğalması ve kullanılması, uluslararası hukuk ve insan hakları ihlallerini olağanüstü seviyelere çıkaran ve güçlendiren tehlikeli bir düşman olmaya hazırlanıyor.
Dönüm noktası niteliğindeki bir seçim yılında ve Big Tech aktörlerinin düzenleme getirilmemesi için yürüttüğü ve finanse ettiği, gittikçe güçlenen bir lobi karşısında bu başıboş ve denetimsiz teknolojik ilerlemeler hepimiz için büyük bir tehdittir. Ayrımcılık, yanlış bilgilendirme ve ayrıştırma için silah haline getirilebilirler.”
Yüz tanıma sistemleri
Rapor, mevcut teknolojilerin yaygın olarak ayrımcılığı yerleşik kılmak için kullanıldığına işaret ediyor:
“Arjantin, Brezilya, Hindistan ve Birleşik Krallık gibi devletler, kamusal protestoları ve spor etkinliklerini polis gücüyle denetlemek ve başta göçmenler ve mülteciler olmak üzere ötekileştirilen toplulukları ayrımcılığa maruz bırakmak için yüz tanıma teknolojilerine giderek daha fazla yöneldi.
Örneğin, Uluslararası Af Örgütü’nün başlattığı hukuki sürece cevaben New York Polis Teşkilatı 2023’te, kentteki Black Lives Matter protestolarını gözetim altında tutmak için teknolojiden nasıl yararlandığını açıkladı.
Yüz tanımanın menfi amaçlarla kullanımı hiçbir yerde, İşgal Altındaki Filistin Toprakları’nın bir parçası olan Batı Şeria’da olduğu kadar yaygın değildi.
İsrail, Batı Şeria’da yüz tanıma teknolojilerini dolaşım özgürlüğü kısıtlamalarını sıkılaştırmak ve apartheid sisteminin devamlılığını desteklemek için kullandı.”
Göç yönetimi ve sınırlarda teknoloji kullanımı
Dünya genelinde milyonlarca kişinin çatışmalardan kaçtığı bir yılda rapor, gözaltına alternatif dijital araçların kullanımı, sınır dışsallaştırma teknolojileri, veri yazılımları, biyometri ve algoritmik karar alma sistemleri aracılığıyla da olmak üzere göç yönetimi ve sınır yaptırımlarında nasıl müdahaleci teknolojilere güvenildiğini açıklıyor:
“Bu teknolojilerin yaygınlaşması ayrımcılığı, ırkçılığı ve ırk ayrımcılığına maruz kalan gruplara karşı orantısız ve hukuksuz gözetimi kalıcılaştırmakta ve pekiştiriyor.”
Casus yazılımlar
Raporda, insan hakları ihlallerine yol açtığı uzun yıllardır toplanan kanıtlarla gösterildiği halde casus yazılımların büyük oranda denetimsiz bırakıldığı ve sürgündeki aktivistler, gazeteciler ve insan hakları savunucularının bu yolla hedef alındığı belirtildi:
“2023’te Uluslararası Af Örgütü, Ermenistan, Dominik Cumhuriyeti, Hindistan ve Sırbistan gibi ülkelerde Pegasus casus yazılımının gazetecilere ve sivil toplum aktivistlerine karşı kullanıldığını, ayrıca AB’de üretilen ve AB denetimine tabi casus yazılımların dünyanın dört bir yanındaki devletlere serbestçe satıldığını ortaya çıkardı.
Geçen yıl boyunca hızla mesafe kat eden üretken yapay zeka, casus yazılımlardan devletlerin otomatikleştirme girişimlerine ve sosyal medyanın başıboş algoritmalara kadar halihazırda var olan teknolojilerin oluşturduğu tehdidin boyutlarını değiştirdi.
Açgözlü ilerlemeler karşısında düzenlemeler büyük ölçüde durgun kaldı. Buna karşın, Avrupalı politika yapıcıların harekete geçmeye başladığını düşündüren bir işaretle, Şubat 2024’te AB kapsamında önemli bir Dijital Hizmetler Yasası yürürlüğe girdi. Kusursuz ve tamamlanmış olmasa da yasa, yapay zeka düzenlemeleriyle ilgili son derece ihtiyaç duyulan küresel tartışmayı başlattı.”
“Teknolojilerin kontrolsüz ilerlemesi”
Agnès Callamard, “Teknolojilerin kontrolsüz ilerlemesinin yarattığı riskler ile düzenleme ve koruma açısından gelmemiz gereken nokta arasında büyük bir uçurum var. Bu bizim önceden görebildiğimiz geleceğimiz ve denetimsiz teknolojilerin hızla yayılması sınırlandırılmadığı müddetçe daha da kötüye gidecek” şeklinde konuştu.
Facebook, Instagram, TikTok ve Youtube
Uluslararası Af Örgütü, Facebook algoritmalarının Etiyopya’daki silahlı çatışma bağlamında etnik şiddeti nasıl körüklediğini de ortaya çıkardı:
“Bu durum, teknolojilerin, özellikle istikrarsızlık dönemlerinde toplulukları nasıl karşı karşıya getirmek için araçsallaştırıldığının en iyi örneği.”
Af Örgütü, Facebook, Instagram, TikTok ve Youtube gibi belli başlı sosyal medya platformlarının temelinde yatan gözetim temelli iş modellerinin seçimler bağlamındaki insan hakları ihlallerinde bir katalizör görevi gördüğü düşünüldüğünde, bu sorunların artacağını ifade etti.
Rapor hakkında
Uluslararası Af Örgütü’nün Dünyada İnsan Haklarının Durumu başlıklı yıllık raporu 155 ülke değerlendirmesi, beş bölgesel ve bir küresel değerlendirme ile Genel Sekreter Agnès Callamard’ın dünyada insan haklarının durumunu kendi ifadeleriyle değerlendirdiği önsözden oluşuyor.
Küresel değerlendirme, şu dört konuya odaklanıyor: Silahlı çatışmalarda sivillere yaklaşım; toplumsal cinsiyet adaletinde hız kazanan gerileme; ekonomik krizler, iklim değişikliği ve çevre tahribatının en fazla ötekileştirilen topluluklar üzerindeki orantısız etkileri; üretken yapay zeka dahil yeni ve halihazırdaki teknolojilerin oluşturduğu tehditler.
Bu başlıklar, Uluslararası Af Örgütü’nün bakış açısında göre, 2024’te ve gelecek yıllarda dünya genelinde insan haklarını bekleyen en önemli zorlukları ifade ediyor.
(AS)