Kırsal topluluklardaki kadınlar, küresel teknoloji şirketleri için şiddet ve pornografik içerik moderatörlüğü yapmanın yarattığı travmayı anlatıyor.
—
Ailesinin evinin verandasında, dizüstü bilgisayarını duvara örülmüş bir kerpiç çıkıntı üzerinde dengeleyen Monsumi Murmu, cep telefonu sinyalinin çektiği birkaç yerden birinde çalışıyor. Evin içinden gündelik yaşamın tanıdık sesleri geliyor: tencere-tava sesleri, ayak sesleri, konuşmalar.
Ekranında ise bambaşka bir sahne oynuyor: Bir kadın bir grup erkek tarafından yere yatırılmış halde, kamera sallanıyor, bağırışlar ve nefes sesleri duyuluyor. Video o kadar rahatsız edici ki Murmu hızlandırarak izliyor, ama işi gereği videoyu sonuna kadar izlemesi gerekiyor.
26 yaşındaki Murmu, Hindistan’ın Jharkhand eyaletindeki köyünden, küresel bir teknoloji şirketi için internet üzerinden içerik moderatörlüğü (content moderation) yapıyor. Görevi; otomatik filtreleme sistemlerinin, platform kurallarını ihlal ettiği şüphesiyle işaretlediği görüntüleri, videoları ve metinleri sınıflandırmak.
Ortalama bir günde 800 kadar video ve görsel inceliyor; şiddet, istismar ve sakıncalı içerikleri tanıyabilmeleri için algoritmaları eğiten değerlendirmeler yapıyor.
Bu iş, makine öğrenmesinin (machine learning) son atılımlarının tam merkezinde yer alıyor. Çünkü yapay zekâ, yalnızca eğitildiği verinin kalitesi kadar başarılı olabiliyor. Hindistan’da bu işgücü, giderek artan bir şekilde, sıklıkla “hayalet işçiler” olarak tanımlanan bir iş gücünün parçası olan kadınlar tarafından gerçekleştiriliyor.
“İlk birkaç ay uyuyamadım,” diyor Murmu. “Gözlerimi kapatıyordum ama ekranda gördüğüm görüntüler hâlâ gözümün önüne geliyordu.” Görüntüler rüyalarına giriyordu: ölümcül kazalar, aile üyelerini kaybetme sahneleri, engel olamadığı cinsel şiddet görüntüleri. Böyle gecelerde annesinin uyanıp yanına oturduğunu söylüyor.
“Risk açısından değerlendirildiğinde, içerik moderatörlüğü ölümcül sektörlerle kıyaslanabilecek kadar tehlikeli işler sınıfına girer.”
— Milagros Miceli, sosyolog
Artık görüntülerin onu eskisi kadar sarsmadığını söylüyor. “Bir noktadan sonra rahatsız olduğun evreyi atlatıyorsun — hissizleşiyorsun.” Yine de rüyaların geri döndüğü geceler oluyor hâlâ. “İşte o zaman anlıyorsun, bu işin sana bir şey yaptığını.”
Araştırmacılara göre bu duygusal hissizleşme — ve ardından gelen gecikmiş psikolojik etkiler — içerik moderatörlüğünün belirleyici özelliklerinden biri. Yapay zekâ çalışanlarını inceleyen Data Workers’ Inquiry projesini yürüten sosyolog Milagros Miceli şöyle diyor: “Psikolojik zarar görmeden bu işi yapan moderatörler olabilir, ama ben henüz buna dair bir kanıt görmedim.”
“Risk açısından değerlendirildiğinde”, diyor Miceli, “içerik moderatörlüğü ölümcül sektörlerle kıyaslanabilecek kadar tehlikeli işler sınıfına girer.”
Araştırmalar, içerik moderatörlüğünün kalıcı bilişsel ve duygusal yüke yol açtığını; çoğu zaman sürekli tehdit algısı/tetikte olma hâli gibi davranışsal değişikliklerle sonuçlandığını gösteriyor. Çalışanlar istemsiz düşünceler, kaygı ve uyku bozuklukları yaşadıklarını bildiriyor.
Hindistan’daki işçileri de kapsayan ve geçen Aralık ayında yayımlanan bir içerik moderatörleri araştırması, travmatik stresin en belirgin psikolojik risk olduğunu ortaya koydu. Araştırma, işyerinde uygulanan destek ve önlem mekanizmaları bulunsa bile ikincil travmanın önemli ölçüde sürdüğünü buldu.
2021 itibarıyla Hindistan’da yaklaşık 70.000 kişinin veri etiketleme (data annotation) alanında çalıştığı tahmin ediliyor. Bu sektörün pazar değeri ülkenin bilişim sektörü kuruluşu Nasscom’a göre 2021’de yaklaşık 250 milyon dolar düzeyindeydi. Gelirlerin yaklaşık %60’ı ABD’deki şirketlerden sağlanırken, Hindistan’ın payı yalnızca %10’da kalıyor.
Veri etiketleme ve içerik moderasyonu işçilerinin yaklaşık yüzde 80’i kırsal, yarı kırsal ya da toplumun dışına itilmiş kesimlerden geliyor. Şirketler kasıtlı olarak küçük şehir ve kasabalarda faaliyet gösteriyor; buralarda kira ve iş gücü maliyetleri daha düşük ve ayrıca ilk kuşak üniversite mezunları iş arıyor.
İnternet bağlantısındaki iyileştirmeler sayesinde bu bölgeler doğrudan küresel yapay zekâ tedarik zincirlerine bağlanmış durumda; çalışanların büyük şehirlere taşınmasına gerek bile kalmıyor.
Bu iş gücünün yarısını veya daha fazlasını kadınlar oluşturuyor. Şirketler için kadınlar “güvenilir” ya da “saygin”, detaylara dikkat eden ve evden veya sözleşmeli çalışmayı kabul etmeye daha yatkın kişiler olarak görülüyor. Bu işler, göç etmek zorunda kalmadan gelir elde etmek için nadir bir firsat sunuyor.
Bu merkezlerde çalışanların önemli bir kısmı Dalit ve Adivasi (yerli halk) topluluklarından geliyor. Birçoğu için herhangi bir dijital iş, tarım işçiliği veya madencilikten daha temiz, daha düzenli ve daha iyi ücretli olduğu için daha avantajlı bir konuma geçişi ifade ediyor.
Ancak evden veya eve yakın çalışmak, Bengaluru merkezli Aapti Enstitüsü’nde daha önce çalışmış yapay zeka ve veri emeği üzerine araştırmacı Priyam Vadaliya’ya göre kadınların marjinal konumunu pekiştirebilir.
“İşin saygınlığı ve kapıya ücretli istihdamın nadir bir kaynağı olarak gelmesi, sıklıkla bir minnettarlık beklentisi yaratıyor,” diyor. “Bu beklenti de çalışanların maruz kaldıkları psikolojik zararı sorgulamalarını zorlaştırabiliyor.”
Raina Singh veri etiketleme işine başladığında 24 yaşındaydı. Yeni mezundu ve aslında öğretmen olmayı planlıyordu, ancak bunu sürdürebilmek için önce düzenli bir gelire ihtiyaç duyuyordu.
Uttar Pradesh’teki memleketi Bareilly’e döndü ve her sabah yatak odasından bağlanarak küresel teknoloji platformlarına hizmet veren bir taşeron firma aracılığıyla çalışmaya başladı. Aylık yaklaşık 330 sterlinlik (yaklaşık 19 bin TL) ücret makul görünüyordu. İş tanımı net değildi, ancak yapılabilir gibiydi.
“Ne kadar pornografik içeriğe maruz kaldığımı ifade etmem mümkün değil. Sürekli karşıma çıkıyordu… zamanla seks düşüncesi bende tiksinti uyandırmaya başladı.”
— Raina Singh, veri işçisi
Başlangıçtaki görevleri metin tabanlıydı: Kısa mesajları incelemek, spam işaretlemek, dolandırıcılık dilini tespit etmek. “Endişe verici değildi,” diyor. “Sadece sıkıcıydı. Ama öte yandan heyecan vericiydi. Yapay zekânın arkasında çalışıyormuşum gibi hissediyordum. Arkadaşlarım için AI sadece ChatGPT idi; ben onun nasıl çalıştığını görüyordum.”
Ancak yaklaşık altı ay sonra görevleri değişti. Singh’e haber verilmeden yetişkin eğlence platformuna bağlı yeni bir projeye kaydırıldı. Görevi çocuklara yönelik cinsel istismar içeren içerikleri tespit edip kaldırmaktı.
Bunun görevimin bir parçası olabileceği aklıma bile gelmemişti,” diyor. İçeriklerin hem açık saçık olduğunu hem de durmaksızın karşısına çıktığını belirtiyor. Endişelerini yöneticisiyle paylaştığında ona şöyle söylendiğini hatırlıyor: “Bu Tanrı’nın işi; çocukları koruyorsun.”
Kısa süre sonra görev yeniden değişti. Singh ve ekibindeki altı kişi, pornografik içerikleri kategorilere ayırmakla görevlendirildi. “Ne kadar pornografik içeriğe maruz kaldığımı sayamam” diyor. “Bitmek bilmeden, saatlerce.”
İş özel hayatını da etkilemişti. “Seks fikri beni tiksindirmeye başlamıştı,” diye anlatıyor. Partneriyle yakınlaşmak istemez olmuş, aralarındaki bağın yavaş yavaş koptuğunu hissetmişti.
Şikâyet ettiğinde ise düz, soğuk bir cevap almıştı: ‘Sözleşmende veri etiketleme yazıyor — bu da zaten veri etiketleme.’ İşten ayrıldı, fakat bir yıl sonra bile seks düşüncesinin onda mide bulantısı ya da kopma hissi yarattığını söylüyor. “Bazen partnerimleyken kendi bedenimde bir yabancı gibi hissediyorum. Yakınlık istiyorum ama zihnim izin vermiyor.”
Vadaliya, iş ilanlarının, işin gerçekte ne içerdiğini nadiren açıkladığını söylüyor. “İnsanlar muğlak başlıklar altında işe alınıyor; ancak sözleşmeler imzalanıp eğitim başladıktan sonra işin aslında ne olduğunu anlıyorlar.”
İnternette uzaktan ve yarı zamanlı işler yoğun biçimde “kolay para” ya da “hiç yatırım yapmadan kazanma” fırsatı olarak pazarlanıyor; YouTube içerikleri, Linkedin paylaşımları, Telegram grupları ve sosyal medya fenomenleri (influencer) bu işi esnek, basit ve güvenli bir çalışma olarak çerçeveliyor.
The Guardian gazetesi Hindistan’daki sekiz veri etiketleme ve içerik moderasyonu şirketiyle konuştu. Yalnızca ikisi çalışanlara psikolojik destek sağladığını söyledi. Diğerleri işin ruh sağlığı desteği gerektirecek kadar ağır olmadığını savundu.
Vadaliya, destek var olduğu durumlarda bile çoğunlukla bireyin bizzat başvurması gerektiğini söylüyor; bu da bakım yükünü işçilerin omuzlarına yıkıyor. “Bu yaklaşım, özellikle uzak bölgelerden ya da toplumun dışına itilmiş kesimlerden gelen pek çok veri işçisinin yaşadıklarını ifade edecek dile bile sahip olmayabileceği gerçeğini görmezden geliyor,” diyor.
Ayrıca Hindistan’ın iş yasalarında, ruh sağlığı üzerindeki etkilerin hukuken tanınmaması, çalışanların gerçek bir korumaya sahip olmaması anlamına geliyor, diye ekliyor.
Monsumi Murmu işin stresiyle başa çıkmak için ormanda yürüyor. ‘Açık gökyüzünün altında oturuyorum ve etrafımdaki sessizliğe odaklanmaya çalışıyorum.’ Fotoğraf: Anuj Behal
Psikolojik yük izolasyonla daha da ağırlaşıyor. İçerik moderatörleri ve veri işçileri, aileleri ve arkadaşlarıyla bile işleri hakkında konuşmalarını yasaklayan katı gizlilik sözleşmeleriyle (NDA) bağlı durumdalar. NDA’ları ihlal etmek işten çıkarılma veya yasal işlemle sonuçlanabiliyor.
Murmu, ailesi işinin gerçek doğasını öğrenirse köyündeki birçok kız gibi ücretli işten ayrılıp evliliğe zorlanabileceğinden korkuyor.
Sözleşmesinin bitimine dört ay kala, ayda yaklaşık 260 sterlin kazandığı bu işte, işsiz kalma korkusu ruh sağlığına ilişkin kaygılarını dile getirmesinin önünde duruyor: “Başka bir iş bulmak beni işin kendisinden çok daha fazla endişelendiriyor,”.
Bu süreçte tabi stresle baş etmek için kendi yöntemlerini geliştirmiş. “Ormana uzun yürüyüşlere çıkıyorum. Açık gökyüzünün altında oturup etrafımdaki sessizliğe odaklanmaya çalışıyorum.”
Bazı günler evinin yakınındaki araziden mineral taşları topluyor veya evin duvarlarına geleneksel geometrik desenler çiziyor. “Bunun gerçekten bir işe yarayıp yaramadığını bilmiyorum, ama kendimi biraz daha iyi hissediyorum.”
Özgün Metin: ‘In the end, you feel blank’: India’s female workers watching hours of abusive content to train AI
Çeviri: Erkan Öğümsöğütlü
