Bir kısır döngü: Çevrimiçi nefret ve şiddet ilişkisi

Görsel: Pixabay

İnternetin, herkesin sesi olabilme özelliği bir yandan yurttaşların sorunlarını tartışmalarına ve otoriteye alenen meydan okuyabilmelerine olanak sağlarken, öte yandan, bireylerin radikalleşme, azınlıklara ve/veya savunmasız gruplara yönelik yasadışı ve şiddet içeren eylemlere özenme riskini de doğuruyor.

Çevrimiçi dünya ile gerçek dünya arasındaki şiddet ilişkisinin ne olduğu üzerine uzun zamandır kafa yoruluyor. IŞİD gibi terör örgütlerinin şiddeti kışkırtmaya yönelik olarak ürettikleri propaganda içeren videolarında nefret söylemi kullandıklarına hepimiz tanıklık ediyoruz.

Yakın zamana kadar ırkçı ve İslam karşıtı paylaşımların 2011'de 69 genci öldüren Anders Breivik gibi nefret suçu faillerine ve 2019'da 51 kişinin öldüğü Christchurch Cami Saldırısı gibi olaylara esin kaynağı olmalarına rağmen, yakın zamana kadar çevrimiçi ve gerçek yaşamdaki eylemler arasındaki bağlantıları bilimsel olarak kanıtlayacak bir veri yoktu.

Ancak, BM ve Pompeu Fabra Üniversitesi tarafından yürütülen ve IBM tarafından koordine edilen bir araştırma bu belirsizliğe yeni bir perspektif kazandırdı.

Araştırmacılar, nefret söylemi göstergesi olarak kabul edilen anahtar kelime ve ifadelerin bir listesini yaptılar.

Bunlar arasında Twitter ve Reddit de hem İslami aşırılık yanlısı hem de İslam karşıtı paylaşımlarda bulunan ifadeler yer alıyordu, araştırmacılar listeye eklenen başka terimlerle de karşılaştılar.

İslami terörizm veya İslam karşıtı şiddet haberleriyle birlikte bu liste, araştırmanın birincil veri kaynaklarını oluşturdu. Kullanıcılar tarafından oluşturulan bu içerik daha sonra İslamcı aşırılık yanlısı veya İslam karşıtı gruba aidiyetleri ve mesajın tehdit oluşturucu potansiyeli gibi faktörlere göre sınıflandırıldı.

Tehdit olasılık ölçeği, basit ayrımcı dil kullanımından soykırıma kadar varan şiddete açıkça özendirmeye varan geniş bir yelpazeyi kapsıyordu.

Çalışma aynı zamanda yorumları analiz ederken, gönderinin amacının bir sorunu tanımlamak olup, olmadığı ("Müslümanların terörist olma olasılığı yüksektir"), bir neden saptamak ("Göç terörizmin artmasına neden olur"), ahlaki bir yargıda bulunmak ("Hristiyanlık kötü bir dindir") veya siyasi amaçlara ulaşmak için terörist saldırılar gerçekleştirmek gibi bir çözüm önerip önermediği gibi hususlara odaklandı.

Sonuç olarak çalışma hem İslamofobik hem de İslami aşırılıkçı şiddet olaylarının çevrimiçi nefret söyleminin arttırdığını ancak nefret söyleminin hedefinde yalnız Müslümanların değil, diğer azınlık gruplarının da olduğunu ortaya koydu.

Emojiler masum değiller!

Yeni bir araştırmaya göre, internetteki taciz içerikli paylaşımlar emojiler içeriyorsa tespit edilme olasılıkları daha düşük.

Nefret içerikli paylaşımlar için tasarlanan bazı algoritmalar, bu semboller kullanıldığında o kadar etkili olmuyor.

Oxford İnternet Enstitüsü'ne göre, zararsız gönderiler “saldırgan” olarak yanlış etiketlenirken, zararlı gönderiler tamamen gözden kaçabiliyor.

İngiltere'nin Euro 2020 finalinde kaybetmesinin ardından Marcus Rashford, Bukayo Saka ve Jadon Sancho* ( *2020 Avrupa Futbol Şampiyonası'nın (EURO 2020) finalinde İngiltere'nin İtalya'ya mağlubiyetinde Bukayo Saka, Marcus Rashford ve Jadon Sancho penaltıları kaçırdıktan sonra sosyal medyada ırkçı saldırıların hedefi oldu) sosyal medyada, çoğu maymun emojisi içeren ırkçı taciz yağmuruna tutulmuştu.

Sky News'in analizine göre, emojiler içeren ırkçı taciz içerikli mesajlar yayınlayan Instagram hesaplarının kapatılma olasılığı, sadece metin içeren nefret içerikli mesajlar yayınlayanlara kıyasla üç kat daha az.

Bu sorunun üstesinden gelmeye yardımcı olmak için araştırmacılar, çoğu saldırgan bir şekilde kullanılan emojileri içeren yaklaşık 4.000 cümleden oluşan bir veri tabanı oluşturdu. Bu veri tabanı, hangi mesajların küfürlü olup olmadığını anlamak için bir yapay zekâ modelini eğitmek için kullanıldı.

Modeli yönlendirmek ve ayarlamak için insanları kullanarak, bir gönderinin nefret dolu olup olmadığını gösteren altta yatan kalıpları daha iyi öğrenebildi.

Araştırmacılar modeli ırk, cinsiyet, cinsel kimlik, cinsellik, din ve engellilikle ilgili tacizler üzerinde test etti.

Ayrıca emojilerin saldırgan bir şekilde kullanılabileceği farklı yolları da incelediler. Bunlar arasında grupları bir emoji ile tanımlamak - örneğin eşcinselleri temsil etmek için gökkuşağı bayrağı kullanmak - ve nefret içerikli metin eklemek yer alıyor.

Oxford'da yapılan bir araştırmaya göre, nefret söylemi zaman zaman en iyi filtreden geçerken, daha gerçekçi bir sistem kötü niyet olmadan kullanılan benzer terimleri engelleyebiliyor.

Çevrimiçi nefret söylemi filtrelerinin etkinliği üzerine yapılan araştırmalar nefret söylemini yakalamanın kolay olmadığına işaret ediyor.

Dini hoşgörüyü inceleyen bir araştırma grubu olan Woolf Enstitüsü'nün yakın tarihli bir raporunda da nefret içerikli görsellerle ilgili sorunlar vurgulandı. Google'ın Güvenli Arama özelliği kullanıldığında bile "Yahudi şakaları" aramasına yanıt olarak gösterilen görsellerin yüzde 36'sının anti-semitik olduğunu gösterdi.

Sao Paulo Üniversitesi'nde yapılan bir araştırma, bir algoritmanın “drag queen”lere ait Twitter hesaplarını bazı beyaz üstünlükçü hesaplardan daha tehlikeli olarak değerlendirdiğini ortaya koydu.

Bunun nedeni, teknolojinin bir kişinin kendi topluluğu hakkında kullandığı dilin bir başkası tarafından kullanıldığında daha saldırgan olabileceğini fark edememesi.

Sosyal medya şirketlerinin yazılımlarını ve verilerini sıkı bir şekilde koruma eğiliminde olmaları, bir başka deyişle kullandıkları modellerin incelemeye açık olmaması, sorunun çözümünü daha da zorlaştırıyor.

Araştırmacılar kendi veri tabanlarını online olarak paylaşarak diğer akademisyenlerin ve şirketlerin kendi modellerini iyileştirmek için kullanmalarına olanak sağlıyorlar.

Peki, çevrimiçi nefret söylemi ve gerçek dünyadaki şiddet döngüsel bir sorun mu? Gerçek dünyadaki şiddetin çevrimiçi şiddete veya tam tersi duruma neden olduğu söz konusu mudur? Kendi kendini besleyen bir nefret ve şiddet döngüsü bir tür kısırdöngü yaratır mı?

Bu ilişkilerin varlığını kanıtlamak zor. Öncelikle online radikalleşme sürecinin kendisinin bilimsel açıdan henüz rüştünü ispat etmemesi bunun önemli bir nedeni.

Bir kişinin şiddete eğilim göstermesi için nefret içerikli materyallere ne kadar maruz kalınması gerektiği, bunun ne kadar zaman aldığı ve bireyin ruh sağlığının bunda nasıl bir rol oynadığı soruları henüz yanıtlanmadı.

(YGİ/EMK)