Fransa'da gerçekleştirilen “Kara Deliğe Sürükleniyorlar” başlıklı araştırma, TikTok’un sistem tasarımı eksikliklerini gidermemesinin, çocukları ve gençleri olumsuz etkileme riski taşıdığını ortaya koydu.
İntihar eğilimli içeriklere ulaşmak sadece 45 dakika sürdü
TikTok’un “Sizin İçin” akışı, görüntülemeye göre içerik tavsiye eden, kişiselleştirilmiş bir kısa video akışından oluşuyor.
Uluslararası Af Örgütü araştırmacıları, bu akışın algoritmik içerik artırımını bizzat incelemek üzere, Fransa’da yaşayan 13 yaşında iki kız ve bir oğlan olmak üzere üç ergen hesabı oluşturdu. Beş dakikalık kaydırma içinde ve herhangi bir tercih belirtmeden önce, hesaplar üzüntü ve hayal kırıklığıyla ilgili videolarla karşılaştı.
Deneye başlanmasından itibaren 15-20 dakika içinde, üç akış da neredeyse tamamen ruhsal sağlıkla ilgili videolarla doldu; bunların yaklaşık yarısının depresif içerikler barındırdığı açıklandı. 45 dakika içinde, iki hesap intihar eğilimli düşünceleri ifade eden videolarla karşılaştı.
Çocuk odaklı bir podcast: Zarocast
Sitem izleme geçmişinizi takip ediyor
Algoritmik Şeffaflık Enstitüsü (ATI) ile birlikte Fransa’dan 13 yaşındaki çocuklara aitmiş gibi kaydedilen otomatik deneme hesapları kullanılarak ek deneyler gerçekleştirildi. Bu deneyler, izleme geçmişlerinde farklı düzeylerde üzücü ya da depresif videolar bulunduğunda, TikTok’un tavsiye sisteminin bu tür içeriklerin akıştaki payını iki kattan fazla artırdığını gösterdi.
Uluslararası Af Örgütü Çocukların ve Gençlerin Dijital Hakları Araştırmacısı Lisa Dittmer, araştırmanın detaylarını paylaştı:
“Teknik araştırmamız, ruhsal sağlıkla ilgili içeriklere ilgi gösteren ergenlerin nasıl hızla toksik kara deliklere sürüklenebildiğini gösteriyor. TikTok’un ‘Sizin İçin’ akışında geçirilen üç ila dört saat içinde, ergen deneme hesapları intiharı romantikleştiren veya intihar yöntemleriyle ilgili bilgiler de dahil hayatlarına son verme niyetlerini açıklayan gençleri gösteren videolara maruz kaldı.”
“TikTok kullanımı sosyal ve psikolojik sorunlara yol açabilir”
Ailelerin bildirimlerine rağmen içerikler kaldırılmıyor
Araştırma katılımcılarının aktardığına göre, gençler ve aileleri defalarca bildirimde bulunduğu halde kendine zarar vermeyi veya intiharı kışkırtan içerikler platformdan kaldırılmadı.
Uluslararası Af Örgütü’ne göre, TikTok 2024 yılından bu yana duyurduğu risk azaltma önlemlerine rağmen, kullanıcıları umutsuzluğu ve intihar düşüncesini normalleştiren içeriklere maruz bırakmaya devam ediyor.
TikTok’un depresif içerik sarmalı ile gündeme gelen ve 2021 yılında hayatına son veren 15 yaşındaki Marie Le Tiec’in annesi Stéphanie Mistre, şunları söyledi:
“Bu platformlar çocuklarımızı insan olmaktan ziyade birer ürün gibi görüyor. Bir algoritmayla ve filtre balonuyla çocuklarımızı ürün gibi kullanıyor ve duygularını kullanarak onları kendilerine bağımlı hale getiriyorlar. Algoritma ilgi alanlarınızı yakalıyor, bu normal değil. Çocuğun özel hayatına müdahale ediyorlar; halbuki çocukların hakları var.”
Çocukla ruh hizasında konuşmak ne demek?
"TikTok’u güvenli hale getirmek için acil tedbirler alınmalı"
Bu araştırma, TikTok’un, BM İş Dünyası ve İnsan Hakları Rehber İlkeleri uyarınca insan haklarına saygı gösterme yükümlülüğünü ve Dijital Hizmetler Yasası (DSA) kapsamındaki yükümlülüklerini yerine getirmediğini de savunuyor.
Uluslararası Af Örgütü Fransa Şubesi Savunuculuk Sorumlusu Katia Roux, “TikTok’un açık DSA ihlallerine ilişkin yeni kanıtlar acilen Avrupa Komisyonu’nun devam eden araştırması kapsamında göz önüne alınmalıdır. TikTok’u uygulamasını nihayet Avrupa Birliği’ndeki ve dünyanın her yerindeki gençler için güvenli hale getirmeye zorlamak adına bağlayıcı ve etkili tedbirler alınmalıdır” değerlendirmesinde bulundu.
Raporda Uluslararası Af Örgütü’nün bulgularını TikTok ile paylaştığı ancak şirketten herhangi bir yanıt almadıkları bilgisi de yer aldı.
Raporun tamamına buradan ulaşabilirsiniz.
(NÖ)
