UCL, Kent Üniversitesi ve Okul ve Kolej Liderleri Birliği (ASCL) ortaklığında yürütülen araştırma, algoritmik bir modelleme çalışmasında TikTok hesaplarının “Sizin İçin” sayfasındaki kadın düşmanı içerik seviyesinde platformda sadece beş gün içinde dört kat artış olduğunu tespit etti.
Araştırmacılar, gençler ve okul liderleriyle yaptıkları görüşmelerde, nefret dolu ideolojilerin ve kadın düşmanı mecazların ekranlardan çıkıp okullara girdiğini ve ana akım gençlik kültürlerine yerleştiğini de tespit etti.
Raporun yazarları, gençleri, okulları, ebeveynleri ve genel olarak toplumu desteklemek için eğitimde “sağlıklı bir dijital diyet” yaklaşımına duyulan ihtiyacı vurgulamaktadır. Ayrıca gençlerin kendi seslerinin desteklenmesinin, özellikle de erkek çocukların çevrimiçi kadın düşmanlığına ilişkin tartışmalara dahil edilmesinin elzem olduğunu belirtiyor ve “akranlar arası” bir mentorluk yaklaşımı öneriyorlar.
Baş araştırmacı Dr. Kaitlyn Regehr (UCL Bilgi Çalışmaları) şunları söyledi: “TikTok ve diğer sosyal medya sitelerindeki algoritmik süreçler, insanların yalnızlık veya kontrol kaybı duyguları gibi hassas noktalarını hedef alıyor ve zararlı içeriği oyunlaştırıyor. Gençler kendilerine zarar verme ya da aşırıcılık gibi konularda mikro dozlar aldıkça, bu onlara eğlence gibi geliyor.
“Zararlı görüşler ve mecazlar artık gençler arasında normalleşiyor. Bu ideolojilerin ekranlardan okul bahçelerine taşındığını gördükçe, çevrimiçi tüketim gençlerin çevrimdışı davranışlarını da etkiliyor.
“Dahası, yetişkinler genellikle zararlı algoritmik süreçlerin nasıl işlediğinin ya da kendi sosyal medya bağımlılıklarını nasıl besleyebileceğinin farkında değiller, bu da bu konularda ebeveynlik yapmayı zorlaştırıyor.”
Araştırmacılar çalışmaya radikal çevrimiçi içerik üreten ve bu içerikle ilgilenen gençlerle görüşerek başladılar. Bu daha sonra, çevrimiçi içerik tarafından radikalleşmeye karşı savunmasız olabilecek genç erkeklerin tipolojilerini temsil etmek için arketiplerin oluşturulmasında algoritmik çalışmayı bilgilendirdi. Araştırmacılar, her bir arketip için TikTok’ta bu arketiplere özgü farklı içerik ilgi alanlarına sahip hesaplar oluşturdular (örneğin, erkeklikle ilgili içerik aramak veya yalnızlığı ele almak) ve araştırmacılar bu hesapları TikTok’un “Sizin İçin” sayfasında önerdiği videoları yedi günlük bir süre boyunca izlemek için kullandılar.
Önerilen ilk içerik, yalnızlık veya kişisel gelişim temalarını araştıran materyaller gibi her bir arketipin belirtilen ilgi alanlarıyla uyumluydu, ancak daha sonra giderek kadınlara yönelik öfke ve suçlamaya odaklandı. Beş gün sonra TikTok algoritması, nesneleştirme, cinsel taciz veya kadınları itibarsızlaştırma gibi kadın düşmanı içeriğe sahip dört kat daha fazla video sunuyordu (önerilen videoların %13’ünden %56’sına yükseldi).
Araştırma ekibi, gençlerin kişisel etkileşimlerinde de kadın düşmanı mecazların normalleştiğini doğrulayan okul liderleriyle yuvarlak masa toplantıları ve görüşmeler gerçekleştirdi.(…)
Araştırmacılar, araştırmalarının diğer sosyal medya platformlarına da benzer şekilde uygulanabileceğini, örneğin Instagram ve YouTube üzerine başka grupların araştırmalarıyla desteklendiğini, sosyal medya algoritmalarının kendine zarar verme materyali veya aşırı ideolojiler gibi diğer zararlı içerik türlerini de destekleyebileceğini söylüyorlar. Dr. Regehr ve UCL’deki meslektaşlarının da dahil olduğu önceki araştırmalar, çevrimiçi cinsel şiddetin kadınlar ve kız çocukları tarafından rutin olarak deneyimlendiğini ve bu durumun son yıllarda daha da arttığını ortaya koymuştur. Bu çalışma, 2022’deki yeni dijital teşhir mevzuatını desteklemiştir.*
Okul ve Kolej Liderleri Birliği Genel Sekreteri Geoff Barton şu yorumu yaptı “UCL’nin bulguları, çoğumuzun hakkında çok az şey bildiği algoritmaların, eğlence biçiminde giderek daha aşırı içerikler sunduğu bir kartopu etkisine sahip olduğunu göstermektedir. Bu durum genel olarak son derece endişe vericidir, ancak özellikle de toksik erkeklikle ilgili mesajların artması ve bu tür korkunç materyallerden etkilenmeden büyümeleri ve dünya anlayışlarını geliştirmeleri gereken gençler üzerindeki etkisi açısından endişe vericidir.
“Gençleri, özellikle de erkek çocukları, akranları ve aileleriyle birlikte bu sorunla mücadele etmek için konuşmaya dahil etme çağrısını memnuniyetle karşılıyoruz. Özellikle TikTok’u ve genel olarak sosyal medya platformlarını acil olarak algoritmalarını gözden geçirmeye ve bu tür içerikleri önlemeye yönelik tedbirleri güçlendirmeye, hükümeti ve Ofcom’u da yeni Çevrimiçi Güvenlik Yasası kapsamında bu konunun sonuçlarını değerlendirmeye çağırıyoruz. Artık eylemden söz etmek yerine eyleme geçmenin zamanı gelmiştir.”
https://www.ucl.ac.uk/news/2024/feb/social-media-algorithms-amplify-misogynistic-content-teens
