Sosyal medya uygulamalarından en az birinde hesabı olmayan insan sayısı her geçen gün azalıyor. Peki uygulamalar hayatımızı ne kadar etkiliyor? Sadece bir saniyede izlenen milyonlarca videonun içeriği ne kadar kontrol edilebiliyor?

Dijital dünyanın en ünlü başrolleri Twitter, Facebook ve Instagram… Her üç uygulama da sosyal medyanın en tercih edilenleri arasında. Fakat kontrol edilemeyen içerikler nedeniyle şiddetin körüklendiği de bir gerçek.

Facebook’ta şiddet içerikleri kaldırılmadı

Son olarak Facebook’a açılan bir dava bunun önemli bir örneğini oluşturdu. Dava şiddeti teşvik eden gönderilerin yayınlanmasına ve paylaşılmasına izin verilmesi gerekçesiyle açıldı. 2 milyar dolarlık tazminat davasını açanlar ise Etiyopyalı araştırmacılar Abrham Meareg ve Fisseha Tekle…

Dava ile ilgili yapılan açıklamada, Etiyopya'da yaşanan iç çatışmalar sırasında bu platform üzerinden hedef gösterilip katledilen kişilerin yaşadıklarına yer verildi.

Üstelik davacılardan Abrham Meareg’in kimya profesörü babası Meareg Amare Abrha'nın bu içerikler nedeniyle hayatını kaybettiği belirtildi. Tigray kökenli olmasından ötürü bazı kişilerce hedef gösterildiği ve bu gönderilerin silinmesi talebine rağmen 2 gün boyunca dolaşımda kaldığı savunuldu.

Facebook algoritması nasıl işliyor?

"Şiddet" gerekçeli bu dava Facebook için bir ilk değil. Hatta platform daha önce savunmasını bu içerikleri ayırt edici bir yapay zeka sistemine sahip olmasıyla yapmıştı.

Sisteme göre platformdaki içerikler, Facebook'un "anlamlı sosyal etkileşim" veya MSI olarak adlandırdığı kullanıcı katılımına göre sıralanıyor. En çok beğeni, yorum ve paylaşım alan içerikler daha fazla MSI üretiyor. Algoritma da etkileşimden dolayı bu içeriğe daha çok görünürlük veriyor.

2018'de bu sistem tanıtıldığında, Mark Zuckerberg daha iyi bir sonuç bekliyordu ancak sistem daha çok şiddet içerikli gönderileri görünür kıldı. Zira, şiddet içeren içerik daha çok etkileşim aldığı için daha çok yayılır oldu.

'Facebook Dosyaları'na göre göz ardı ediliyor

Facebook eski ürün müdürü Frances Haugen’a göre platform bu durumun “gayet iyi farkında olmasına rağmen” göz ardı ediyor. Haugen, şirketin eski bir çalışanıydı ve ayrıldıktan sonra The Wall Street Journal'a “Facebook Dosyaları” adı altında bu konu hakkındaki bazı belgeleri sızdırmıştı.

Haugen, bu tür göz ardı edilen içerikler, "Etiyopya gibi yerlerde, kelimenin tam anlamıyla etnik şiddeti körüklüyor" iddiasında da bulunmuştu. Şiddetin körüklendiği tek ülke de Etiyopya değil.

Hindistan ve Mynammar’da da şiddet yayıldı

Hindistan’daki kışkırtıcı çatışmalar da benzer şekilde Facebook’ta yayılmıştı. Bu konuda hazırlanan bir rapor, bu içeriklerin ülkedeki dini temelli gerilimleri şiddetlendirdiğini ortaya çıkarmıştı.

Facebook, Myammar’da şiddet yanlı politakaların yayılmasına da neden olmuştu. Şirket bu konu hakkında özürlerini de bildirmişti fakat eleştirmenler Facebook’un konu hakkında yeterince engelleme yapmadığını savundu.

Myammar’daki şiddet içeriklerinin yayılmasıyla ilgili San Francisco merkezli “Business for Social Responsibility” isimli bir araştırma merkezi rapor hazırlamış ve Facebook’u “kendi zarar verme potansiyelinin farkında olmayan ve sahadaki gerçekleri anlamak için çok az şey yapan bir şirket” olarak tanımlamıştı.

Öte yandan, konuya dikkati çeken The New York Times ise Facebook’ta Myanmar askeri yetkililerinin çoğunluğu Müslüman olan Arakanlıları hedef alan sistematik bir kampanyanın arkasında yer aldığını ortaya çıkarmıştı.

Facebook her ne kadar sanal dünyada bir sosyal medya platformu olarak görülse de Myanmar, Etiyopya ve Hindistan örneklerinde görüldüğü gibi gerçek dünyada telafisi olmayan sonuçlara neden olabiliyor.