COVID-19 içerik denetlemenin kusurlarını nasıl yoğunlaştırıyor?

Mozilla’nın grafiği. İzinle kullanılır.

Aşağıdaki yazı konuk yazarlar tarafından birlikte yazılmıştır Solana Larsen, Mozilla’da İnternet Sağlık Raporu Editörü ve Leil Zahra, Bir Mozilla Fellow, WITNESS’e gömüldü.

Dünyanın dört bir yanındaki insanlar olarak COVID-19 salgınından barınak, internet eskisinden daha hayati bir kaynak haline gelmiştir. Milyonlarca kişi artık sadece bağlantı kuruyor, iletişim kuruyor, öğreniyor, çalışıyor ve çevrimiçi oyun oynuyor.

Bazı açılardan, salgın internetin küresel bir kamu kaynağı olarak potansiyelini ortaya çıkarmıştır. Ama aynı zamanda ne olduğunu ortaya koyuyor sağlıksız internet hakkında: erişimi olmayan kişiler daha büyük bir dezavantaj şimdi. Tüketici teknolojisindeki gizlilik ve güvenlik eksiklikleri artık katlanarak daha fazla insanı savunmasız hale getiriyor.

Pandeminin ön plana çıkardığı rahatsız edici bir konu, internetin bozuk içerik denetleme ekosistemidir. Yani, büyük teknoloji platformlarının çevrimiçi nefret konuşması, dezenformasyon ve yasadışı içerikle başa çıkmasının son derece kusurlu yollarıdır. Birçok ilerlemeye rağmen, Facebook, YouTube ve diğer platformlar genellikle içeriği kaprisli veya düpedüz tehlikeli olan yollarla ılımlı hale getirirler: zararlı içerik iltihaplanmaya bırakılır ve kabul edilebilir içerik haksız yere kaldırılır. Bu kararlar genellikle Küresel Güney’deki ve daha az desteklenen dilleri konuşan kişileri orantısız bir şekilde etkiler.

Şu anda bir dönüm noktasındayız. İçerik denetlemenin kusurları daha da büyük mü olacak? Ya da bu kriz, çevrimiçi iletişim kurma şekliyle olumlu ve kalıcı bir değişim için bir sıçrama tahtası olabilir mi?

İçerik denetlemesiyle ilgili en zor sorunlardan biri, denetlenmeyi kimin veya ne yaptığıdır. Pandemik ile ilgili yanlış bilgi ezici platformlar ve birçok insan içeriği moderatörleri çalışamıyor , birçok platform giderek yapay zekaya dönüşüyor. Bu yaklaşımın sınırları açıktır. Otomatik filtreleme, COVID-19 yanlış bilgilerinin orman yangını gibi yayılmasını ve halk sağlığını tehlikeye atmasını önleyemedi. Platformlar ağartıcı içmenin virüsü tedavi edebileceğini veya 5G teknolojisinin bir şekilde hastalığı yaydığını düşündüren direklerde yıkanıyor.

Yanlış bilgilendirmenin yanı sıra, otomatik denetleme de yanlışlıkla kaliteli içeriği sansür edebilir. Ciddi sorular soran veya yerel kelime dağarcıklarında veya bağlamlarda konuşan İnternet kullanıcıları yanlış olarak etiketlenebilir. Facebook’ta orta salgın, otomatik denetleme, COVID-19 hakkındaki haber makalelerine bağlantılar da dahil olmak üzere büyük miktarda içeriğin hatalı şekilde kaldırılması ile sonuçlandı. Mart ayında, Facebook iddia Bu arkasında teknik bir “sorun” vardı, ve onlar kaldırılan içeriği geri söyledi. Ancak bölüm, bu tür sistemlerin verimliliği hakkında ciddi sorular ortaya çıkarıyor ve ayrıca Facebook’un şeffaflığı konusunda şüphe uyandırıyor. YouTube, Mart ayında COVID-19 nedeniyle otomatik filtrelemeyi arttırdığını duyurduğunda yazdı : “Bunu yaptığımızda kullanıcılar ve içerik oluşturucular, politikaları ihlal etmeyebilecek bazı videolar da dahil olmak üzere artan video kaldırma işlemlerini görebilir.” Benzer şekilde, Twitter açıkladı aynı ay içinde otomatik ılımlılık “bazen ekiplerimizin getirdiği bağlamı eksik olabilir ve bu da hata yapmamıza neden olabilir.”

İçerik haksız yere kaldırıldığında veya bir hesap askıya alındığında itiraz sürecinin opak olabileceğine yardımcı olmaz. Çoğu durumda, kullanıcılar bir hesabın içeriğinin kaldırılması veya askıya alınmasının ardındaki nedenleri anlamadan bırakılır. Ve salgından önce bile, içerik denetleme konusundaki tartışmada bağlam önemli bir konu olmuştur. Örneğin, kabul edilen dile ABD merkezli bir yaklaşımın uluslararası alanda uygulanıp uygulanmaması gerektiği.

Kusurlu teknoloji, içerik denetlemesiyle ilgili bir sorundur; eşitsiz politikalar başka bir sorundur. Amerika Birleşik Devletleri ve bazı Avrupa ülkelerinde, büyük teknoloji platformları yerel yasaları takip etme ve kendi iç politika taahhütlerini yerine getirme konusunda oldukça uyanık olabilir. Başka bir yerde, durum böyle değil. Nijerya’nın 2018 seçimleri sırasında, araştırmacı ve Global Voices katılımcısı Biberiye Ajayi ve bir grup meslektaşı kataloglanmış yüzlerce tweet disenformasyon yayılan ve bu etkinlik hakkında raporlara öngörülemeyen ve tutarsız yanıt oranlarında dehşete düşürüldü. “Seçim gününde ciddi bir şey bildirirseniz ve bir hafta sonra size geri dönerlerse ne anlamı var?” dedi Ajayi’de. Düşünce günümüz bağlamında eşit derecede korkutucu: Bir platform, milyonlarca insan bunu gördükten sonra COVID-19 yanlış bilgisini ortadan kaldırırsa, hasar zaten yapılmıştır.

Bunlar, içerik denetleme alanında uzun süredir devam eden birkaç sorundan sadece ikisi. Mozilla’nın son anket sosyal medya alanı, biz birkaç diğerleri incelendi. Biz Polonyalı kar amacı gütmeyen uyuşturucu zarar azaltma grubu, SIN ile konuştu Facebook tarafından askıya alındı ve karar itiraz edemiyor. Ve insan hakları araştırma grubu ile konuştuk Suriye Arşivi, Savaşta insan hakları ihlallerine dair kanıtların platformlar tarafından sık sık silindiğini söylüyorlar. Bu gibi örneklerin salgın sırasında nasıl ciddi olabileceğini görmek zor değil. Ya kritik sağlık bilgileri ortadan kalkarsa ya da kilitlenmeyle ilgili insan hakları ihlallerine dair kanıtlar yanlış yere indirilirse?

Bu problemler için her derde deva yok. Ancak, ne zaman, ne zaman ve neden alındığı konusunda daha fazla şeffaflık, yayından kaldırmaların hangi kısmının itiraz edildiği ve yeniden etkinleştirildiği, araştırmacıların ve etkilenen toplulukların platformlara ve politika yapıcılara çok daha iyi tavsiyelerde bulunmasına yardımcı olabilir. Büyük platformların şeffaflık raporları, yine de yıllar içinde daha ayrıntılı hale gelmiştir, kısmen sivil toplumun baskısı sayesinde, Santa Clara İlkeleri . İçerik denetlemede şeffaflık ve hesap verebilirlik için temel çizgileri özetlemeye yönelik bu topluluk girişimi 2018’de başlatıldı ve bunları onaylamak için çeşitli platformlar devam etti. Mart ayında, ilkelerin bir güncellemeden yararlanacağını belirterek, Electronic Frontier Foundation (EFF) teklif çağrısı (son tarih 30 Haziran), ağır etkilenen marjinalize seslerin ihtiyaçlarını daha iyi karşılamak için nasıl.

Farklı küresel bağlamlarda ılımlılık ve itiraz kalıpları hakkında çok şey bilinmemektedir, etkilenen kullanıcıların anekdot kanıtları bile değerli bir kaynak olacaktır. Susturuldu.online , dünya çapında haksız kalkış deneyimlerini tartışmak ve kitlesel kaynak kullanımı için yeni bir temel araçtır. İçeriğin kaldırılması ve denetlenmesi üzerinde çalışmakta olan veya üzerinde çalışmaya başlamak isteyen organizasyon ve bireylerden oluşan bir ağ oluşturmayı amaçlamaktadır.

Diğer gruplar, sivil toplum ve araştırmacıların içerik denetleme ve platform yönetmeliği ile ilgili sorularla meşgul olmasının çok önemli olduğunu kabul edecektir. Skandallar ve krizler, neyin işe yaradığının bağımsız analizine dayanmayan yeni kurallar ve yönetmeliklere veya daha fazla otomasyon çağrılarına neden olma eğilimindedir. Facebook’un yeni Gözetim Kurulu , küresel bir halktan dikkat talep.

Yukarıda özetlendiği gibi, COVID-19 salgını içerik ılımlılık kusurlarını keskin bir rahatlamaya getiriyor, ancak sorunlar uzun süredir devam ediyor, en azından sağlık ve dezenformasyon konularında değil. Onlar bir değişiklik için çağrı platformların günlük çalışması hem de nasıl sorumlu tutulur. Konuyla ilgili artan dikkat ve odak iyi bir şey katalize etme potansiyeline sahiptir. Daha fazla şeffaflık, daha insancıl teknoloji, daha iyi yasalar ve daha sağlıklı bir internet kıvılcımına neden olabilir.