AB’nin önerisi, savaş suçları kanıtları için etkilere rağmen teknoloji şirketlerini yapay zeka ile “terörist içerik” ile mücadele etmeye zorluyor

6 ay önce Teknoloji
Bu yazıyı 11 dakikada okuyabilirsiniz

Yarmouk, Suriye. Bölgesinde hava saldırıları ve rejim ve isyancılar arasındaki çatışmalar hasar görmüştü. Fotoğraf: Ahmad Shihabi, izniyle kullanılmış.

Bu yazı, Global Voices ve Derecelendirme Dijital Haklar arasındaki editoryal ortaklığın bir parçası olarak yayınlanmıştır.

Orient News’in YouTube kanalındaki yeni bir video, normal görüntüleyenlere çok aşina olan bir sahneyi gösterir. Suriye’nin İdlib ilindeki bir cerrahi hastanesinde çalışanlar, patlamada yaralanan bir adamı ameliyat etmek için acele ediyor Kamera aşağı doğru ilerliyor ve yerde üç ceset gösteriyor. Biri hareketsiz yatıyor. Diğer ikisi battaniyelerle kaplıdır. Bir adam eğilip battaniyenin altına bakıyor, belki kurbanı tanıyıp tanımadığını görmek için.

Suriye medya kuruluşu Orient News, Suriye’nin iç savaşını belgelemede ve sivillere karşı şiddete dair video kanıtlarını halkın gözüne yerleştirmede kritik rol oynayan birkaç küçük medya kuruluşundan biridir. 2008 yılından bu yana aktif olan grubun sahibi ve Esad rejiminin bir vokal eleştirmeni tarafından yönetiliyor.

YouTube, kendi dağıtım kanallarının yanı sıra bunun gibi videoları daha geniş bir kitleye ulaştırmaya yönelik bir araçtır. Ya da en azından Ağustos 2017’ye kadar, uyarı olmadan Orient News’in YouTube kanalı askıya alınmıştı.

Grubun bazı soruşturmalarından sonra, Bellingcat, Middle East Eye ve Suriye Arşivi de dahil olmak üzere diğer küçük medya kuruluşlarının yanı sıra, bazılarının videolarının kaybolduğunu da gören YouTube’un “aşırılık yanlısı” içeriğe sahip yüzlerce videoyu indirdiği ortaya çıktı.

Ama bu gruplar şaşkındı. Videolarını yıllardır yayınlıyorlardı. Bunlar genellikle altyazılar ve bağlamsal detaylar içeriyordu. Neden aniden YouTube’un büyük kullanıcı tabanı için güvensiz olarak görüldüler?

Çünkü kararları veren yeni bir otorite vardı.

Gizemli kaldırılmadan hemen önce, YouTube, sosyal medyayı (YouTube, Twitter ve şu anda feshedilen Google Plus dahil) kullanan DAEŞ’i ve benzeri grupları yıkmak için “grafik veya aşırılık yanlısı içerikleri” tanımlamak ve sansürlemek için yapay zeka teknolojisinin konuşlandırıldığını duyurdu İnfaz ve savaşçıları işe korkunç görüntüleri.

Savaş suçlarını ve insan hakları ihlallerini belgeleyen binlerce video süpürüldü ve bu yapay zeka destekli tasfiyede sansürlendi. Gruplar YouTube’u hareket hakkında sorguladıktan sonra şirket, birkaç videolarda “yanlış çağrı” yaptığını itiraf etti ve bundan sonra yeniden yayınlandı. Diğerleri “şiddet ve grafik içerik” nedeniyle yasak altında kaldı.

Öz-düzenleme efsanesi

Google (YouTube’un ebeveyni), Facebook ve Twitter gibi şirketlerin, grafik şiddet ve şiddet yanlısı radikal gruplarla ilişkili içerikler söz konusu olduğunda özel önlemler almak için meşru nedenleri vardır. Bu durum gerçek hayatta zarar gören durumlara yol açabilir ve iş için de kötü olabilir. Ancak savaş suçları ve şiddetin temel kanıtlarını koruyarak bu tür içerikleri nasıl tanımlayıp kaldırmaları gerektiği sorusu cevaplanamayacak.

Şirketler, şiddet içerikli içeriklerin şiddeti teşvik etmek veya kışkırtmak için tasarlanmadığını kabul etmek için yıllar içinde politikalarını geliştirmişlerdir. YouTube, diğer platformlar gibi, aşırılık yanlısı veya şiddet içerikli içeriğin çoğuna izin vermemekle birlikte, kullanıcıların bu tür içerikleri “bir haber, belgesel, bilimsel veya sanatsal bağlamda” yayınlamalarına olanak sağlayarak video hakkında bağlamsal bilgi sağlamaya teşvik eder.

Ancak politikada uyarıda bulunuluyor: “Bazı durumlarda içerik o kadar şiddetli veya şok edici olabilir ki hiçbir bağlam miktarı bu içeriğin platformlarımızda kalmasına izin vermez.” YouTube, dahili mekanizmaların hangi videoların “çok şiddetli veya şok edici” olduğunu nasıl belirlediğini açıklayan herkese açık bir bilgi sunmaz.

Suriye Arşivi gibi gruplar videoların bağlamsal ayrıntılarını belgelemek için acı çekiyor. Veritabanındaki bu ekran görüntüsünde video klipler, bir harita, diğer meta veriler ve Şam’daki 2013 sarin gazı saldırısının bir özeti yer alıyor.

Bu yaklaşım, şirketi tehlikeli bir konuma sokar. Kamu tüketimine yönelik içerikleri değerlendiriyor, ancak bu değerlendirmeler hakkında kamu şeffaflığını veya hesap verebilirliğini sağlamak için herhangi bir mekanizma bulunmuyor. Şirket kendi kurallarını yapıyor ve kendi çıkarlarına hizmet etmek için, isteğiyle değiştiriyor.

AB önerisi AI çözümlerini zorunlu hale getirebilir

Avrupa Komisyonu’ndaki bir komite, şirketleri “terör içeriği” kaldırmayı hızlandırmaya veya dik para cezaları ile karşı karşıya kalmaya zorlayacak bir taslak düzenleme ile bu senaryoya müdahale etmekle tehdit ediyor. Önerilen yönetmelik, şirketlerin “kendi kendini düzenlemeyi” denerken ve çoğu zaman başarısız olan döngüsünü kıracak olsa da, Orient News gibi gruplar için işleri daha da kötüleştirebilir.

Komisyonun önerisi ne diyor?

“Terör içeriğinin çevrimiçi yayılmasını önlemeyi” amaçlayan öneriye göre, hizmet sağlayıcılarının “terörist içeriğin yayılmasına karşı hizmetlerini korumak için proaktif tedbirler almaları” gerekiyor. Bunlar, “(a) terörist içerik olarak kabul edildiği için daha önce kaldırılmış veya erişimin devre dışı bırakılmış olan içeriğin yeniden ortaya çıkmasını etkili bir şekilde ele almak; (b) terörist içeriğe erişimi tespit etmek, tanımlamak ve hızlı bir şekilde kaldırmak veya devre dışı bırakmak” için otomatik araçların kullanımını içerir 6 (2) öngörmektedir.

Teklif kabul edilirse, “servis sağlayıcılarının terör içeriğini kaldırmasını veya kaldırma emrinin alınmasından itibaren bir saat içinde ona erişimi devre dışı bırakmasını” da gerektirecektir.

Ayrıca, kolluk kuvvetlerine veya Europal’e, “gönüllü olarak değerlendirilmeleri” için barındırma hizmet sağlayıcılarına “sevk gönderme” yetkisini de verir. Hizmet sağlayıcı, yönlendirilen içeriği “kendi hüküm ve koşullarına göre değerlendirecek ve bu içeriği kaldırıp kaldırmayacağınıza veya ona erişimi devre dışı bırakacağınıza” karar verecektir.

Taslak yönetmeliği, bu tür içeriğin daha agresif bir şekilde silinmesini ve kaldırılmasının hızlı dönüş sürelerini gerektirir. Ancak, karmaşık çevrimiçi içeriği değerlendirmek için mücadele eden şirketlere rehberlik sunabilecek özel bir mahkeme veya diğer yargı mekanizması oluşturmaz.

Bunun yerine, barındırma hizmeti sağlayıcılarını çevrimiçi olarak “terörist içeriğin” yayılmasını önlemek için otomatik araçlar kullanmaya zorlayacaktır. Bu olur gerektirir şirketleri YouTube’un zaten gönüllü olarak yerine koyduğu sistemin türünü kullanmak için.

AB önerisi, kullanıcıların, teknik uzmanların ve hatta yasa koyucuların kendilerinin bu teknolojilerin nasıl çalıştığı konusunda büyük ölçüde karanlıkta kaldıkları gerçeğini göz ardı ederek bu araçlara çok fazla inanç getiriyor.

Yapay zeka, bir videonun insan hakları değerini gerçekten değerlendirebilir mi?

Otomatik araçlar, bir videonun şiddet veya grafik olup olmadığını değerlendirmek için eğitilebilir. Ama videonun amaçlanan amacını nasıl belirliyorlar? Videoyu yayınlayan kişinin insan çatışmanın maliyetini belgelemeye çalışıp çalışmadığını nasıl anlarlar? Bu teknolojiler, bu olayların gerçekleştiği bağlamı gerçekten anlayabiliyor mu? İnsan moderatörleri bu kararlarda ne ölçüde rol oynar?

Bu sorulara neredeyse hiç cevap yok.

“Doğruluk, açıklanabilirlik, adalet ve denetlenebilirlik gibi algoritmik hesap verebilirlik veya şeffaflık konusunda en temel güvenceye sahip değiliz. Platformlar, tescilli ve herhangi bir incelemeden korunan makine öğrenimi algoritmalarını kullanır” dedi.

Önerinin eleştirmenleri, tüm hizmet sağlayıcıları terörist ve aşırılık yanlısı içerikleri, şeffaflık ve uygun gözetim olmaksızın yıkma çabalarında otomatik araçlara güvenmeye zorlamanın ifade özgürlüğü ve açık web için bir tehdit olduğunu savunuyorlar.

BM görüş ve ifade özgürlüğü hakkının tanıtılması ve korunması konusunda özel raportörler; gizlilik hakkı; terörizmle mücadele ederken insan hakları ve temel özgürlüklerin desteklenmesi ve korunması konularında da Komisyon’a kaygılarını dile getirdiler. Aralık 2018’de bir notta şöyle yazdılar:

Birçok barındırma hizmeti sağlayıcısının karşı karşıya olduğu kullanıcı içeriğinin hacmi göz önüne alındığında, çok yüksek bir doğruluk oranına sahip algoritmaların kullanılması bile potansiyel olarak yüz binlerce yanlış kararla sonuçlanır ve bu da dahil olmak üzere tarama sonuçlanır.

Resitali 18’de, öneride barındırma hizmeti sağlayıcılarının terörle ilgili içeriğin yayılmasını önlemek için “terörist içeriğin yeniden yüklenmesini engelleyecek” araçların kullanımı da dahil olmak üzere alabileceği tedbirler yer almaktadır. Yaygın olarak yükleme filtreleri olarak bilinen bu tür araçlar, Avrupa dijital hak grupları için özel bir endişe kaynağıdır. Sorun ilk olarak, AB’nin bir kullanıcı tarafından yüklendiğinde bir içerik parçasının sahipliğini doğrulaması için platformların gerekli olan Telif Hakkı Direktifi yönergesine yönelik baskısı sırasında ortaya çıktı.

Hollanda merkezli dijital haklar örgütü Bits of Freedom tarafından düzenlenen bir toplantıda konuşan Evelyn Austin, “Fonksiyon sürüngeninden korkuyoruz” dedi.

Telif hakkıyla korunan içerik için bir filtre, sözde terörist içerik için bir filtre, muhtemelen müstehcen içerik için bir filtre, şüpheli nefret konuşması için bir filtre ve benzeri olduğu kaçınılmaz bir durum olarak görüyoruz, söylediğimiz her şeyin, hatta çalıştığımız her şeyin dijital bir bilgi ekosistemi yaratıyor diyelim ki, izlenir.

Austin, bu mekanizmaların, gerekli sürecin kullanımına daha fazla dayanan önceki stratejileri alt ettiğini belirtti.

Yükleme filtreleme… hukukun üstünlüğüne bağlı olan, içeriğin bir şirketin hizmet şartlarına göre indirildiği bir süreçle ilgili bildirim ve eylem mekanizmalarının yerini alacaktır. Bu, kullanıcıların ifade özgürlüğü ve yeniden gözden geçirme haklarını yok edecek…

AB önerisi taslağında, uymayan şirketlere sert mali cezalar da uygulanıyor. Tek bir şirket için, bu, bir önceki iş yılındaki küresel cirosunun% 4’üne kadar olabilir.

Fransız dijital haklar grubu La Quadrature du Net teklifin sağlam bir eleştirisini sundu ve daha küçük web siteleri ve hizmetler için belirlediği sınırlamaları kaydetti:

Teknik, ekonomik ve insani bir bakış açısıyla, yalnızca bir avuç sağlayıcı bu titiz yükümlülüklere (çoğunlukla Web devleri) uyabilecek.

Ağır yaptırımlardan kaçmak için, diğer aktörlerin (ekonomik ya da değil) barındırma hizmetlerini kapatmaktan başka seçeneği kalmayacak…

“Bu araçlar sayesinde”, “bu tekelci şirketler internette, neredeyse her hizmette neler söylenebileceğini yargılamakta sorumlu olacaklar.”

Gerçekten de, “öz düzenlemeyi” teşvik etmekten daha kötü olan AB önerisi bizi, ne söylediğimize ve çevrimiçi gördüğümüze karar vermek için gerekli süreç veya diğer kamuya bağlı mekanizmaların kullanıldığı bir dünyadan daha da uzaklaştıracak ve bizi ne tür içeriğin olduğuna karar vermek için tamamen tescilli teknolojilere güvenmeye zorlayacaktır. kamu tüketimi için uygun — kamu gözetimi için hiçbir mekanizma ile.

Kaynak https://globalvoices.org/2019/02/18/eu-proposal-pushes-tech-companies-to-tackle-terrorist-content-with-ai-despite-implications-for-war-crimes-evidence/

Benzer Yazılar
Все анонсы Google на конференции I/O 2021
18 мая Google провела конференцию I/O 2021, ...
Teknoloji
3 ay önce
Netflix выпустил трейлер мультсериала по Resident Evil
Видеостриминговый сервис Netflix опубликовал трейлер мультипликационного сериала ...
Teknoloji
3 ay önce
Lamborghini выпустит электромобиль после 2025 года
Итальянский производитель суперкаров — компания Lamborghini анонсировала ...
Teknoloji
4 ay önce
В Google Photos появились поисковые фильтры
В сервисе Google Photos появилась кнопка, предназначенная ...
Teknoloji
4 ay önce