Siyah Lives Matter yüz tanıma bir IBM U dönüşünü zorlar

6 ay önce Teknoloji
Bu yazıyı 8 dakikada okuyabilirsiniz
Yüz tanıma teknolojisi bireylerin tanımlanmasına izin vermek için yüzlerin yapısını analiz eder.
Facial recognition technology analyses the structure of faces to allow identification of individuals.

Yüz tanıma teknolojisi bireylerin tanımlanmasına izin vermek için yüzlerin yapısını analiz eder. İzinli olarak kullanılan resim. Kaynak: Pikrepo

Son ortasında Siyah Yaşamlar Önemlidir ABD’de ve başka yerlerde polislik ve ırkçılık hakkında sorular gündeme gelen protestoları, teknoloji şirketi IBM genel amaçlı yüz tanıma pazarından çekildiğini açıkladı. Bu, güvenlik hizmetleri tarafından dezavantajlarla dolu bu tür teknolojilerin kullanımında bir dönüm noktası olabilir mi?

Haberler neredeyse fark edilmeden gitti.

Hikayenin bir tarafında, bungled COVID-19 sağlık krizi yatıyor. Öte yandan, protestolar ve öfke şok edici polis şiddeti tarafından ateşlendi, Bu canlandırdı Siyah Yaşamlar Önemlidir Dünya çapında hareket. İkisi arasında yakalanan IBM, 8 Haziran’da yüz tanıma yazılımının pazarlanmasından vazgeçme kararını, protesto eylemleriyle etik tüzüğünü onurlandırmaya yönlendirdiğini açıkladı.

Şirketin CEO’su Arving Krishna, “Teknoloji şeffaflığı artırabilir ve polisin toplulukları korumasına yardımcı olabilir, ancak ayrımcılığı veya ırksal adaletsizliği teşvik etmemelidir” dedi.

Duyuru, birkaç siyasi ekonomi analisti, teknofiler ve aktivist dışında çok az tepki verdi. Yine de teknolojinin hayatımıza uyguladığı etkinin büyük değişimlerine işaret edebilir.

Tartışmalı bir teknoloji

Yüz tanıma yazılımı, bireylerin fotoğraflardan veya videolardan otomatik olarak tanımlanmasına izin verir. Bunu başarmak için iki direğe dayanır: önceden kaydedilmiş görüntülerin referans veri kümesi ve büyük işleme kapasitesi. Her ikisi de Büyük Veri ve Yapay Zeka (AI) alanındaki yenilikler sayesinde son zamanlarda olağanüstü ilerleme gören alanlardır. Ölçeklendirme yüz tanıma kitlesel böylece bir olasılık haline gelmiştir.

Birkaç yıl boyunca, örnekler dünya çapında mantar haline geldi. Şubat 2005’e kadar Los Angeles polis departmanı General Electric ve Hamilton Pacific tarafından geliştirilen bir sistemi kullanıyordu. O zamandan beri genelleştirilmiş ve hızlandırılmış bir uygulama. 2019’da Çin’in topraklarında toplam 200 milyon video gözetim kamerası vardı. Rusya’da daha da yoğun bir ağ hazırlık aşamasındadır. Şu anda teknolojiyi test eden Nice gibi şehirlerin girişimlerinden bahsetmiyorum bile, ya da kameraların, yetkililer tarafından aranan insanların yerini tespit etmek amacıyla yoldan geçenlerin yüzlerini analiz ettiği Londra.

Yetkililer güvenlik zorlukları tarafından böyle otomatik gözetim haklı: 2016 yılı sonlarında, Uluslararası Ceza Örgütü, Interpol, “650 suçluları, kaçakları, ilgi veya kayıp kişiler […]” tanımlanmasını iddia etti. Her şey suçluluk, terörizm ya da daha yakın zamanda koronavirüsün yayılmasına karşı mücadele adına yapılır.

Ama diğer gelişmiş teknolojilerde olduğu gibi yüz tanıma da iki taraflı bir kılıçtır. Getiren ilerlemeye, özellikle sivil özgürlüklere yönelik tehditler eşlik ediyor.

Birçok dijital hak kuruluşu, kamuoyunu yüz tanıma ile sağlanan potansiyel tehditler ve istismarlar konusunda uyarmaktadır. Bunların arasında Elektronik Sınır Vakfı (EFF) ve La Quadrature du Net. İkincisi, Fransa’daki otomatik gözetim planlarını günlüğe kaydeden ve ifşa eden ve sistematik direniş çağrısında bulunan Technopolice [fr] adlı bir kampanyayı koordine ediyor.

Sınırlı güvenilirlik

Yüz tanıma araçlarını kullanmanın en belirgin zararı önyargıdır. Bu araçlar, örnek verilere maruz kalmaya dayalı kişileri tanımlar ve doğrular: sözde eğitim veri setleri . Bunlar eksik veya alaka düzeyi eksikse, araç kötü yorumlarda bulunacaktır. Buna öğrenme önyargısı denir.

Geçtiğimiz ay bu tür önyargıları göstermek için Twitter kullanıcıları pikselli görüntülerden portreleri yeniden yapılandıran bir yapay zekayı test ettiler ve anormal sonuçlarını çevrimiçi olarak yayınladılar. Barack Obama ve Alexandria Ocasio-Cortez gibi Afro-Amerikan veya İspanyol konularında önemli ölçüde daha fazla başarısızlık vardı. Neredeyse sadece beyaz insanların portrelerinden oluşan veri kümesi, rekonstrüksiyonları en muhtemel tipik profiller yönünde yanlış bir şekilde dürttü.

Görüntüleri geliştirmek yerine yapay zeka kullanırken analitik süreç muhtemelen benzer bir önyargı gösterecektir.

Diyelim ki bir kişinin tehlikeliğini, suç riskini yaş, ikamet yeri, ten rengi, en yüksek derece gibi parametrelere göre değerlendirmeye karar verdiniz ve yazılımınızı eğitmek için gözaltı merkezleri, hapishaneler tarafından sağlanan verileri kullandınız.

Daha sonra, yazılımınızın beyaz insanlar için riskleri büyük ölçüde en aza indirmesi ve başkaları için arttırması muhtemeldir.

Yaş, ev adresi, ten rengi, en yüksek akademik yeterlilik gibi parametrelere dayanarak bir kişinin suçluluk riskinin seviyesini değerlendirmeye karar verdiğinizi varsayalım… ve yazılımınızı eğitmek için gözaltı merkezleri veya hapishaneler tarafından sağlanan verileri kullandığınızı varsayalım.
O zaman yazılımınızın beyazlar için riskleri ciddi şekilde küçümsemesi ve başkaları için yükselteceği muhtemeldir.
Kaynak: https://intelligence-artificielle.agency/les-biais/ [fr]

Gerçekler kendi adına konuşur. Londra’da gerçek zamanlı yüz tanıma oranı%81 hata oranını gösterir; Detroit’te, Afrikalı-Amerikalı bir adam hatalı bir kimlik tespiti nedeniyle haksız tutuklanmasından bahsetti.

İhtilaflı Meşruiyet

Yüz tanıma yanılabilir değil, 2016 yılında ProPublica araştırma sitesi tarafından yapılan bir soruşturma ile teyit edildiği gibi ayrımcılığı kötüleştirir.

Google Fotoğraflar iki Afrikalı Amerikalıyı “goriller” olarak etiketledi […] Amazon dezavantajlı kadınlar tarafından kullanılan bir işe alım yardımı aracı

Kaynak: “IA: la keşif faciale est-elle raciste? ” Turuncu Dijital Toplum Forumu [fr]

Bkz
Polis kuvvetleri için, genellikle ayrımcılık suçlamalarının amacı, yüz tanıma ekstra, son derece yanıcı bir unsurdur.

George Floyd’un 25 Mayıs’ta Minneapolis’te meydana gelen polis şiddeti olayında ölümü, başlangıçta Amerika Birleşik Devletleri’nde ve daha sonra tüm dünyada bir gösteri dalgasına yol açtı. Etnik azınlıkları hedef alan ayrımcılığı kınamaya başladılar. Ancak şiddetin artması göstericilerin kolluk kuvvetlerinin askerden arındırılmasını talep etmesine yol açarak, “Polisin fonunu iptal “sloganını haykırdı. Uzatma gereği, yaygın gözetim araçları da bunları sağlayan özel şirketlerin yanı sıra inceleme altına girmiştir. Yani, şimdi, Black Lives Matter aktivistlerinin baskısı altında, IBM şirketi yüz tanıma pazarından kısmi çekildiğini açıkladı.

Big Blue [IBM’in takma adı] tepki veren ilk kişi olması tesadüf değildir. Firmanın uzun, bazen utanç verici bir geçmişi var, ki bununla anlaşmayı öğrenmesi gerekiyordu. 1934’te Alman yan kuruluşu aracılığıyla Nazi rejimi ile işbirliği yaptı. Çok daha sonra, 2013’te, muhbir Edward Snowden tarafından ortaya çıkan PRISM gözetim programına karıştılar. Belki de bu nedenle, güvenlik odaklı bir devlet ile insan hakları aktivistleri arasındaki mevcut çatışmadaki rolünü inceltmeyi başarmıştır. Elbette, IBM’in stratejisi için çok daha rasyonel bir argüman ortaya çıkabilir, kendisini gelecekteki yargı işlemlerinden ve mali maliyetlerinden korumak için istekli.

Bununla birlikte, faaliyetinin yeniden yönlendirilmesi yeterince gerçek ve diğer endüstri devleri tarafından takip edilen bir girişime yol açtı. Microsoft, 12 Haziran’da yüz tanıma teknolojisini polis teşkilatlarına satmayı reddedeceğini açıkladı; Amazon, akran baskısı altında, Rekognition aracı.

Reform yolunda bir adım mı?

Kanuni bir çerçeveye duyduğu ihtiyaç belli oldu. IBM CEO’su Arvind Krishna, yaptığı açıklamada ABD Kongresi’ni “yüz tanıma teknolojilerinin kolluk kuvvetleri tarafından kullanılıp kullanılmayacağını ve nasıl kullanılacağını görmek için ulusal bir diyalog başlatmaya “çağırdı.

Bu arama duyuldu. Kongre üyeleri 25 Haziran’da polis tarafından yüz tanıma kullanımını yasaklayan bir yasa tasarısı tanıttı. Bir gün önce, yasak Boston şehrinde Kent Konseyi tarafından onaylandı.

Şüphesiz bu, vatandaşların saygılı bir prosedüre yüz tanıma kullanımını bağlamak için uzun bir siyasi ve yasal savaşın sadece başlangıcı. Fakat ilk kez, insan hakları savunma hareketleri Big Tech şirketlerini ve politik kuruluşu etkilemek için, herkes için karlı bir teknolojinin ortak arzusu doğrultusunda görünüyor.

Kaynak https://globalvoices.org/2020/07/21/black-lives-matter-forces-an-ibm-u-turn-on-facial-recognition/

Benzer Yazılar
Все анонсы Google на конференции I/O 2021
18 мая Google провела конференцию I/O 2021, ...
Teknoloji
3 ay önce
Netflix выпустил трейлер мультсериала по Resident Evil
Видеостриминговый сервис Netflix опубликовал трейлер мультипликационного сериала ...
Teknoloji
3 ay önce
Lamborghini выпустит электромобиль после 2025 года
Итальянский производитель суперкаров — компания Lamborghini анонсировала ...
Teknoloji
4 ay önce
В Google Photos появились поисковые фильтры
В сервисе Google Photos появилась кнопка, предназначенная ...
Teknoloji
4 ay önce