Yüz Tanıma Her Yerde Yayılıyor

Yüz tanıma teknolojisi (FRT) 60 yıl öncesine dayanıyor. On yıl kadar önce, derin öğrenme yöntemleri bu teknolojiyi daha kullanışlı ve tehditkar bir alana taşıdı. Şimdi, perakendeciler, komşularınız ve kolluk kuvvetleri, yüzünüzü depoluyor ve yaşamınıza dair parçalı bir fotoğraf albümü oluşturuyor. Ancak bu fotoğrafların anlatabileceği hikaye kaçınılmaz olarak hatalar içeriyor. FRT üreticileri, herhangi bir tanı teknolojisinin üreticileri gibi, iki tür hata arasında denge kurmak zorundadır: yanlış pozitifler ve yanlış negatifler. Üç olası sonuç vardır. a) Yazılıma göre, iki görüntü aynı kişiye ait olduğundan şüpheliyi tanımlar. Başarı! b) Görüntülerdeki başka bir kişiyi şüphelinin görüntüsüyle eşleştirir. Dikkatsiz bir doğrulama ile birlikte bir yanlış pozitif, yanlış bir kişiyi hapse atabilir ve gerçek suçlunun adaletten kaçmasına neden olabilir. c) Hiçbir eşleşme bulamaz. Şüpheli kameraların görüş alanından kaçıyor olabilir, ancak kameralar sadece düşük ışıkta veya kötü açılarda görüntüler sağlıyorsa, bu bir yanlış negatif oluşturur. Bu tür bir hata, bir şüphelinin serbest kalmasına neden olabilir ve adam avının maliyetini artırabilir. En iyi senaryolarda - örneğin, birinin pasaport fotoğrafını bir sınır görevlisinin çektiği bir fotoğrafla karşılaştırmak gibi - yanlış negatif oranları yaklaşık 1.000'de 2 civarındadır ve yanlış pozitifler 1 milyonda birden azdır. Eğer nadir bir durumda bu yanlış negatiflerden biriyseniz, bir sınır görevlisi sizden pasaportunuzu göstermenizi isteyebilir ve yüzünüze ikinci bir bakış atabilir. Ancak insanlar teknolojiden daha fazlasını talep ettikçe, daha iddialı uygulamalar daha yıkıcı hatalara yol açabilir. Diyelim ki polis bir şüpheliyi arıyor ve güvenlik kamerasıyla çekilen bir görüntüyü şüphelinin daha önceki bir "mug shot" görüntüsüyle karşılaştırıyor. Eğitim verisi bileşimi, sensörlerin yüzleri algılama şekillerindeki farklılıklar ve yaş gibi gruplar arasındaki içsel farklılıklar, bir algoritmanın performansını etkiler. Birleşik Krallık, FRT'nin bazı grupları, örneğin kadınlar ve daha koyu tenli insanlar, yanlış tanımlama riskine maruz bıraktığını, bunun da diğerlerine göre iki kat daha fazla olduğunu tahmin etti. Daha az net fotoğraflar, FRT'nin işlenmesi için daha zorlayıcıdır. İşbirliği yapmayan kişilerin fotoğrafları, önyargılı veri setleri üzerinde algoritmalar eğiten satıcılar veya büyük bir veri setinden hızlı bir eşleşme talep eden saha ajanları ile ne olur? Burada işler belirsizleşiyor. Yüz Tanıma Hataları YANLIŞ POZİTİFLERİN OLUMSUZ ETKİLERİ 2020: Robert Williams'ın haksız tutuklanması ona gözaltı maliyetine mal oldu. Devam eden anlaşma, Detroit polisinin FRT'nin sınırlarını tanıyan politikalar uygulamasını gerektiriyor. ALGORİTMİK ÖNYARGI 2023: Mahkeme, ırkçı bir önyargılı algoritma kullandığı için Rite Aid'in yüz tanımayı beş yıl boyunca kullanmasını yasakladı. ÇOK HIZLI, ÇOK ÖFKE? 2026: ABD göçmenlik ajanları, gözaltına aldıkları bir kadını iki farklı kadın olarak yanlış tanımlıyor. Örneğin, 10.000 kayıtlı katılımcının görüntülerinin bulunduğu bir veritabanıyla katılımcıları kontrol etmek için FRT kullanan yoğun bir ticaret fuarını düşünün. %99.9 doğrulukta bile, yaklaşık bir düzine yanlış pozitif veya negatif alırsınız; bu, fuar organizatörleri için bir takas değeri taşıyabilir. Ancak polis, 1 milyon insanın yaşadığı bir şehirde böyle bir şeyi kullanmaya başlarsa, yanlış kimlik kurbanlarının sayısı artar ve riskler de yükselir. FRT'den, hükümetin belirli bir kişinin görüntüsünü kaydedip kaydetmediğini söylemesini istersek ne olur? ABD Göçmenlik ve Gümrük İdaresi ajanları, Haziran 2025'ten bu yana Mobile Fortify uygulamasını kullanarak bunu yapıyor. Ajans, ilk altı ayda 100.000'den fazla FRT araması gerçekleştirdi. Potansiyel galeri en az 1.2 milyar görüntüden oluşuyor. Bu boyutta, en iyi durum senaryolarında bile sistemin yaklaşık 1 milyon yanlış eşleşme döndürmesi muhtemeldir, ancak daha koyu tenli insanlar için bu oran en az 10 kat daha yüksek olabilir. Bu güçlü teknolojinin sorumlu kullanımı, bağımsız kimlik kontrolleri, birden fazla veri kaynağı ve hata eşiklerinin net bir şekilde anlaşılmasını içermelidir, diyor Massachusetts Amherst Üniversitesi'nden bilgisayar bilimcisi Erik Learned-Miller: "Bu tür sistemleri devreye al