Yüz tanıma sistemindeki bir hata nedeniyle bir adam tutuklandı ve hapse atıldı

Polisin suçları daha hızlı ve daha doğru bir şekilde çözmesine yardımcı olması gereken yapay zekâ, giderek daha sık şekilde yıkılmış hayatların nedeni hâline geliyor. ABD’den gelen bir başka ses getiren vaka, şu soruyu yeniden gündeme taşıdı: Bir insanın özgürlüğü söz konusuyken yüz tanıma sistemlerine güvenilebilir mi?

“Benzer yüz” nedeniyle 50 gün hapiste

Kuzey Karolina sakini Jalil Richardson, yüz tanıma sistemi onu Florida’daki bir araç hırsızlığı şüphelisiyle yanlış şekilde eşleştirdikten sonra 50 günden fazla süre hapiste kaldı.

Algoritma, güvenlik kamerası görüntüsü üzerinden yaklaşık yüzde 85 oranında eşleşme verdi. Bu, polisin tutuklama işlemi yapması için yeterli oldu. Temel sorun, soruşturmanın aslında önce alibiyi doğrulamak yerine AI sonucuna ana delil olarak dayanmış olmasıydı.

Daha sonra, suç işlendiği sırada adamın olay yerinden yüzlerce kilometre uzakta olduğu ve işinde çalıştığı ortaya çıktı. Ancak o zamana kadar çoktan yaklaşık iki ayını gözaltında geçirmişti.

Tekil bir olay değil, bir sistem sorunu

Richardson’ın hikâyesi istisna değil. Gazeteciler ve insan hakları savunucuları, bunun ABD’de yüz tanıma sistemlerindeki yanlış eşleşme nedeniyle insanların tutuklandığı ya da suçlandığı bilinen en az 14–15 vakadan biri olduğuna dikkat çekiyor.

Benzer dosyalarda algoritmalar “yüksek eşleşme oranı” verdi — yüzde 85, 90 ve hatta “neredeyse yüzde 100” — ve bunun ardından polis bu verileri gözaltı için dayanak olarak kullandı.

Birçok vakada soruşturmacılar, kişinin bulunduğu yeri, çalışma saatlerini veya diğer nesnel kanıtları gibi temel bilgileri kontrol etmedi.

Hayatları yıkan hata nasıl oluşuyor?

Sorun yalnızca teknolojide değil, onun nasıl kullanıldığında da yatıyor.

Uzmanlar birkaç temel faktöre dikkat çekiyor:

gözetim kameralarından alınan görüntülerin düşük kalitesi

eksik veya önyargılı verilerle eğitilmiş algoritmalar

farklı etnik gruplardaki yüzleri ayırt ederken yüksek hata olasılığı

polisin “eşleşme yüzdesine” aşırı güvenmesi

Araştırmalar, bu tür sistemlerin belirli nüfus gruplarıyla çalışırken çok daha sık hata yapabildiğini gösteriyor; bu da haksız tutuklama riskini artırıyor.

Sonuçlar: yıkılmış hayatlar

Suçlamalar düşürüldükten sonra bile mağdurlar için sonuçlar ciddi olmaya devam ediyor:

— iş ve gelir kaybı

— itibarın zedelenmesi

— psikolojik travma

— ceza adaleti sistemi içinde uzun süre kalma

Bazı durumlarda insanlar, masumiyetlerini kanıtlayana kadar haftalarca ve aylarca parmaklıklar ardında kaldı.

İnsan hakları savunucuları sınırlama talep ediyor

American Civil Liberties Union (ACLU) ve diğer kuruluşlar, sıkı sınırlamalar olmadan AI kullanımının vatandaşların temel haklarını ihlal ettiğini savunarak polis ve yetkililere karşı bir dizi dava açtı.

Avukatlar, teknolojinin yalnızca yardımcı bir araç olarak kullanılabileceğini, ancak tutuklama için dayanak olamayacağını vurguluyor.

ABD’nin bazı eyaletleri, ek delil olmaksızın kolluk kuvvetleri amaçlarıyla yüz tanıma kullanımına yönelik sınırlamalar veya yasaklar getirmeye başladı bile.

Asıl soru teknoloji değil, güven

Jalil Richardson’ın hikâyesi bir kez daha şu uyarıyı verdi: En gelişmiş algoritmalar bile kapsamlı bir soruşturmanın yerini tutamaz.

Ve kolluk kuvvetleri AI’yi “neredeyse delil” olarak görmeye devam ettiği sürece, yeni hataların riski yüksek kalmaya devam edecek — bu hataların bedeli ise insan hayatıyla ödeniyor.