Kasus salah tangkap akibat penggunaan teknologi pengenalan wajah berbasis kecerdasan buatan (AI) kembali mencuat di Amerika Serikat. Sejumlah warga yang tidak bersalah harus mendekam di balik jeruji besi akibat ketidakakuratan algoritma yang diandalkan oleh aparat kepolisian dalam proses identifikasi pelaku kejahatan.

Salah satu korban, Jalil Richardson, warga Charlotte, harus kehilangan kebebasannya selama lebih dari 50 hari setelah sistem AI keliru mengidentifikasi dirinya sebagai pelaku pencurian kendaraan. Meski Richardson memiliki alibi kuat bahwa ia sedang bekerja ratusan kilometer dari lokasi kejadian, pihak kepolisian tetap melakukan penahanan dengan mengandalkan tingkat kecocokan 85 persen dari sistem tersebut. Dampak dari kesalahan fatal ini tidak main-main; Richardson kehilangan pekerjaan, tempat tinggal, hingga hak asuh atas anak-anaknya.

Kejadian serupa menimpa Robert Dillon, seorang pria berusia 52 tahun yang sempat dituduh melakukan tindakan tidak terpuji terhadap anak di bawah umur. Algoritma bernama Faces yang dioperasikan pihak berwenang memberikan angka kecocokan sebesar 93 persen terhadap Dillon. Padahal, data pembaca pelat nomor kendaraan menunjukkan bahwa ia tidak pernah berada di lokasi kejadian. Akibat minimnya verifikasi manual oleh petugas, Dillon kini menempuh jalur hukum dengan menggugat lembaga kepolisian terkait.

Kritik tajam datang dari berbagai pihak, termasuk organisasi pengawas privasi. Adam Schwartz, Direktur Litigasi Privasi di Electronic Frontier Foundation (EFF), mencatat bahwa kasus Richardson menambah panjang daftar salah tangkap akibat AI yang mayoritas menimpa warga kulit hitam. Hal ini memicu perdebatan mengenai potensi bias sistemik dalam teknologi pengenalan wajah.

Di tengah masifnya penggunaan AI dalam penegakan hukum, investigasi menunjukkan bahwa regulasi dan pengawasan terhadap teknologi ini masih sangat tertinggal dibandingkan dengan kecepatan perkembangannya. Minimnya verifikasi manusia terhadap hasil output mesin kini menjadi sorotan utama, yang menuntut adanya evaluasi ketat agar keadilan bagi masyarakat tetap terjaga di era digital.