Dampak Psikologis dan Sosial bagi Korban
Bagi kedua pria yang menjadi korban salah tangkap ini, hukuman yang mereka terima bukan hanya sekadar hilangnya kebebasan fisik. Penjara selama berbulan-bulan telah menghancurkan reputasi mereka di mata masyarakat, merusak hubungan profesional, dan meninggalkan bekas luka mental yang sulit disembuhkan.
Dalam era digital, di mana jejak digital sangat mudah tersebar, stigma sebagai "mantan narapidana" tetap melekat meskipun mereka telah dinyatakan tidak bersalah melalui proses hukum lanjutan. Hal ini menunjukkan bahwa kesalahan teknologi tidak hanya berhenti saat seseorang dibebaskan, tetapi terus berlanjut dalam bentuk kerugian sosial yang permanen.
Polemik Etika dan Ancaman terhadap Hak Asasi Manusia
Munculnya kasus ini memicu perdebatan panas di kalangan aktivis hak asasi manusia dan pakar hukum mengenai legalitas penggunaan pengenalan wajah secara massal. Banyak pihak berpendapat bahwa penggunaan AI dalam penegakan hukum tanpa regulasi yang ketat adalah bentuk pelanggaran terhadap hak privasi dan asas praduga tak bersalah.
Kritik utama tertuju pada konsep "Black Box AI", di mana proses pengambilan keputusan oleh algoritma tidak transparan dan tidak dapat dijelaskan secara logis kepada publik maupun hakim. Jika seorang polisi tidak dapat menjelaskan *mengapa* mesin menunjuk seseorang sebagai tersangka, maka dasar hukum penangkapan tersebut menjadi sangat rapuh.
Selain itu, terdapat kekhawatiran mengenai diskriminasi sistemik. Berbagai studi menunjukkan bahwa teknologi pengenalan wajah memiliki tingkat kesalahan yang jauh lebih tinggi pada orang dengan warna kulit lebih gelap dibandingkan dengan orang berkulit putih. Jika teknologi ini terus digunakan tanpa perbaikan, maka kelompok minoritas akan terus menjadi sasaran empuk dari ketidakadilan teknologi.
Perlunya Regulasi Ketat dan "Human-in-the-Loop"
Menanggapi eskalasi masalah ini, para pakar teknologi dan hukum mendesak pemerintah untuk segera menyusun kerangka regulasi yang komprehensif. Salah satu solusi yang paling sering digaungkan adalah penerapan prinsip "Human-in-the-Loop".
Prinsip ini menekankan bahwa teknologi AI tidak boleh dijadikan penentu tunggal dalam pengambilan keputusan hukum yang berdampak pada nyawa atau kebebasan seseorang. AI seharusnya hanya berfungsi sebagai alat pendukung (decision support system), sementara keputusan akhir untuk melakukan penangkapan atau penuntutan harus tetap berada di tangan manusia yang memiliki penilaian moral, empati, dan kemampuan analisis kontekstual.
Langkah-langkah yang diusulkan oleh para ahli meliputi:
