ICE, CBP Tahu Aplikasi Pengenalan Wajah Tidak Dapat Melakukan Apa yang Dikatakan DHS

ICE, CBP Tahu Aplikasi Pengenalan Wajah Tidak Dapat Melakukan Apa yang Dikatakan DHS

Dokumen internal mengungkapkan bahwa Imigrasi dan Penegakan Bea Cukai AS (ICE) dan Bea Cukai dan Perlindungan Perbatasan (CBP) menyadari bahwa aplikasi pengenalan wajah yang kontroversial gagal memenuhi tolok ukur kinerja yang dipromosikan secara publik oleh Departemen Keamanan Dalam Negeri (DHS). Kesenjangan akuntabilitas yang semakin besar antara apa yang diklaim lembaga pemerintah tentang teknologi pengawasan dan apa yang sebenarnya ditunjukkan oleh catatan internal menimbulkan pertanyaan kritis tentang transparansi, etika pengadaan, dan batasan nyata dari sistem identifikasi yang didukung AI.

Apa yang Sebenarnya Diketahui ICE dan CBP Tentang Aplikasi Pengenalan Wajah?

Berdasarkan temuan investigasi dan komunikasi internal yang diperoleh melalui permintaan catatan publik, pejabat di ICE dan CBP menerima penilaian yang menunjukkan bahwa sistem pengenalan wajah jauh dari tingkat akurasi yang diiklankan – terutama bila diterapkan pada individu dengan warna kulit lebih gelap, wanita, dan subjek yang lebih tua. Terlepas dari temuan ini, lembaga-lembaga tersebut terus meluncurkan teknologi tersebut di seluruh operasi perbatasan dan alur kerja penegakan imigrasi.

Putusnya hubungan sangat mencolok. DHS secara terbuka mempromosikan alat ini sebagai solusi verifikasi identitas yang andal dan berakurasi tinggi. Namun, secara internal, para agen mencatat tingkat kesalahan dan kegagalan yang dapat mendiskualifikasi perangkat lunak tersebut berdasarkan standar pengadaan yang ketat. Namun penerapannya terus berlanjut, sehingga menimbulkan pertanyaan serius tentang akuntabilitas institusional dan terburu-buru dalam mengadopsi alat AI tanpa pemeriksaan yang memadai.

Mengapa Akurasi Pengenalan Wajah Penting dalam Konteks Penegakan Hukum?

Kesalahan pengenalan wajah di aplikasi konsumen merupakan ketidaknyamanan. Dalam konteks penegakan hukum dan penegakan imigrasi, hal ini dapat berarti penahanan yang salah, kesalahan identifikasi, atau pelanggaran hak-hak sipil dengan konsekuensi yang mengubah hidup. Pertaruhannya sangat besar, itulah sebabnya keterbatasan yang diketahui dari sistem ini membuat penggunaannya menjadi sangat mengkhawatirkan.

Hasil positif palsu dapat mengakibatkan individu yang tidak bersalah ditandai, ditahan, atau diinterogasi secara invasif berdasarkan pencocokan algoritmik yang cacat.

Bias demografis dalam kumpulan data pelatihan menyebabkan kesalahan identifikasi yang tidak proporsional terhadap Kulit Hitam, Pribumi, dan Kulit Berwarna — sebuah mode kegagalan yang terdokumentasi dengan baik dalam sistem pengenalan wajah komersial.

Kurangnya audit independen memungkinkan vendor untuk melakukan sertifikasi mandiri terhadap klaim keakuratan dengan sedikit verifikasi eksternal sebelum lembaga mengadopsi alat tersebut dalam skala besar.

Ketidakjelasan dalam penerapan berarti individu yang terkena dampak jarang mengetahui bahwa mereka disaring oleh sistem algoritmik, apalagi sistem tersebut mengetahui keterbatasan akurasi.

Kerangka pengawasan yang lemah menyebabkan hanya sedikit mekanisme hukum yang dapat menantang keputusan yang dibuat – bahkan sebagian – berdasarkan teknologi biometrik.

“Teknologi yang paling berbahaya bukanlah teknologi yang gagal secara nyata – melainkan teknologi yang diketahui oleh lembaga-lembaga tersebut telah gagal, namun tetap diterapkan karena insentif politik atau operasional untuk bertindak lebih besar daripada kewajiban untuk bersikap akurat.”

Bagaimana Hal Ini Mengungkap Masalah Yang Lebih Dalam Dalam Pengadaan AI Pemerintah?

Kasus pengenalan wajah ICE dan CBP bukanlah satu-satunya kegagalan — ini merupakan gejala disfungsi sistemik dalam cara lembaga pemerintah mengevaluasi, mengadakan, dan menerapkan alat yang didukung AI. Vendor sering kali membuat klaim yang ambisius selama proses penjualan, agensi tidak memiliki kapasitas teknis internal untuk memverifikasi klaim tersebut secara independen, dan begitu kontrak ditandatangani, kelambanan organisasi menghambat penilaian ulang yang jujur ​​bahkan ketika data kinerja menunjukkan hal yang berbeda.

Pola ini diperburuk oleh sifat rahasia atau semi-rahasia dari banyak penerapan teknologi penegakan hukum, yang membatasi kemampuan jurnalis, organisasi kebebasan sipil, dan masyarakat untuk meneliti bagaimana kinerja alat-alat ini di lapangan. Transparansi bukan hanya sekedar kemudahan birokrasi dalam konteks ini

Related Posts

• CXMT telah menawarkan chip DDR4 dengan harga sekitar setengah dari harga pasar yang berlaku
• Apa yang harus diketahui oleh setiap penulis kompiler tentang programmer (2015) [pdf]
• Pengembaraan Kriptografi DJB: Dari Code Hero hingga Standards Gadfly
• Saya memberi Claude akses ke plotter pena saya