ICE, CBP Tahu Apl Pengecaman Wajah Tidak Dapat Melakukan Apa yang DHS Katakan Ia Boleh

ICE, CBP Tahu Apl Pengecaman Wajah Tidak Dapat Melakukan Apa yang DHS Katakan Ia Boleh

Dokumen dalaman mendedahkan bahawa kedua-dua Imigresen dan Penguatkuasaan Kastam (ICE) dan Kastam dan Perlindungan Sempadan (CBP) A.S. menyedari bahawa aplikasi pengecaman muka yang kontroversi gagal memenuhi penanda aras prestasi yang dipromosikan secara terbuka oleh Jabatan Keselamatan Dalam Negeri (DHS). Jurang akauntabiliti yang semakin meningkat antara perkara yang didakwa oleh agensi kerajaan tentang teknologi pengawasan dan apa yang sebenarnya ditunjukkan oleh rekod dalaman menimbulkan persoalan kritikal tentang ketelusan, etika perolehan dan had dunia sebenar sistem pengenalan dikuasakan AI.

Apakah ICE dan CBP Sebenarnya Tahu Mengenai Aplikasi Pengecaman Muka?

Menurut penemuan penyiasatan dan komunikasi dalaman yang diperoleh melalui permintaan rekod awam, pegawai di ICE dan CBP menerima penilaian yang menunjukkan sistem pengecaman muka jatuh jauh daripada kadar ketepatan yang diiklankan — terutamanya apabila digunakan pada individu yang mempunyai warna kulit yang lebih gelap, wanita dan subjek yang lebih tua. Walaupun penemuan ini, agensi terus melancarkan teknologi merentasi operasi sempadan dan aliran kerja penguatkuasaan imigresen.

Putus sambungan adalah nyata. DHS secara terbuka mempromosikan alat itu sebagai penyelesaian yang boleh dipercayai dan ketepatan tinggi untuk pengesahan identiti. Walau bagaimanapun, secara dalaman, ejen mencatatkan kadar ralat dan kegagalan kes tepi yang akan membatalkan kelayakan perisian di bawah mana-mana piawaian perolehan yang ketat. Penggunaan berterusan tanpa mengira, menimbulkan persoalan serius tentang akauntabiliti institusi dan tergesa-gesa untuk menggunakan alat AI tanpa tapisan yang mencukupi.

Mengapakah Ketepatan Pengecaman Wajah Penting dalam Konteks Penguatkuasaan Undang-undang?

Ralat pengecaman muka dalam apl pengguna adalah menyusahkan. Dalam konteks penguatkuasaan undang-undang dan penguatkuasaan imigresen, ini boleh bermaksud penahanan yang salah, salah kenal pasti atau pelanggaran hak sivil dengan akibat yang mengubah kehidupan. Pertaruhan tidak boleh lebih tinggi, itulah sebabnya batasan sistem ini yang diketahui menjadikan penggunaannya yang berterusan begitu membimbangkan.

Positif palsu boleh mengakibatkan individu yang tidak bersalah dibenderakan, ditahan atau dikenakan soal siasat invasif berdasarkan padanan algoritma yang cacat.

Kecondongan demografi dalam set data latihan menyebabkan kesilapan pengecaman yang tidak seimbang bagi Hitam, Orang Asli dan Orang Berwarna — mod kegagalan yang didokumentasikan dengan baik dalam sistem pengecaman muka komersial.

Kekurangan pengauditan bebas membolehkan vendor memperakui sendiri tuntutan ketepatan dengan sedikit pengesahan luaran sebelum agensi mengguna pakai alat secara berskala.

Kelegapan dalam penggunaan bermakna individu yang terjejas jarang mengetahui bahawa mereka telah disaring oleh sistem algoritma, apatah lagi sistem itu telah mengetahui had ketepatan.

Rangka kerja pengawasan yang lemah meninggalkan beberapa mekanisme undang-undang untuk keputusan mencabar yang dibuat — malah sebahagiannya — berdasarkan teknologi biometrik.

"Teknologi yang paling berbahaya bukanlah jenis yang gagal secara nyata - ia adalah jenis yang diketahui oleh agensi gagal, tetapi tetap digunakan kerana insentif politik atau operasi untuk bertindak melebihi kewajipan untuk menjadi tepat."

Bagaimanakah Ini Mendedahkan Masalah Yang Lebih Dalam Dengan Perolehan AI Kerajaan?

Kes pengecaman muka ICE dan CBP bukanlah kegagalan terpencil — ia adalah gejala disfungsi sistemik dalam cara agensi kerajaan menilai, memperoleh dan menggunakan alatan berkuasa AI. Vendor sering membuat tuntutan bercita-cita tinggi semasa proses jualan, agensi tidak mempunyai kapasiti teknikal dalaman untuk mengesahkan tuntutan tersebut secara bebas, dan setelah kontrak ditandatangani, inersia organisasi tidak menggalakkan penilaian semula yang jujur ​​walaupun data prestasi menceritakan kisah yang berbeza.

Corak ini diburukkan lagi oleh sifat terperingkat atau separa terperingkat dari banyak penggunaan teknologi penguatkuasaan undang-undang, yang mengehadkan keupayaan wartawan, organisasi kebebasan awam dan orang ramai untuk meneliti cara alat ini sebenarnya berprestasi di lapangan. Ketelusan bukan sekadar kebaikan birokrasi dalam konteks ini — ia

Related Posts

• Bagaimanakah Windows 95 mendapat kebenaran untuk meletakkan video Weezer 'Buddy Holly' pada CD?
• Paragon secara tidak sengaja memuat naik foto panel kawalan perisian pengintipnya
• DBASE pada Kaypro II
• WolfSSL juga menyebalkan, jadi sekarang apa?