ICE et CBP savaient que l'application de reconnaissance faciale ne pouvait pas faire ce que le DHS prétendait pouvoir faire

ICE et CBP savaient que l'application de reconnaissance faciale ne pouvait pas faire ce que le DHS prétendait pouvoir faire

Des documents internes révèlent que l'Immigration and Customs Enforcement (ICE) et le Customs and Border Protection (CBP) des États-Unis savaient qu'une application controversée de reconnaissance faciale ne répondait pas aux critères de performance publiquement promus par le Department of Homeland Security (DHS). Cet écart croissant de responsabilité entre ce que prétendent les agences gouvernementales à propos de la technologie de surveillance et ce que montrent réellement les dossiers internes soulève des questions cruciales sur la transparence, l’éthique des achats et les limites réelles des systèmes d’identification basés sur l’IA.

Que savaient réellement l’ICE et le CBP à propos de l’application de reconnaissance faciale ?

Selon les résultats de l'enquête et les communications internes obtenues grâce à des demandes de documents publics, les responsables de l'ICE et du CBP ont reçu des évaluations indiquant que le système de reconnaissance faciale était nettement inférieur aux taux de précision annoncés, en particulier lorsqu'il était appliqué à des personnes à la peau plus foncée, aux femmes et aux sujets plus âgés. Malgré ces résultats, les agences ont continué à déployer la technologie dans les opérations frontalières et les flux de travail de contrôle de l'immigration.

La déconnexion est flagrante. Le DHS a publiquement présenté l’outil comme une solution fiable et de haute précision pour la vérification de l’identité. Cependant, en interne, les agents ont noté des taux d'erreur et des échecs extrêmes qui auraient disqualifié le logiciel selon toute norme d'approvisionnement rigoureuse. Le déploiement s’est néanmoins poursuivi, soulevant de sérieuses questions sur la responsabilité institutionnelle et la précipitation à adopter des outils d’IA sans contrôle adéquat.

Pourquoi la précision de la reconnaissance faciale est-elle importante dans les contextes d’application de la loi ?

Les erreurs de reconnaissance faciale dans les applications grand public sont des inconvénients. Dans le contexte de l’application de la loi et de l’immigration, cela peut signifier une détention injustifiée, une identification erronée ou des violations des droits civils ayant des conséquences bouleversantes. Les enjeux ne pourraient pas être plus élevés, et c’est précisément pourquoi les limites connues de ce système rendent son utilisation continue si alarmante.

Les faux positifs peuvent conduire à ce que des individus innocents soient signalés, détenus ou soumis à des interrogatoires invasifs basés sur des correspondances algorithmiques erronées.

Les biais démographiques dans les ensembles de données de formation provoquent une identification erronée disproportionnée des Noirs, des Autochtones et des personnes de couleur – un mode d’échec bien documenté dans les systèmes commerciaux de reconnaissance faciale.

L'absence d'audit indépendant permet aux fournisseurs d'auto-certifier leurs déclarations d'exactitude avec peu de vérification externe avant que les agences n'adoptent les outils à grande échelle.

L'opacité du déploiement signifie que les personnes concernées savent rarement qu'elles ont été contrôlées par un système algorithmique, et encore moins que le système avait des limites de précision connues.

La faiblesse des cadres de contrôle laisse peu de mécanismes juridiques pour contester les décisions prises – même partiellement – ​​sur la base de la technologie biométrique.

"La technologie la plus dangereuse n'est pas celle qui échoue visiblement - c'est celle dont les agences savent qu'elles échouent, mais qu'elles déploient quand même parce que l'incitation politique ou opérationnelle à agir l'emporte sur l'obligation d'être précise."

Comment cela révèle-t-il des problèmes plus profonds liés aux marchés publics en matière d’IA ?

Le cas de reconnaissance faciale ICE et CBP n’est pas un échec isolé : c’est un symptôme d’un dysfonctionnement systémique dans la manière dont les agences gouvernementales évaluent, se procurent et déploient des outils basés sur l’IA. Les vendeurs font souvent des déclarations ambitieuses au cours du processus de vente, les agences n'ont pas la capacité technique interne nécessaire pour vérifier ces déclarations de manière indépendante, et une fois le contrat signé, l'inertie organisationnelle décourage toute réévaluation honnête, même lorsque les données de performance racontent une histoire différente.

Cette tendance est exacerbée par la nature classifiée ou semi-classifiée de nombreux déploiements technologiques d’application de la loi, ce qui limite la capacité des journalistes, des organisations de défense des libertés civiles et du public à examiner de près le fonctionnement réel de ces outils sur le terrain. La transparence n'est pas seulement une subtilité bureaucratique dans ce contexte : elle

Related Posts

• LCM : Gestion du contexte sans perte [pdf]
• Outil de sandboxing en ligne de commande peu connu de macOS (2025)
• CXMT propose des puces DDR4 à environ la moitié du prix du marché.
• L'IRS a perdu 40 % de son personnel informatique et 80 % de ses dirigeants technologiques lors d'une restructuration pour plus d'« efficacité »