عرفت ICE وCBP أن تطبيق التعرف على الوجه لا يمكنه فعل ما تقول DHS إنه قادر عليه

عرفت ICE وCBP أن تطبيق التعرف على الوجه لا يمكنه فعل ما تقول DHS إنه قادر عليه

تكشف الوثائق الداخلية أن كلاً من إدارة الهجرة والجمارك الأمريكية (ICE) والجمارك وحماية الحدود (CBP) كانتا على علم بأن تطبيق التعرف على الوجه المثير للجدل فشل في تلبية معايير الأداء التي روجت لها علنًا وزارة الأمن الداخلي (DHS). وتثير فجوة المساءلة المتزايدة الاتساع بين ما تدعيه الوكالات الحكومية بشأن تكنولوجيا المراقبة وما تظهره السجلات الداخلية فعليا تساؤلات حرجة حول الشفافية، وأخلاقيات الشراء، والحدود الحقيقية لأنظمة تحديد الهوية التي تعمل بالذكاء الاصطناعي.

ما الذي تعرفه ICE وCBP فعليًا عن تطبيق التعرف على الوجه؟

وفقًا لنتائج التحقيق والاتصالات الداخلية التي تم الحصول عليها من خلال طلبات السجلات العامة، تلقى المسؤولون في كل من ICE وCBP تقييمات تشير إلى أن نظام التعرف على الوجه كان أقل بكثير من معدلات الدقة المعلن عنها - خاصة عند تطبيقه على الأفراد ذوي البشرة الداكنة والنساء والأشخاص الأكبر سنًا. وعلى الرغم من هذه النتائج، واصلت الوكالات نشر التكنولوجيا عبر العمليات الحدودية وسير عمل إنفاذ قوانين الهجرة.

الانفصال صارخ. روجت وزارة الأمن الوطني لهذه الأداة علنًا باعتبارها حلاً موثوقًا وعالي الدقة للتحقق من الهوية. ومع ذلك، لاحظ الوكلاء داخليًا معدلات الخطأ وحالات الفشل التي قد تؤدي إلى استبعاد البرنامج بموجب أي معيار شراء صارم. واستمر النشر بغض النظر عن ذلك، مما أثار تساؤلات جدية حول المساءلة المؤسسية والاندفاع إلى اعتماد أدوات الذكاء الاصطناعي دون التدقيق الكافي.

لماذا تعتبر دقة التعرف على الوجه مهمة في سياقات إنفاذ القانون؟

تعتبر أخطاء التعرف على الوجه في تطبيقات المستهلك بمثابة إزعاجات. في سياقات إنفاذ القانون وإنفاذ قوانين الهجرة، يمكن أن تعني الاحتجاز غير المشروع أو التعرف الخاطئ على الهوية أو انتهاكات الحقوق المدنية مع عواقب تغير الحياة. ولا يمكن أن تكون المخاطر أكبر من ذلك، ولهذا السبب على وجه التحديد فإن القيود المعروفة لهذا النظام تجعل استخدامه المستمر مثيرًا للقلق الشديد.

يمكن أن تؤدي النتائج الإيجابية الكاذبة إلى الإبلاغ عن أفراد أبرياء أو احتجازهم أو إخضاعهم لاستجواب عدواني بناءً على مطابقات خوارزمية معيبة.

يؤدي التحيز الديموغرافي في مجموعات بيانات التدريب إلى خطأ غير متناسب في التعرف على السود والسكان الأصليين والأشخاص الملونين - وهو وضع فشل موثق جيدًا في أنظمة التعرف على الوجه التجارية.

يسمح الافتقار إلى التدقيق المستقل للبائعين بالتصديق الذاتي على مطالبات الدقة مع القليل من التحقق الخارجي قبل أن تتبنى الوكالات الأدوات على نطاق واسع.

التعتيم في النشر يعني أن الأفراد المتأثرين نادرًا ما يعرفون أنهم قد تم فحصهم بواسطة نظام خوارزمي، ناهيك عن أن النظام كان لديه قيود معروفة على الدقة.

لا تترك أطر الرقابة الضعيفة سوى القليل من الآليات القانونية للطعن في القرارات المتخذة - ولو جزئيًا - على أساس تكنولوجيا القياسات الحيوية.

"إن التكنولوجيا الأكثر خطورة ليست من النوع الذي يفشل بشكل واضح - بل هو النوع الذي تعرف الوكالات أنه فاشل، ولكنها تنشره على أي حال لأن الحافز السياسي أو العملي للعمل يفوق الالتزام بالدقة."

كيف يكشف هذا عن مشاكل أعمق في مشتريات الذكاء الاصطناعي الحكومية؟

إن قضية التعرف على الوجه التي واجهتها ICE وCBP ليست فشلاً منعزلاً، بل هي أحد أعراض الخلل المنهجي في كيفية تقييم الوكالات الحكومية وشرائها ونشر الأدوات التي تعمل بالذكاء الاصطناعي. غالباً ما يقدم البائعون مطالبات طموحة أثناء عملية البيع، وتفتقر الوكالات إلى القدرة الفنية الداخلية للتحقق بشكل مستقل من تلك المطالبات، وبمجرد توقيع العقد، فإن الجمود التنظيمي يثبط إعادة التقييم الصادق حتى عندما تحكي بيانات الأداء قصة مختلفة.

ويتفاقم هذا النمط بسبب الطبيعة السرية أو شبه السرية للعديد من عمليات نشر تكنولوجيا إنفاذ القانون، مما يحد من قدرة الصحفيين ومنظمات الحريات المدنية والجمهور على التدقيق في كيفية أداء هذه الأدوات فعليًا في الميدان. الشفافية ليست مجرد دقة بيروقراطية في هذا السياق، بل هي كذلك

Related Posts

• أداة العزل في سطر الأوامر في macOS غير المعروفة (2025)
• لماذا أشعر بالقلق بشأن فقدان الوظيفة والأفكار حول الميزة النسبية
• ملحقات Chrome تتجسس على بيانات تصفح المستخدمين
• طريقة وآلة حاسبة لبناء منظمات الأدراج الرغوية