نقص الإفصاح في القبض بواسطة التعرف على الوجوه بالذكاء الصناعي يثير القلق

أظهر تحقيق نُشر اليوم بواسطة صحيفة واشنطن بوست أن مئات الأمريكيين تم اعتقالهم بسبب تكنولوجيا التعرف على الوجوه، دون أن يتم إبلاغهم بذلك أبدا.

كشف التحقيق عن أكثر من 1000 قضية جنائية في 15 ولاية حيث فشلت الشرطة في الكشف عن اعتمادها على هذه التكنولوجيا، وغالبًا ما تخفي دورها عن طريق إسناد تحديد الجناة إلى “وسائل التحقيق” أو الشهود.

يثير هذا النقص في الشفافية قلقا حول العدالة، خاصة بما أن برامج التعرف على الوجه أظهرت أنها عرضة للأخطاء، خاصة في تحديد هوية الأشخاص ذوي البشرة الداكنة.

على سبيل المثال، قضية روبرت ويليامز، الرجل الأمريكي من أصول أفريقية، الذي توصل إلى تسوية مع مدينة ديترويت بعد اعتقاله بشكل خاطئ في عام 2020 بسبب خطأ في برنامج التعرف على الوجه.

تُفيد تقارير The Post بأن الاختبارات الفدرالية تشير إلى أن برامج التعرف على الوجوه الرائدة أكثر عرضة للتعرف الخاطئ على بعض الفئات، بما في ذلك الأشخاص ذوي البشرة الملونة، والنساء، والأفراد الأكبر سنا.

السبب وراء هذا هو أن ملامح وجوه هؤلاء الأفراد غير ممثلة بشكل كاف في البيانات المستخدمة لتدريب الخوارزميات. يأتي هذا المعلومات من باتريك جروثر، الذي يقود الاختبارات البيومترية في المعهد الوطني للمعايير والتكنولوجيا في واشنطن، حسبما أفادت The Post.

ذكرت صحيفة الـ Post أنه في إيفانزفيل، إنديانا، وبفلوجيرفيل، تكساس، تم التعرف على الجناة باستخدام تكنولوجيا التعرف على الوجه، ولكن لم يتم إبلاغهم بدورها في القبض عليهم. أشارت الشرطة إلى الخصائص الجسدية أو قواعد البيانات التحقيقية بدلاً من ذلك، مخفية دور البرنامج في الأمر.

كان هذا النمط شائعًا في العديد من الإدارات، حيث قدمت فقط 30 إدارة من أصل 100 السجلات ذات الصلة إلى صحيفة الـ Post، ما يعكس تحفظ أوسع بشأن الكشف عن استخدام تقنية التعرف على الوجه.

تشرح “البوست” أن برامج التعرف على الوجوه، مثل Clearview AI، تعمل عبر مقارنة الصور من مواقع الجرائم بقواعد بيانات ضخمة من الصور، بما في ذلك صور القبض وصور وسائل التواصل الاجتماعي.

يجادل النقاد أن هذه الممارسة تعرض الأشخاص الأبرياء لخطر الاتهام زوراً في جرائم ببساطة لأن صورهم تظهر على الإنترنت، كما ذكرت “البوست”. تجادل الجماعات الحقوقية ومحامو الدفاع أن للناس الحق في معرفة متى يتم تحديد هويتهم عن طريق هذه التكنولوجيا، خاصة بالنظر إلى قابليتها للخطأ، كما تلاحظ “البوست”.

ذكرت صحيفة “ذا بوست” أنه في بعض القضايا القضائية الأخيرة، تم التحدي بنجاح لنتائج التعرف على الوجه بسبب الأسئلة حول موثوقية التكنولوجيا. ومع ذلك، ما زالت أقسام الشرطة تدافع عن ممارساتها لعدم الكشف، حيث ذكر بعضها الامتياز التحقيقي كمبرر لها.

على الرغم من القلق المتزايد، لا يُشترط القانون الفيدرالي حالياً على الشرطة الكشف عن استخدام التعرف على الوجه، كما ذكرت “ذا بوست”. في بعض الولايات، مثل نيوجيرسي، حكمت المحاكم بأن للمتهمين الحق في معرفة ما إذا كانت تقنية التعرف على الوجه قد استخدمت في قضيتهم.

ومع ذلك، لا تتطلب معظم الولايات مثل هذا الشرط، مما يترك المتهمين في الظلام حول الدور الذي قد تكون الذكاء الصناعي قد لعبته في توقيفهم، كما لاحظت البوست.