تواجه أدوات الذكاء الاصطناعي للحكومة البريطانية فحصاً بسبب القلق من العنصرية والتحيز

أفادت صحيفة الجارديان اليوم بأن الحكومة البريطانية ستنشر قريبًا تفاصيل حول أدوات الذكاء الصناعي المستخدمة في العديد من الإدارات، وذلك بعد القلق حول العنصرية والتحيز المحتملة المدمجة في هذه التقنيات.

جاءت قرار الكشف عن هذه الأدوات الذكاء الصناعي بعد الضغط من قبل المناصرين للشفافية الذين أثاروا الإنذار حول السرية والممارسات التمييزية المحتملة داخل هذه الأنظمة. وقد تم استخدام هذه الأدوات الذكاء الصناعي في مهام مثل كشف الزيجات الوهمية وتحديد الغش في المطالبات بالإعانات.

كان مشروع القانون العام (PLP)، وهو جمعية خيرية للوصول إلى العدالة، في طليعة هذه القضية، وقام بالدعوة إلى المزيد من الشفافية والعدالة في استخدام هذه التكنولوجيا.

في أغسطس 2020، وافقت وزارة الداخلية على تعليق خوارزمية الكمبيوتر المستخدمة في فرز طلبات التأشيرة بعد اتهامات بالعنصرية والتحيز. أوقف المسؤولون الخوارزمية بعد تحدي قانوني من قبل المجلس المشترك لرفاه المهاجرين ومجموعة حقوق الرقمية “Foxglove”، كما أفادت صحيفة الجارديان.

أفادت صحيفة الجارديان أيضاً أن Foxglove زعمت أن بعض الجنسيات تم تلقائياً منحها درجة خطر “حمراء”، مما يؤدي إلى احتمالية أكبر لرفض الفيزا. وجادلوا أن هذه العملية تعادل التمييز العنصري.

حذر مركز الحكومة لأخلاقيات البيانات والابتكار في تقرير بأن الذكاء الصناعي غالباً ما يضخم التحيزات. ساهم المركز في تطوير معيار التسجيل الشفاف للخوارزميات للهيئات العامة التي تستخدم الذكاء الصناعي وأدوات الخوارزميات، مقترحاً أن يتم نشر النماذج التي تتفاعل مع الجمهور أو تؤثر على القرارات في سجل.

كما أفادت صحيفة الغارديان، أكدت وزارة العلوم والابتكار والتكنولوجيا (DSIT) هذا الأسبوع أن الإدارات ستقوم الآن بالإبلاغ عن استخدامها للتكنولوجيا وفقًا لهذا المعيار.

صرح المتحدث باسم DSIT لصحيفة الغارديان: “إن التكنولوجيا لها إمكانات هائلة لتحسين الخدمات العامة، ولكننا نعلم أنه من المهم الحفاظ على الضمانات المناسبة بما في ذلك، عند الاقتضاء، الإشراف البشري وغيره من أشكال الحكم”.

“أصبحت المعايير القياسية للشفافية الخوارزمية الآن إلزامية لجميع الأقسام، مع توقع نشر عدد من السجلات قريبًا. نواصل استكشاف كيف يمكن توسيعها عبر القطاع العام. نشجع جميع المنظمات على استخدام الذكاء الاصطناعي والبيانات بطريقة تبني الثقة العامة من خلال الأدوات والإرشادات والمعايير.”