قضية بارزة تتحدى الذكاء الاصطناعي في الإسكان

في قضية بارزة تسلط الضوء على الأضرار المحتملة لاتخاذ القرارات الذكاء الصناعي في مجال الإسكان، أقرت SafeRent، وهي شركة فحص المستأجرين التي تعتمد على الذكاء الصناعي، بتسوية بقيمة 2.3 مليون دولار ووقف نظام التقييم الخاص بها.

الدعوى القضائية التي أقامتها المستأجرات ماري لويس ومونيكا دوغلاس، ادعت أن الخوارزمية التي استخدمتها SafeRent تميزت بشكل غير متناسب ضد المستأجرين السود والهيسبان، الذين يعتمدون على القسائم السكنية، مما ينتهك قانون الإسكان العادل، كما ذكرت صحيفة الغارديان للمرة الأولى.

كانت ماري لويس، حارسة أمن في ماساتشوستس، ضمن أكثر من 400 مستأجر تأثروا بنظام SafeRent المثير للجدل. على الرغم من تلقيها توصية مشرقة من المالك الذي استأجرت منه لمدة 17 عامًا واستخدام قسيمة السكن ذات الدخل المنخفض التي تضمن دفع جزء من الإيجار، تم رفض طلبها.

جاء الرفض بعد أن أعطت SafeRent لها درجة 324، وهو ما يقل بكثير عن الحد الأدنى المطلوب من الشركة الإدارية والذي يبلغ 443. لم يتم تقديم أي تفسير للدرجة أو عملية الاستئناف، كما أفادت صحيفة The Guardian.

تم تقديم الدعوى القضائية في عام 2022، واتهمت SafeRent بتطبيق نظام تقييم غامض يعتمد على بيانات مالية غير ذات صلة، مثل ديون بطاقات الائتمان، بينما يتجاهل المدفوعات المضمونة التي توفرها قسائم السكن، حسبما ذكرت صحيفة The Guardian.

تظهر الدراسات أن المستأجرين السود والهيسبان يميلون بشكل أكبر للحصول على درجات ائتمان أقل والاعتماد على القسائم أكثر من المتقدمين البيض، مما يزيد من تفاقم الفوارق القائمة، حسبما أفاد المركز الوطني لقانون المستهلك.

وصفت لويس إحباطها بسبب عدم قدرة الخوارزمية على فهم السياق. قالت “كنت أعلم أن تقرير الائتمان الخاص بي ليس جيدًا. لكن الذكاء الاصطناعي لا يعرف سلوكي – كان يعرف أنني تأخرت في دفع بطاقة الائتمان الخاصة بي ولكنه لم يكن يعرف أنني أدفع إيجاري دائمًا”، هذا ما قالته لصحيفة The Guardian.

تمت الموافقة على التسوية يوم 20 نوفمبر، وهي لافتة ليست فقط بسبب الجانب المالي ولكن أيضًا لأنها تتطلب تغييرات تشغيلية.

لا يمكن لـ SafeRent الاستمرار في استخدام نظام التقييم أو توصية بقرارات الإيجار للمتقدمين الذين يستخدمون قسائم الإسكان دون التحقق المستقل من قبل منظمة عادلة للإسكان من طرف ثالث. هذه التعديلات نادرة في التسويات التي تتضمن شركات التكنولوجيا، والتي عادةً ما تتجنب تغيير المنتجات الأساسية، كما لاحظت صحيفة The Guardian.

“إزالة تحديد الإعجاب أو الرفض بشكل فعلي يتيح للمستأجر القول: ‘أنا مستأجر رائع'”، قال تود كابلان، المحامي الذي يمثل المدعين، كما أفادت صحيفة The Guardian.

تسلط هذه القضية الضوء على المخاوف المتزايدة بشأن استخدام الذكاء الصناعي في جوانب أساسية من الحياة، بما في ذلك الإسكان، والتوظيف، والرعاية الصحية.

كشفت استطلاع لتقارير المستهلك في عام 2024 عن القلق الواسع النطاق تجاه اتخاذ القرارات الخوارزمية، وخاصة في المجالات ذات الأهمية العالية. يجادل النقاد أن هذه الأنظمة غالبًا ما تعتمد على افتراضات إحصائية معيبة، مما يؤدي إلى نتائج تمييزية.

لقد أشار كيفن دي ليبان، الخبير القانوني في أضرار الذكاء الصناعي، إلى أن الشركات تواجه حافزاً ضئيلاً لإنشاء أنظمة عادلة للأفراد ذوي الدخل المنخفض. “القوى السوقية لا تعمل عندما يتعلق الأمر بالفقراء”، قال، مشدداً على الحاجة لتنظيمات أقوى، كما ذكرت صحيفة The Guardian.

“إلى حد أن هذه القضية تعتبر قضية بارزة، فإنها لديها القدرة على توفير خريطة طريق لكيفية النظر في هذه القضايا وتشجيع التحديات الأخرى”، قال كابلان، على الرغم من أن الخبراء يحذرون من أن الدعاوى القضائية وحدها لا يمكن أن تجعل الشركات مسؤولة، كما ذكرت صحيفة The Guardian.

بالنسبة للمستأجرين مثل لويس، تعتبر الاتفاقية انتصارًا محاربًا به شدة، تمهيدًا لمعاملة أكثر عدلاً للأشخاص الذين يعتمدون على برامج المساعدة السكنية.