دعيت أبل لإزالة ميزة الذكاء الصناعي بعد جدل العنوان الخاطئ

حثت هيئة رقابة الصحافة الرئيسية Apple على سحب ميزة الذكاء الاصطناعي التوليدي بعد أن أرجعت الأداة بشكل خاطئ عنوانًا عن قضية قتل بارزة إلى BBC News.

أفادت BBC يوم الخميس أن الجدل قد نشأ بعد أن أنتجت الميزة الجديدة لـ Apple، Apple Intelligence، عنواناً غير دقيق. اقترح العنوان أن لويجي مانجيون، المشتبه به في قتل الرئيس التنفيذي لشركة التأمين على الرعاية الصحية برايان تومسون، قد أطلق النار على نفسه. ولم تنشر الـ BBC مثل هذا المقال.

نقدت منظمة مراسلون بلا حدود (RSF)، وهي منظمة دولية تدافع عن حرية الصحافة، شركة أبل، مشيرة إلى أن الحادث يسلط الضوء على المخاطر التي تشكلها أدوات الذكاء الصناعي الناضجة لمصداقية الإعلام وثقة الجمهور.

وندد فنسنت بيرثييه، رئيس قسم التكنولوجيا والصحافة في RSF، بالخطأ، واصفًا إياه بأنه “ضربة لمصداقية الوسيلة الإعلامية” وتهديد للوصول العام إلى معلومات موثوقة. وطالبت RSF أبل بإزالة الميزة على الفور.

“رغم أن قانون الذكاء الاصطناعي الأوروبي هو الأكثر تقدما في العالم في هذا المجال، إلا أنه لم يصنف الأنظمة الذكية المولدة للمعلومات كأنظمة عالية المخاطر، مما ترك فراغًا قانونيًا حرجًا. يجب ملء هذا الفراغ على الفور”، قالت بيرتييه.

أكدت هيئة الإذاعة البريطانية أنها قدمت شكوى رسمية للعملاق التكنولوجي وطلبت حلًا، لكن لا يزال غير واضح ما إذا كانت أبل قد ردت أم لا.

لم تقتصر الأخطاء في ملخص الذكاء الاصطناعي على أخبار بي بي سي. في الحادي والعشرين من نوفمبر، قامت الميزة بتلخيص غير دقيق لمقال في صحيفة نيويورك تايمز، مما أوحى بشكل خاطئ بأن رئيس الوزراء الإسرائيلي بنيامين نتنياهو قد تم اعتقاله، كما أفادت به المقالة في بي بي سي.

هذا الإعلام، الذي تم تسليط الضوء عليه لاحقًا من قبل الصحفي كين شوينك، تحدث في الواقع عن مذكرة من المحكمة الجنائية الدولية ضد نتنياهو.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

تهدف Apple Intelligence إلى تقليل انقطاعات الإشعارات عبر تلخيصها وتجميعها. متاحة على هواتف iPhone التي تعمل بنظام iOS 18.1 والأحدث، بالإضافة إلى بعض أجهزة iPad و Mac، واجهت الأداة انتقادات لتحريفها المعلومات من وسائل الإعلام الخبرية المعتبرة.

أكد المتحدث باسم بي بي سي أنه بينما تلخص بعض الإشعارات المجمعة بدقة قصص حول الأحداث العالمية، فإن التضليل المتعلق بـ Mangione يوضح القدرة المحتملة للتكنولوجيا على الإضرار بكل من وسائل الإعلام وفهم الجمهور.

حذرت منظمة “RSF” قائلةً: “يوضح هذا الحادث أن خدمات الذكاء الاصطناعي التوليدية لا تزال غير ناضجة بما يكفي لإنتاج معلومات موثوقة للجمهور، ولا ينبغي السماح لها بالدخول إلى السوق لمثل هذه الاستخدامات.”

Ars Technica قامت بمراجعة ملخصات الإشعارات من أبل، مشيرة إلى العديد من المشكلات التي تظهر بشكل متكرر. أولًا، بينما بعض الملخصات صحيحة من الناحية الواقعية، إلا أنها تبدو آلية وغير مريحة، وخاصة في الموضوعات الحساسة مثل العلاقات أو الصحة النفسية. وغالبًا ما يسيء البعض فهم السخرية أو اللغة العامية أو التعبيرات الاصطلاحية، وغالبًا ما يتم تفسيرها بشكل حرفي جدًا.

فقدان السياق هو مشكلة أخرى كبيرة، خصوصاً عندما تفشل الملخصات في التقاط الرسائل السابقة في المحادثة أو عدم الأخذ بعين الاعتبار للمحتوى المتعدد الوسائط. في المحادثات الجماعية ذات المواضيع المتعددة، يمكن أن تصبح الملخصات مثقلة، وتخلط بين المواضيع، مما يؤدي إلى عدم الدقة.

وأخيراً، بعض الملخصات غير صحيحة ببساطة، غالبًا بسبب محاولة ضغط معلومات كثيرة في كلمات قليلة، مما يؤدي إلى تشويه الحسابات. بشكل عام، هذه المشاكل التي تؤثر على فائدة ودقة الميزة، هي شائعة في الاستخدام اليومي.

أصبحت Mangione، المتهمة الآن بجريمة قتل من الدرجة الأولى، نقطة محورية في الجدل حول المخاطر المرتبطة بالذكاء الصناعي في الصحافة. اعتماد الجمهور على الأخبار الموثوقة لا يزال على المحك بينما تواجه أبل ضغطًا متزايدًا لمعالجة المشكلة.