تقرير جوجل بشأن تلقي أكثر من 250 شكوى حول محتوى الإرهاب المُنشأ بواسطة الذكاء الاصطناعي من نوع “ديبفيك”

شاركت جوجل تقريرًا مع السلطات الأسترالية يكشف أن أداة الذكاء الاصطناعي الخاصة بها، جيميني، تلقت أكثر من 250 شكوى على مستوى العالم بشأن استخدامها في إنتاج محتوى إرهابي مزيف عميق، وأكثر من 80 شكوى بشأن مواد تعرض الاعتداء على الأطفال.

تم تسليم المعلومات إلى الهيئة الأسترالية للسلامة على الإنترنت، وهي الهيئة الأسترالية للسلامة على الإنترنت، بعد أن طُلب من الشركات التقنية – بما في ذلك ميتا، تيليجرام، ريديت، إكس، وجوجل – الامتثال للقوانين المحلية وتقديم تقارير بموجب قانون السلامة على الإنترنت في أستراليا في مارس 2024.

قامت eSafety بمشاركة وثيقة رسمية هذا الخميس تثير مخاوف حول سلامة الذكاء الاصطناعي. اعتبر تقرير Google تقارير المستخدمين من الأول من أبريل 2023، إلى 29 فبراير 2024.

“تلقت (Google) 258 تقريراً من المستخدمين حول المواد أو الأنشطة المشتبه فيها بأنها تم إنشاؤها بواسطة الذكاء الاصطناعي في مجال الإرهاب أو التطرف العنيف التي تم إنشاؤها بواسطة Gemini، الذكاء الاصطناعي التوليد الخاص بالشركة، و 86 تقريراً من المستخدمين عن مواد الاستغلال الجنسي للأطفال المشتبه فيها بأنها تم إنشاؤها بواسطة الذكاء الاصطناعي”، قالت المفوضة في eSafety جولي إنمان غرانت. “هذا يؤكد على أهمية أن تبني الشركات التي تطور المنتجات الذكاء الاصطناعي الحمايات وتختبر فعاليتها لمنع توليد هذا النوع من المواد”.

وفقًا لـ رويترز، قال المتحدث باسم Google إنهم لم يسمحوا بالأنشطة غير القانونية. “عدد تقارير مستخدمي جيميني التي قدمناها لـ eSafety تمثل الحجم العالمي الكلي لتقارير المستخدمين، وليس انتهاكات السياسة المؤكدة”، قال المتحدث باسم جوجل لرويترز عبر البريد الإلكتروني.

اعتبرت إنمان غرانت التقرير بمثابة “الرؤى الأولى من نوعها في العالم” لفهم كيفية تعامل شركات التكنولوجيا مع “الانتشار الإلكتروني للمواد الإرهابية والمتطرفة العنيفة”.

أبرزت المفوضة أيضا كيف فشلت منصات مثل فيسبوك وواتساب وتيليغرام في الكشف عن محتوى الإرهاب الذي يتم بثه مباشرة. اعتبرت إنمان غرانت هجوم كرايستشيرش في 2019 – وهو حادث إطلاق نار جماعي إرهابي حيث هاجم مسلح متطرف أبيض مسجدين في كرايستشيرش، نيوزيلندا، وقتل 51 شخصاً، في مارس 2019 – كمثال على كيف تم بث الهجمات المتطرفة والقاتلة مباشرة دون الكشف أو إزالة المحتوى.

قبل أيام قليلة، شارك تقرير آخر بواسطة ESafety أن الأطفال يمكنهم بسهولة تجاوز أنظمة التحقق من العمر الحالية التي تستخدمها أشهر منصات وسائل التواصل الاجتماعي.