التنمر الإلكتروني الذي يعززه الذكاء الصناعي: خبر تعرض مراهقة للتنمر يثير غضب الجمهور

عندما بلغت فرانشيسكا ماني الرابعة عشرة، تم استدعاؤها إلى مكتب مدير مدرسة ويستفيلد الثانوية في نيوجيرسي، حيث اكتشفت أن صورة لها تم تغييرها إلى صورة عارية باستخدام الذكاء الاصطناعي، وفقًا لما ذكرته CBS News.

في أكتوبر الماضي، انتشرت شائعات في مدرسة ويستفيلد الثانوية حول حيازة الأولاد لصور فاضحة لزميلاتهم من الفتيات. علمت ماني أنها وعدة فتيات أخريات كانت مستهدفة.

وفقًا لدعوى قضائية تقدم بها ضحية أخرى، قام صبي بتحميل صور على إنستغرام إلى Clothoff، وهو موقع مدعوم بالذكاء الصناعي “nudify” شهير. يستقبل الموقع، الذي تلقى أكثر من 3 ملايين زيارة في الشهر الماضي، صورًا وهمية واقعية عارية في ثوانٍ، كما ذكرت CBS.

يدعي موقع Clothoff أنه يحظر معالجة صور القاصرين، ولكن آلياته غير مؤكدة. على الرغم من التنويهات الموجودة في الموقع، تمت مشاركة صورة عارية واحدة على الأقل لطالب من الذكاء الصناعي على سناب شات، كما ذكرت CBS.

لم ترَ ماني الصورة المُعدلة لها أبداً، ولكنها تأثرت بشكل عميق بكيفية تعامل المدرسة مع الوضع. تم استدعاء الضحايا علنياً إلى المكتب، بينما تم إزالة الأولاد المتورطين من الفصل بشكل خاص.

قالت ماني، كما أفادتها شبكة CBS: “أشعر أن هذا كان انتهاكاً كبيراً لخصوصيتنا في حين تم إخراج الفاعلين السيئين من فصولهم بشكل خاص”.

في نفس اليوم، أرسل مدير المدرسة بريدًا إلكترونيًا إلى الآباء، مؤكدًا أن الطلاب قد استخدموا الذكاء الاصطناعي لإنشاء صور صريحة، وفقًا لتقارير CBS. ضمن البريد الإلكتروني ضمانًا للأهالي بأن الصور تم حذفها ولم يتم تداولها، ولكن والدة ماني، دوروتا، ظلت متشككة.

“لا يمكنك حقا محوها”، قالت دوروتا لـ CBS، وأعربت عن قلقها حول لقطات الشاشة أو التنزيلات.

رفضت إدارة المدرسة تقديم تفاصيل حول الحادث أو الإجراءات التأديبية، لكنها أكدت أنها قامت بتحديث سياساتها المتعلقة بالتحرش لمعالجة سوء استخدام الذكاء الاصطناعي – تغيير كانت عائلة مانيس قد حثت عليه لعدة أشهر، كما أفادت شبكة CBS.

وشددت ييوتا سوراس، الضابطة القانونية الرئيسية في المركز الوطني للأطفال المفقودين والمستغلين، على الأذى الدائم الذي تسببه هذه الصور، حتى لو كانت مزيفة. غالبًا ما يعاني الضحايا من الضغط النفسي، والضرر السمعي، وفقدان الثقة، كما لاحظت شبكة CBS.

تقرير CBS يذكر أنه خلال الـ20 شهرًا الماضية، ظهرت حوالي 30 حالة مشابهة تتعلق بصور عارية تم انتاجها بواسطة الذكاء الصناعي في المدارس الأمريكية، مع الإبلاغ عن حوادث إضافية على مستوى العالم.

في ثلاث حالات على الأقل، تم استخدام Snapchat لتوزيع الصور. أبلغ الآباء عن تأخيرات تصل إلى ثمانية أشهر في إزالة مثل هذا المحتوى من المنصة، كما أفادت CBS.

ردت Snapchat على انتقاد أحد الآباء بالقول إن لديها “آليات فعالة” للتعامل مع هذه التقارير وأكدت أنها تتبع “سياسة عدم التسامح” تجاه مثل هذا المحتوى، كما ذكرت شبكة CBS.

تحظر القوانين الفدرالية الإباحية التي تنتجها الذكاء الاصطناعي للأطفال إذا كانت تصور سلوكًا جنسيًا صريحًا، ولكن Souras تحذر من أن بعض الصور العارية التي تنتجها الذكاء الاصطناعي قد تقع خارج التعريف القانوني، كما لاحظت شبكة CBS.

منذ الحادث، دافعت فرانشيسكا و دوروتا ماني عن السياسات المتعلقة بالذكاء الصناعي في المدارس وعملت مع الكونغرس لمعالجة هذه المشكلة، كما أفادت شبكة CBS.

وقد تم اقتراح مشروع قانون فدرالي، يُعرف بـ قانون Take It Down، من قِبل السناتورين تيد كروز وأيمي كلوبوتشار، وقد تمت الموافقة عليه في مجلس الشيوخ هذا الشهر وينتظر التصويت عليه في مجلس النواب. يقترح هذا التشريع عقوبات جنائية لمشاركة الصور العارية التي تم إنشاؤها بواسطة الذكاء الصناعي، ويفرض على منصات وسائل التواصل الاجتماعي إزالة المحتوى المشكوك فيه خلال 48 ساعة، كما يقول CBS.