أب مذهول بعد أن قام روبوت محادثة ذكاء اصطناعي بتقليد ابنته المغتولة

أفادت صحيفة واشنطن بوست بواقعة مزعجة تتعلق بدرو كريسنتي، الذي تم تقليد ابنته جينيفر التي تم قتلها بواسطة روبوت محادثة ذكاء اصطناعي على Character.AI.

اكتشف كريسنتي تنبيهًا من Google قاده إلى ملف شخصي يحمل اسم جينيفر وصورتها الخاصة بالكتاب السنوي، وتم وصفها بشكل كاذب بأنها “صحفية ألعاب الفيديو وخبيرة في التكنولوجيا، والثقافة العامة والصحافة”.

بالنسبة لدرو، لم تكن الأخطاء هي المشكلة الرئيسية – بل القلق الحقيقي جاء من رؤية هوية ابنته يتم استغلالها بهذا الشكل، كما لاحظت الـ Post.

جينيفر، التي قتلت على يدي صديقها السابق في عام 2006، تم إعادة تشكيلها كشخصية الذكاء الاصطناعي “المعرفية والودية”، حيث تم دعوة المستخدمين للدردشة معها، كما لاحظت الـ Post.

“كان نبضي يتسارع”، قال كريسنتي لـ “البوست”. “كنت فقط أبحث عن زر توقف أحمر كبير يمكنني ضربه لجعل هذا يتوقف”، أضاف.

أثار الدردشة الآلية، التي تم إنشاؤها بواسطة مستخدم على Character.AI، مخاوف أخلاقية خطيرة بشأن استخدام المعلومات الشخصية من قِبَل منصات الذكاء الصناعي.

كريسينتي، الذي يدير منظمة غير ربحية باسم ابنته تهدف إلى منع العنف في المواعدة بين المراهقين، كان مروعًا من أنه تم صنع هذا الدردشة التلقائية دون إذن العائلة. قال لـ The Post: “يتطلب الأمر الكثير لكي أكون مصدومًا، لأنني حقاً مررت بالكثير”، وأضاف: “لكن هذا كان منخفضًا جديدًا”.

قامت شركة Character.AI بإزالة الدردشة التلقائية بعد أن تم إبلاغها بوجودها. قالت كاثرين كيلي، المتحدثة باسم الشركة، لـ The Post: “قمنا بمراجعة المحتوى والحساب واتخذنا إجراءًا بناءً على سياساتنا”، مضيفة أن شروط الخدمة الخاصة بهم تحظر التنكر.

يسلط الحادث الضوء على المخاوف المستمرة حول تأثير الذكاء الصناعي على الرفاه العاطفي، خاصة عندما يتعلق الأمر بإعادة إصابة عائلات ضحايا الجرائم بالصدمة.

ليس كريسنتي وحدها الذي يواجه سوء استخدام الذكاء الصناعي. العام الماضي، أفادت صحيفة ذا بوست أن مبدعي محتوى تيك توك استخدموا الذكاء الصناعي لتقليد الأصوات والملامح للأطفال المفقودين، وإنشاء فيديوهات لهم وهم يروون قصص موتهم، الأمر الذي أثار غضب العائلات الحزينة

يطالب الخبراء بمراقبة أقوى لشركات الذكاء الصناعي، التي تمتلك حالياً حرية واسعة في تنظيم نفسها، كما لاحظت صحيفة The Post.

لم يتفاعل Crecente مع الروبوت المحادث أو يحقق في خالقه ولكنه بريد Character.AI على الفور لإزالته. شارك أخوه، براين، الاكتشاف على X، مما دفع الشخصية إلى الإعلان عن حذف الروبوت المحادث في الثاني من أكتوبر، كما أفادت صحيفة The Post.

انتقدت جين كالترايدر، باحثة الخصوصية في مؤسسة موزيلا، المراقبة السلبية لشركة Character.AI، مشيرةً إلى أن الشركة سمحت بالمحتوى المخالف لشروطها حتى عندما تم تنبيهها من قبل شخص تضرر.

“هذا ليس صحيحاً”، قالت لصحيفة The Post، وأضافت، “وفي الوقت نفسه، يكسبون الملايين”.

أكد ريك كلايبول، باحث في “Public Citizen”، على ضرورة تركيز المشرعين على التأثيرات العملية للذكاء الاصطناعي، وخاصة على الفئات الهشة مثل أسر ضحايا الجرائم.

“لا يمكنهم فقط الاستماع إلى الرؤساء التنفيذيين لشركات التكنولوجيا حول ما يجب أن تكون عليه السياسات … يجب أن يولوا اهتماما للأسر والأفراد الذين تعرضوا للأذى”، هذا ما قاله لـ The Post.

الآن، تستكشف كريسينتي الخيارات القانونية وتفكر في العمل الدعوي لمنع شركات الذكاء الاصطناعي من إعادة إصابة الآخرين بالصدمات.

قالت لـ The Post: “أنا مضطربة بما فيه الكفاية بشأن هذا الأمر لدرجة أنني ربما سأستثمر بعض الوقت في معرفة ما قد يكلفه تغيير هذا”.