تقدم جامعة شيكاغو الدعم للفنانين من خلال Glaze و Nightshade للدفاع ضد الذكاء الصناعي

يقاوم الفنانون النماذج الاستغلالية للذكاء الاصطناعي باستخدام Glaze و Nightshade، وهما أداة تم تطويرهما بواسطة بن زهاو وفريقه في معمل SAND بجامعة شيكاغو، كما أفادت MIT Technology Review اليوم.

تهدف هذه الأدوات إلى حماية أعمال الفنانين من الاستخدام بدون موافقة لتدريب النماذج الذكاء الاصطناعي، وهي ممارسة يرى العديد من الخالقين أنها نوع من السرقة. Glaze، الذي تم تنزيله أكثر من 4 ملايين مرة منذ إصداره في مارس 2023، يقنع الصور بإضافة تغييرات خفية تمنع الذكاء الاصطناعي من تعلم أسلوب الفنان، كما يقول MIT.

تعتبر “نايتشيد”، النظير “المعادي”، أداة تؤدي إلى تعطيل نماذج الذكاء الصناعي بشكل أكبر من خلال استحداث تعديلات غير مرئية قد تفسد عملية التعلم للذكاء الصناعي إذا تم استخدامها في التدريب، كما لاحظ معهد ماساتشوستس للتكنولوجيا (MIT).

لقد استمدت هذه الأدوات إلهامها من مخاوف الفنانين حول الارتفاع السريع للذكاء الصناعي التوليدي، الذي يعتمد غالبًا على الصور المتاحة على الإنترنت لإنشاء أعمال جديدة. تقارير MIT تفيد أن الرسامة الخيالية كارلا أورتيز وغيرها من المبدعين أعربوا عن مخاوفهم من فقدان مصادر رزقهم بينما تقوم نماذج الذكاء الصناعي بتكرار أنماطهم المميزة دون إذن أو دفع.

بالنسبة للفنانين، فإن النشر على الإنترنت أمر ضروري للحصول على الرؤية والدخل، ومع ذلك، فإن الكثير منهم يفكرون في إزالة أعمالهم لتجنب استخدامها في تدريب الذكاء الصناعي، وهو الأمر الذي قد يعرقل مسيرتهم المهنية، كما لاحظ معهد ماساتشوستس للتكنولوجيا (MIT).

أطلقت Nightshade بعد عام من Glaze، وهي تقدم دفاعًا أكثر عدوانية، حسبما أفاد معهد ماساتشوستس للتكنولوجيا. من خلال إضافة بكسل “مسمومة” إلى الصور، فإنها تعطل تدريب الذكاء الصناعي، مما يتسبب في إنتاج نماذج تعطي نتائج مشوهة إذا تم نسخ هذه الصور.

لقد صدح صدى التأثير الرمزي لـ “نايتشيد” مع الفنانين، الذين يرونه على أنه نوع من العدالة الشعرية: إذا تم سرقة أعمالهم لتدريب الذكاء الاصطناعي، يمكن أن يضر بالأنظمة نفسها التي تستغلها.

تجادل MIT أن الأدوات قد واجهت بعض التشكيك، حيث كان الفنانون في البداية قلقين بشأن خصوصية البيانات. لمعالجة هذا، أصدرت SAND Lab نسخة من Glaze تعمل بدون اتصال بالإنترنت، مما يضمن عدم نقل البيانات ويبني الثقة مع الفنانين الذين يخشون الاستغلال.

لقد قامت المختبر أيضًا مؤخراً بتوسيع الوصول من خلال الشراكة مع Cara، وهي منصة اجتماعية جديدة تحظر المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، كما لاحظت MIT.

يهدف Zhao وفريقه إلى تغيير التوازن القوى بين الأفراد المبدعين وشركات الذكاء الاصطناعي.

من خلال تقديم أدوات تحمي الإبداع من الشركات الكبيرة، تأمل زهاو في تمكين الفنانين من الحفاظ على السيطرة على أعمالهم وإعادة تعريف المعايير الأخلاقية حول الذكاء الاصطناعي والملكية الفكرية، كما يقول معهد ماساتشوستس للتكنولوجيا (MIT).

الجهد في تزايد، ولكن بعض الخبراء يحذرون أن الأدوات قد لا تقدم حماية مضمونة، حيث يكتشف المتسللون ومطورو الذكاء الاصطناعي طرقًا لتجاوز هذه الاحترازات، كما أشار إليه معهد ماساتشوستس للتكنولوجيا (MIT).

مع أن Glaze و Nightshade أصبحتا متاحتين مجانًا الآن، ما زالت مختبرات SAND التابعة لـ Zhao تتصدى بقوة للدفاع عن سلامة الفن ضد التأثير المتزايد لإنشاء المحتوى الذي تقوده الذكاء الصناعي.