تطلق Google DeepMind أداة العلامة المائية مفتوحة المصدر للمساعدة في اكتشاف النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي

أطلقت Google DeepMind أداة العلامة المائية مفتوحة المصدر تُسمى SynthID-Text هذا الأربعاء للمساعدة في الكشف عن النصوص التي تم إنشاؤها بواسطة الذكاء الصناعي. الأداة متاحة مجانًا للشركات والمطورين وتعمل عبر تضمين علامات مائية غير مرئية—تكون غير قابلة للكشف بالعين البشرية—في النص أثناء الإنشاء، من خلال تغيير احتماليات الكلمات.

“هنا نصف SynthID-Text، نظام توقيع نصي جاهز للإنتاج يحافظ على جودة النص ويتيح دقة كشف عالية، مع تأخير زمني ضئيل”، هكذا يبدأ الملخص البحث الذي تم نشره في Nature. “لتمكين العلامات المائية على نطاق واسع، نحن نطور خوارزمية تدمج العلامات المائية مع العينة التخمينية، وهي تقنية كفاءة تستخدم بشكل متكرر في الأنظمة الإنتاجية”.

ووفقًا لـ MIT Technology Review، طورت مختبرات بحوث الذكاء الصناعي التابعة للعملاق التكنولوجي تقنية SynthID لإنشاء العديد من أدوات العلامات المائية للذكاء الصناعي التي يمكنها الآن التعرف على النصوص والموسيقى والفيديو والصور التي تم إنشاؤها بواسطة الذكاء الصناعي. قامت Google DeepMind بمشاركة فيديو يشرح كيف تعمل التقنية عبر أنواع متعددة من الوسائط.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 أكتوبر 2024

SynthID متوفر الآن عبر Google Responsible Generative AI Toolkit الخاص بالشركة، والباحثون يعملون بالتعاون مع Hugging Face – وهي منصة تعاونية للمطورين تستضيف مشاريع أخرى مفتوحة المصدر مثل دليل LeRobot لبناء الروبوتات التي تعمل بالذكاء الاصطناعي في المنزل – لمشاركتها على موقعهم أيضاً.

“الآن، ستتمكن باقي المطورين المتخصصين في[الذكاء الاصطناعي المولد] من استخدام هذه التكنولوجيا لمساعدتهم في التحقق مما إذا كانت نتائج النصوص قد جاءت من نماذج اللغة الكبيرة الخاصة بهم، مما يسهل على المزيد من المطورين بناء الذكاء الاصطناعي بشكل مسؤول”، قالت بوشميت كوهلي، نائبة رئيس البحث في Google DeepMind، لـ MIT Technology Review.

تم اختبار SynthID في منتجات Google’s Gemini، ولم يتمكن الملايين من المستخدمين من التمييز بين المحتوى الموسوم بالعلامة المائية والمحتوى غير الموسوم بالعلامة المائية. ومع ذلك، اعترف الباحثون بأنه يوجد قيود عندما يتم تحرير النص أو ترجمته، لكنهم ما زالوا متفائلين ويعتقدون أن الأداة قد تساعد في مكافحة المعلومات المضللة وتحسين أمان الذكاء الاصطناعي.

لقد أعلنت العديد من شركات التكنولوجيا عن استراتيجيات تسمية الذكاء الاصطناعي خلال الأشهر القليلة الماضية. أعلنت Meta في فبراير نظامًا لتحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي عبر Instagram، وFacebook، وThreads، وطلبت Google من المستخدمين تسمية المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في مارس، وأضافت Tiktok علامات على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في مايو.