أداة MIT الجديدة تحسن التحقق من استجابات نموذج الذكاء الصناعي

أعلن الباحثون في معهد ماساتشوستس للتكنولوجيا (MIT) مؤخرًا عن تطويرهم لأداة SymGen، الهدف منها تحسين عملية التحقق من الردود التي تولدها نماذج اللغة الكبيرة (LLMs). يسمح هذا النظام للمستخدمين بتتبع البيانات التي يشير إليها الذكاء الاصطناعي، مما يزيد من إمكانية الاعتماد على نتائجه.

على الرغم من القدرات المتقدمة لنماذج اللغة الكبيرة، إلا أنها غالبًا ما تنتج معلومات غير دقيقة أو غير مدعومة، وهو الظاهرة التي تُعرف بـ “الهلوسة”.

تطرح هذه التحديات في المجالات ذات المخاطر العالية مثل الرعاية الصحية والمالية، حيث غالبًا ما يكون هناك حاجة إلى المدققين البشر للتحقق من صحة المعلومات التي تم إنشاؤها بواسطة الذكاء الصناعي. يمكن أن تكون الأساليب التقليدية للتحقق من الصحة تستغرق وقتًا طويلاً ومعرضة للخطأ، حيث تتطلب من المستخدمين تصفح وثائق طويلة، كما تم التنويه عنه في الإعلان.

هذا ذو أهمية خاصة نظرًا للبروز المتزايد للذكاء الصناعي في الطب. على سبيل المثال، حصلت الخدمة الصحية الوطنية مؤخرًا على الموافقة لبدء استخدام تكنولوجيا الذكاء الصناعي لتحسين كشف الكسور في الأشعة السينية.

تتصدى SymGen لهذه التحديات من خلال تمكين LLMs من إنشاء الردود مع الإشارات المباشرة إلى المواد المصدر، مثل الخلايا المحددة في قاعدة البيانات، كما أفادت في البيان الصحفي من MIT.

يمكن للمستخدمين التحويم فوق النص المُظلّل في الرد من الذكاء الاصطناعي للوصول بسرعة إلى البيانات الأساسية التي أطلعت على تلك الجزء من النص. تهدف هذه الميزة إلى مساعدة المستخدمين على تحديد أي أجزاء من الرد تتطلب التحقق الإضافي.

قالت شانون شين، طالبة الدراسات العليا في الهندسة الكهربائية وعلوم الحاسوب، ومؤلفة مشاركة رئيسية في الدراسة حول SymGen، في البيان الصحفي: “نحن نمنح الناس القدرة على التركيز بشكل انتقائي على أجزاء من النص يحتاجون إلى القلق بشأنها بشكل أكبر.”

يهدف هذا القدرة إلى تحسين ثقة المستخدم في نتائج النموذج من خلال السماح بفحص أدق للمعلومات المقدمة.

أشارت دراسة المستخدم إلى أن SymGen قلل من وقت التحقق بنسبة حوالي 20% مقارنة بالإجراءات القياسية. يمكن أن تكون هذه الكفاءة مفيدة في سياقات مختلفة، بما في ذلك إنشاء الملاحظات السريرية وتلخيص التقارير المالية.

غالبًا ما تعتبر أنظمة التحقق الحالية إنشاء الاقتباس كأمر لاحق، مما يمكن أن يؤدي إلى عدم كفاءة. لاحظت شين أنه بينما يُعد الذكاء الاصطناعي التوليدي هو لتبسيط مهام المستخدم، فإن عمليات التحقق المعقدة تقوض فائدته.

تعمل الأداة عن طريق طلب من المستخدمين تقديم البيانات بتنسيق منظم، مثل جدول يحتوي على إحصائيات ذات صلة. قبل توليد الرد، تقوم النموذج بإنشاء تمثيل رمزي، مرتبطًا قطع النص ببياناتها المصدرية.

على سبيل المثال، عند الإشارة إلى “Portland Trail Blazers”، تشير النموذج إلى الخلية المقابلة في الجدول الإدخال، مما يتيح للمستخدمين تتبع مصدر المعلومات، كما تم الإشارة إليه في البيان الصحفي.

ومع ذلك، تشير المقالة إلى أن فعالية SymGen تعتمد على جودة البيانات المصدر. إذا كان النموذج يشير إلى متغيرات غير صحيحة، فقد لا يكتشف المدققون البشر هذه الأخطاء.

حاليا، يقتصر النظام على البيانات الجدولية، ولكن فريق البحث يعمل على توسيع قدراته للتعامل مع مختلف أشكال النصوص وأنواع البيانات. تتضمن الخطط المستقبلية اختبار SymGen في الإعدادات السريرية لتقييم إمكاناته في التعرف على الأخطاء في الملخصات الطبية التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

تهدف هذه الدراسة إلى المساهمة في الجهد المستمر لتعزيز موثوقية ومسؤولية تقنيات الذكاء الاصطناعي حيث أصبحت متكاملة بشكل متزايد في مختلف المجالات.