سوف تمنح OpenAI لمعهد السلامة الأمريكي الوصول المبكر إلى النماذج الجديدة

أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، اليوم على X ، أن الشركة ستقدم الوصول المبكر لمعهد الولايات المتحدة لأمان الذكاء الاصطناعي إلى النموذج الأساسي المقبل.

“كما قلنا في يوليو الماضي، نحن ملتزمون بتخصيص ما لا يقل عن 20٪ من موارد الحوسبة لجهود الأمان في جميع أنحاء الشركة”، كتب ألتمان، “لقد كان فريقنا يعمل مع معهد الأمان الأمريكي للذكاء الاصطناعي على اتفاق يتيح لنا تقديم الوصول المبكر إلى نموذجنا الأساسي القادم بحيث يمكننا العمل معًا للتقدم بعلم تقييمات الذكاء الاصطناعي.”

قال ألتمان إنه شارك في هذا القرار بحماس كبير، وأضاف أنهم يريدون من الموظفين الحاليين والسابقين التعبير عن مخاوفهم حول التقنيات الذكاء الصناعي التي تطورها الشركة. وأكد على أنه من المهم للشركة ولخطتها الأمنية.

ووفقًا لما نشرته TechCrunch، يتناول المعهد الأمريكي لأمان الذكاء الصناعي – الذي يعد جزءًا من المعهد الوطني لمعايير التكنولوجيا (NIST) – التعامل مع المخاطر في منصات الذكاء الصناعي وقد عملت OpenAI بالفعل على اتفاق مشابه مع المملكة المتحدة قبل بضعة أسابيع فقط.

جاء إعلان ألتمان بعد انتقاد الأشخاص والمنظمات لإجراءات الشركة الأمنية. في يونيو، وقع عدد من الموظفين الحاليين والسابقين في OpenAI رسالة مفتوحة للتعبير عن مخاوفهم وتحذير من انتشار المعلومات المضللة من الذكاء الصناعي وأنه قد يشكل خطراً على المجتمع. كما استقال العديد من العاملين من الشركة بسبب مخاوف السلامة بما في ذلك الباحث الرئيسي في OpenAI يان ليك، بعد أن حلت OpenAI فريق Superalignment، المكلف بمعالجة مخاطر الذكاء الصناعي.

رغم المخاوف الأمنية، تواصل OpenAI التقدم. للتو، أطلقت الشركة ميزة الصوت لـ ChatGPT Plus، ومتاح الآن محرك بحث جديد يعتمد على الذكاء الصناعي يسمى SearchGPT للمستخدمين المختارين.

تبدو الجهود الجديدة لإضافة تدابير الأمان أنها تثبت أن ألتمان وفريقه لم ينسوا مخاطر ومخاوف الذكاء الصناعي.