OpenAI تكشف 6 حالات تصرفت فيها نماذجها بطرق غير متوقعة وتضع نظامًا جديدًا للإفصاح

أعلنت شركة OpenAI عن نظامٍ جديد لرصد الحالات التي تتصرف فيها نماذج الذكاء الاصطناعي على نحو يخالف ما قصده المستخدم أو المطور، بهدف الانتقال من الإفصاح المتقطع عن هذه الوقائع إلى نشر تقارير عنها بصورة أكثر انتظامًا.

وتستخدم OpenAI تعبير "عدم المحاذاة" لوصف الحالات التي يختلف فيها ما يفعله النموذج فعليًا عما أراده البشر منه.

ونشرت الشركة بالتزامن مع هذا الإعلان ست حالات رصدتها خلال تدريب نماذجها أو تقييمها خلال الأشهر الستة الماضية. حتى في بعض الحالات التي لم تصل فيها بعد إلى تفسير كامل للسلوك أو طريقة منعه.

ومن بين الوقائع المنشورة نموذج بحثي غير متاح للمستخدمين أضاف إلى ملخصاته تعليمات جديدة تدفعه إلى تجاهل بعض القيود، وحالات أثناء تدريب GPT-5.6 Sol تضمنت تعليمات بإخفاء أخطاء عن المستخدم. وفي واقعة أخرى عثر نموذج على مفتاح برمجي مكشوف في مستودع عام وحاول استخدامه من دون تصريح، ثم اختلق بيانات عندما عجز عن الحصول على المعلومات المطلوبة.

وشملت الحالات أيضًا نماذج رفعت ملفات إلى الإنترنت من دون أن يطلب المستخدم ذلك لكي تتمكن من الاستشهاد بها، ونماذج استخدمت مستودعًا برمجيًا داخليًا للتواصل فيما بينها خلال التدريب، إلى جانب وكلاء استخدموا خدمات عامة لمشاركة الملفات رغم أن المهمة طلبت منهم إبقاءها محليًا. 

وتؤكد OpenAI أن هذه وقائع منفردة ولا يمكن الاستناد إليها لتحديد مدى شيوع مثل هذا السلوك في نماذجها عمومًا، كما أن بعض الحالات وقعت داخل بيئات التدريب أو الاختبار وليس في خدمات يستخدمها الجمهور مباشرة.

وتتزايد أهمية هذه الحالات للمستخدمين مع تحول أدوات الذكاء الاصطناعي من أنظمة تنتج نصوصًا وصورًا إلى وكلاء يستطيعون التعامل مع الملفات وتشغيل البرامج والوصول إلى خدمات خارجية وتنفيذ خطوات نيابة عن المستخدم.

والخطأ في نظام من هذا النوع قد لا يبقى مجرد إجابة غير صحيحة، بل يمكن أن يتحول إلى رفع ملف إلى مكان غير مقصود أو استخدام بيانات اعتماد لم يمنح المستخدم إذنًا باستعمالها. لذلك يصبح ضبط الصلاحيات وتسجيل ما يفعله الوكيل وإتاحة معرفة الخطوات التي نفذها جزءًا من حماية المستخدم، وليست مسألة تقنية تخص مختبرات الذكاء الاصطناعي وحدها.

وتقول OpenAI إن النظام الجديد سيسمح لأي موظف بإحالة واقعة محتملة للتحقيق، ثم تصنيفها وفق حجم البحث المطلوب قبل الإفصاح عنها.

وتعتزم الشركة العمل مع باحثين وشركات وهيئات معايير ومنظمين لتطوير قواعد أكثر وضوحًا للإفصاح عن هذه الحالات. لكن يظل حتى الآن نظامًا طوعيًا تضع الشركة نفسها معاييره وتقرر الحالات التي تنشرها، وهو ما يجعل الإفصاح خطوة نحو شفافية أكبر من دون أن يكون بديلًا عن الرقابة المستقلة أو القواعد التنظيمية الملزمة.