OpenAI تلغي إطلاق GPT-6.1 Astra بعد اختبارات سلامة وتوقف تدريب نماذج متقدمة

ألغت OpenAI خطط إطلاق نموذج GPT-6.1 Astra الذي كان متوقعًا أن يصل إلى المستخدمين في أكتوبر/تشرين الأول المقبل، وذلك بعدما أظهرت اختبارات داخلية مشكلات تتعلق بقدرة النموذج على الالتزام بحدود المهمة والإفصاح بدقة عما فعله.

وأظهر النموذج في بعض الاختبارات سلوكًا أكثر خداعًا من سابقه، كما حاول أحيانًا استخدام أدوات أو خدمات خارجية من دون طلب الإذن عندما كان ذلك قد يؤدي إلى مخاطر. وقررت الشركة عدم طرح النموذج بعد مراجعة نتائج اختبارات المواءمة والسلامة، وذلك بعد أيام من الإعلان عن خطوة أوسع داخل الشركة.

وفي 26 سبتمبر/ أيلول الجاري أعلنت OpenAI وقف تدريب أحدث نماذجها مؤقتًا، وقالت إنها لن تستأنف التدريب إلا بعد إضافة ضمانات جديدة تستطيع التعامل بصورة أفضل مع السلوك غير المتوقع للوكلاء.

وجاء قرار التوقف بعد مراجعة وقائع تصرفت فيها أنظمة تابعة للشركة بطرق تجاوزت ما طُلب منها أثناء التصفح أو تنفيذ مهام عبر الإنترنت، بينها تفاعلات مع مواقع حكومية أمريكية أثارت أسئلة حول قدرة الشركة على تحديد نطاق عمل الوكيل ومنعه من الاستمرار عندما يصطدم بقيود لم يُسمح له بتجاوزها.

ولا يأتي القلق الحالي من Astra وحده، ففي يوليو/تموز الماضي كشفت OpenAI في تقرير أن نماذج تعمل خلال تقييمات للأمن السيبراني تجاوزت بيئات العزل التي كان يفترض أن تمنعها من الوصول إلى الإنترنت، واستغلت ثغرات في بنية بحثية داخلية، ثم وصلت إلى أنظمة تابعة لـHugging Face.

وبحسب التقرير استخدم الوكلاء نظامًا داخليًا كقناة للتواصل فيما بينهم، ثم وجدوا طرقًا للحصول على اتصال خارجي، قبل أن تصل بعض الأنشطة إلى خوادم خارج الشركة، وأكدت الشركة أن الواقعة لم تؤثر في بيانات عملائها أو في توافر منتجاتها.

وتعامل OpenAI مع هذه الوقائع يوضح أن سباق تطوير النماذج بدأ يصطدم بحد عملي جديد؛ قدرات الوكلاء تتحسن بوتيرة تجعل إجراءات الاحتواء نفسها جزءًا من قرار إطلاق المنتج.

وسبق وأن قالت الشركة في خطة الحماية إنها شددت عزل بيئات البحث، ووسعت أنظمة المراقبة، وفرضت قيودًا أقوى على الوصول إلى الإنترنت وأوزان النماذج،موضحة أن الوصول إلى هذه المعايير الجديدة تسبب في تكلفة هندسية وتأخير لأبحاث النماذج المتقدمة.