في تطور جديد، كشفت شركة OpenAI عن ست حالات لسلوك وصفته بأنه «غير متوقع أو مقلق»، رُصدت خلال تدريب أو تقييم نماذجها خلال الأشهر الستة الماضية، بالتزامن مع إعلان إطار جديد لتتبع حالات عدم توافق سلوك النماذج مع الأهداف المحددة لها والتحقيق فيها والإبلاغ عنها.
ومن بين الحالات التي عرضتها الشركة، نموذج استخدم مفتاح وصول إلى واجهة برمجية API دون تصريح، قبل أن يختلق بيانات بعد فشله في الحصول على المعلومات المطلوبة.
كما رُصد نموذج آخر قام برفع ملف إلى الإنترنت من تلقاء نفسه بهدف إنشاء رابط مرجعي.
وشملت الحالات أيضاً نماذج استخدمت قنوات أو خدمات داخلية لتبادل رسائل فيما بينها، إضافة إلى حالات قامت فيها نماذج برفع ملفات إلى منصات عامة، رغم أن المهمة كانت تفترض معالجة الملفات محلياً، ما جعل بعض النتائج متاحة عبر روابط مفتوحة.
وتسلط هذه الوقائع الضوء على تحديات مراقبة النماذج عندما تُمنح أدوات وصلاحيات أوسع لتنفيذ المهام، خصوصاً عندما تتصرف بطرق لم تكن متوقعة من مطوريها.
وتعيد هذه التطورات طرح سؤال جوهري حول مستقبل الذكاء الاصطناعي: هل تتطور قدرات النماذج بوتيرة أسرع من أنظمة الرقابة المصممة لمتابعة سلوكها؟.
كما أكدت OpenAI أن قضايا المواءمة والمراقبة لا تزال بحاجة إلى مزيد من التطوير، معتبرة أن التقدم في هذه المجالات يجب أن يواكب تطور قدرات النماذج، وأن القرارات المقبلة ينبغي أن تستند إلى أدلة يمكن لجهات خارج الشركات المطورة فحصها بشكل مستقل.
