قد يُنهي الوكيل المهمة دون أن ينجح فيها: سجلات نظيفة ونتيجة ناقصة. إليك كيف تفرّق بين «انتهى» و«نجح»، وما يعنيه ذلك لمشروع الذكاء الاصطناعي لديك.
في أنظمة الوكلاء الذكية (AI Agents) التي تُنجز مهامًا متعددة الخطوات، يتكرر مشهد يبدو ناجحًا على السطح: الواجهة تعرض رسالة «تمت المهمة»، والسجل خالٍ من الأخطاء، ومع ذلك تكون النتيجة النهائية ناقصة أو غير صحيحة. هذا الفرق بين «انتهى» و«نجح» هو أحد أخطر الفجوات في مشاريع الذكاء الاصطناعي المؤسسية، لأنه لا يُكتشف إلا بعد أن يبني أحدهم قرارًا على مخرجات معيبة.
لماذا «انتهى» لا تعني «نجح»؟
الوكيل الذكي يعمل ضمن حلقة: يفكر، ينفّذ أداة أو استدعاءً، يقرأ النتيجة، ثم يقرر الخطوة التالية. وحين يصادف عقبة — واجهة برمجية تُرجع خطأً، أو بيانات مفقودة، أو صيغة غير متوقعة — فإنه غالبًا لا يتوقف، بل «يتكيّف» بطريقة تبدو معقولة: يتجاوز الخطوة، أو يخمّن قيمة بديلة، أو يعلن الإنجاز اعتمادًا على ما لديه. النتيجة أن حالة التنفيذ (Execution Status) تكون «مكتملة»، بينما حالة النجاح (Success Status) لم تُقَس أصلًا.
هذه ليست عيبًا في النموذج بقدر ما هي خاصية في التصميم: النماذج اللغوية مُدرَّبة على إنتاج إجابات، لا على الاعتراف بالعجز. لذلك فإن أي نظام يعتمد على «إعلان الوكيل نجاحه» كدليل على النجاح هو نظام بلا ضوابط حقيقية.
المبدأ الأول: لا تثق بتقرير الوكيل عن نفسه
أول خطوة عملية هي فصل من ينفّذ عن من يتحقق. اجعل التحقق عملية مستقلة تُقارن المخرجات بمعيار خارجي، لا بنص يكتبه الوكيل. عمليًا، هذا يعني بناء «حاجز تحقق» (Verification Layer) بين الوكيل وبين النظام الذي يستهلك نتيجته، يرفض المخرجات التي لا تستوفي شروطًا محددة مسبقًا.
من المفيد التفكير في ثلاث طبقات تحقق متكاملة:
- تحقق بنيوي: هل المخرجات بالصيغة المطلوبة؟ هل الحقول الإلزامية موجودة؟ هل القيم ضمن النطاق المسموح؟
- تحقق منطقي: هل الأرقام متسقة؟ هل المجاميع تطابق التفاصيل؟ هل التواريخ متسلسلة بشكل معقول؟
- تحقق مرجعي: هل يمكن تتبّع كل ادعاء إلى مصدره؟ هل الاستشهادات موجودة فعلًا في المستندات المُدخلة؟
أدوات عملية للتحقق
1. اجعل الأدوات تُرجع حالات صريحة. حين يفشل استدعاء واجهة برمجية، يجب أن يعود للوكيل خطأ واضح لا نتيجة فارغة يمكن تفسيرها بحرية. النتيجة الفارغة هي أسوأ من الخطأ، لأنها تفتح الباب للتخمين.
2. استخدم قوائم تحقق آلية (Checklists). بعد كل مهمة، شغّل سلسلة اختبارات قصيرة: هل عدد السجلات المعالجة يطابق عدد السجلات المُدخلة؟ هل كل بند في التقرير له مصدر؟ هل الحقول الحرجة غير فارغة؟ هذه الاختبارات رخيصة وسريعة وتكشف معظم حالات «الانتهاء الزائف».
3. طبّق قاعدة «الفشل الصريح». علّم النظام أن يقول «لم أستطع إكمال الخطوة الثالثة لسبب كذا» بدلًا من تقديم نتيجة ناقصة. هذا يتطلب تعليمات واضحة في موجه النظام (System Prompt) واختبارات تُظهر أن الوكيل يلتزم بها فعلًا عند الفشل.
4. راقب ما لا يقوله الوكيل. راقب معدل استخدام الأدوات، وعدد الخطوات لكل مهمة، ونسبة المهام التي لم تستدعِ أي أداة خارجية. المهمة التي «أُنجزت» في خطوة واحدة حين تتطلب عادة خمس خطوات هي إشارة خطر، لا كفاءة.
كيف تقيس النجاح على نطاق واسع؟
التحقق اليدوي لا يتوسع. لذلك ابنِ مجموعة تقييم (Evaluation Set) من مهام حقيقية ممثلة، مع إجابات مرجعية أو معايير قبول واضحة. شغّل عليها كل تغيير في الموجه أو النموذج أو الأدوات، وقِس معدل النجاح الفعلي لا معدل الإكمال. تابع مؤشرين منفصلين دائمًا: نسبة المهام التي انتهت، ونسبة المهام التي انتهت بنتيجة صحيحة. الفجوة بينهما هي مقياس جودة نظامك الحقيقي.
أضف إلى ذلك عيّنة مراجعة بشرية دورية، ولو صغيرة، على المهام التي «نجحت» آليًا. البشر يلتقطون أنماط الخطأ التي لا تلتقطها القواعد، وهذه العينة تغذي تطوير قواعد التحقق نفسها.
ما يعنيه هذا لمشروعك
الدرس الأهم أن الثقة في وكيل الذكاء الاصطناعي تُبنى بالهندسة، لا بالانطباع. النظام الجيد ليس الذي يبدو ذكيًا في العرض التجريبي، بل الذي يعرف متى يتوقف ويقول «لم أنجح»، ويقدّم أثرًا يمكن التحقق منه خطوة بخطوة. ابدأ صغيرًا: اختر مهمة واحدة عالية القيمة، وحدّد معيار نجاحها بدقة قبل بناء الوكيل، ثم ابنِ طبقة التحقق حولها. هذا الترتيب يوفّر عليك أشهرًا من إصلاح أخطاء صامتة لاحقًا.
إذا كنت تفكر في إدخال وكيل ذكي إلى عملك، أو لديك وكيل يعمل بالفعل وتشك في جودة مخرجاته، يسعدني أن نناقش معًا كيف نبني طبقة تحقق مناسبة لسياقك — تواصل معي على contact@hamzabelgacem.com.