سلسلة وكلاء الذكاء الاصطناعي — اليوم ١٥
الإنسان في الحلقة · Human-in-the-Loop
الإنسان في الحلقة: الوكيل يجهّز، وأنت تعتمد
في كل منشأة محترمة، المعاملة تمشي مراحل — لكن في لحظة محددة، لازم توقيع صاحب الصلاحية. مو لأن الموظفين مو أكفاء، لأن بعض القرارات ما تُفوَّض. الوكلاء كذلك بالضبط.
الفكرة ببساطة
«الإنسان في الحلقة» يعني نصمم شغل الوكيل بحيث يتوقف عند اللحظات الحاسمة وينتظر موافقة بشرية: يجهّز البريد → أنت تعتمد الإرسال. يجهّز التحويل المالي → أنت تضغط تأكيد. يقترح حذف السجلات → أنت تراجع القائمة أولًا.
الذكاء في اختيار نقاط التوقف: مو كل خطوة (وإلا رجعنا نسوي الشغل يدويًا)، ولا ولا خطوة (وإلا سلّمنا القرارات كلها). القاعدة: كل فعل يصعب التراجع عنه — إرسال، دفع، حذف، نشر — يمر بإنسان.
ليه يهمك هذا؟
هذا المفهوم هو الجسر العملي بين «نبي نستفيد من الوكلاء» و«نخاف من أخطائهم»: الوكيل ينجز 95% من الشغل، والإنسان يحتفظ بالـ 5% الحاسمة. وكل جهة حوكمة تقنية بتسألك عنه — جهّز جوابك.
أسئلة شائعة
وش معنى Human-in-the-Loop؟
تصميم نظام الوكيل بحيث يتوقف عند القرارات الحساسة وينتظر موافقة بشرية صريحة قبل التنفيذ — الوكيل يجهّز، والإنسان يعتمد.
متى تكون الموافقة البشرية إلزامية؟
في كل فعل يصعب التراجع عنه أو له أثر خارجي: إرسال رسائل باسم الشركة، تحويلات مالية، حذف بيانات، نشر محتوى، وأي قرار يمس عميلًا أو موظفًا.
عندك مفهوم محيّرك؟ اقترحه وخلّه الحلقة الجاية
تابع السلسلة على لينكدإن