الذكاء الاصطناعي الوكيلي بين الوعود والواقع.. لماذا لا يزال الإنسان في قلب القرار؟

رغم التوقعات المتفائلة التي رافقت ظهور تقنيات الذكاء الاصطناعي الوكيلي (Agentic AI)، والتي تحدثت عن أنظمة قادرة على إدارة الأعمال واتخاذ القرارات بشكل مستقل، فإن الواقع العملي في عام 2026 يكشف أن هذه الرؤية لم تتحقق بالكامل. فما تزال غالبية المؤسسات تعتمد على الإشراف البشري المباشر، سواء لمراجعة القرارات أو للتدخل عند وقوع الأخطاء أو فرض قيود تشغيلية تضمن سلامة الأداء.

من الذكاء التوليدي إلى الوكلاء المستقلين

يختلف الذكاء الاصطناعي الوكيلي عن أنظمة الذكاء الاصطناعي التوليدي التقليدية في أنه لا يقتصر على الاستجابة للأوامر أو إنتاج المحتوى، بل يمتلك القدرة على تفسير الأهداف، واختيار أفضل الوسائل لتحقيقها، وتنفيذ سلسلة من الإجراءات بصورة شبه مستقلة.

وتوضح الباحثة إليانور واتسون، العضو البارز في معهد مهندسي الكهرباء والإلكترونيات (IEEE)، أن هذه الأنظمة أصبحت أقرب إلى “منفذ رقمي” يستطيع متابعة الأهداف على مدى زمني طويل، مع تعديل خططه وسلوكه وفقا للظروف والمتغيرات.

هذا التطور دفع كثيراً من خبراء التقنية إلى توقع انتشار واسع للوكلاء الأذكياء خلال السنوات المقبلة، سواء في البرمجيات أو الروبوتات أو المركبات ذاتية القيادة أو الخدمات المالية والرعاية الصحية.

لماذا لم يختفِ العنصر البشري؟

رغم القدرات المتزايدة لهذه الأنظمة، فإن المؤسسات لا تزال متحفظة بشأن منحها استقلالية كاملة، ويرجع ذلك إلى عدة أسباب رئيسية:

• صعوبة تحديد المسؤولية القانونية عند وقوع الأخطاء.
• غياب أطر تنظيمية تناسب الأنظمة التي تتخذ قرارات ذاتية.
• الحاجة إلى مراقبة القرارات الحساسة قبل تنفيذها.
• المخاوف المتعلقة بحماية البيانات والأمن السيبراني.

وترى واتسون أن المشكلة لم تعد تقنية فقط، بل أصبحت مرتبطة بطبيعة العلاقة بين الإنسان والذكاء الاصطناعي، إذ يبرز سؤال أساسي: هل يعد الوكيل الذكي مجرد أداة، أم ممثلاً عن المستخدم، أم شريكاً في اتخاذ القرار؟

تحديات الحوكمة والمساءلة

تشير واتسون إلى أن الأطر التنظيمية الحالية صُممت أساساً لبرمجيات تقليدية يكون الإنسان فيها صاحب القرار النهائي، بينما أصبحت الأنظمة الوكيلة اليوم قادرة على تفسير الأهداف واختيار وسائل التنفيذ دون تعليمات تفصيلية، وهو ما يفرض الحاجة إلى نماذج جديدة للمساءلة والحوكمة.

وتقترح اعتماد مفهوم “المواءمة الثنائية”، الذي يضمن توافق مصالح الإنسان والأنظمة الذكية معاً، بما يسمح باستخدام هذه التقنيات بصورة أكثر أماناً ومسؤولية.

الثقة لا تزال العقبة الأكبر

من جانبه، يرى خبير تكنولوجيا المعلومات والرئيس التنفيذي لشركة “ناشيونال كوانتوم”، حسام الدين الأسود، أن استمرار الإشراف البشري لا يعود فقط إلى محدودية التكنولوجيا، وإنما أيضاً إلى اعتبارات قانونية وأخلاقية.

ويؤكد أن المؤسسات التي تمنح الوكلاء الذكيين صلاحيات للوصول إلى قواعد بيانات حساسة أو أنظمة مالية لا تستطيع الاستغناء عن الإنسان باعتباره الضامن الأخير أمام الجهات الرقابية، مضيفاً أن الخطأ الصادر عن خوارزمية قد يسبب خسائر كبيرة، بينما تبقى المسؤولية في النهاية على عاتق المؤسسة.

القرارات المعقدة والسيناريوهات غير المتوقعة

ورغم الأداء القوي للأنظمة الوكيلة في البيئات المتوقعة، فإنها تواجه تحديات عند ظهور ظروف استثنائية أو أحداث لم تكن ضمن بيانات التدريب، حيث تفتقر إلى الحدس البشري وفهم السياقات الاجتماعية والاقتصادية المعقدة.

كما يشير الخبراء إلى أن بعض الوكلاء قد يحقق الهدف المطلوب بطرق غير متوقعة أو غير مناسبة، مما قد يخلق مخاطر تشغيلية جديدة تتطلب تدخلاً بشرياً لتصحيح المسار.

تحديات أمنية متزايدة

من بين أبرز المخاطر التي تواجه المؤسسات أيضاً، إمكانية تعرض الوكلاء الذكيين لهجمات مثل “حقن الأوامر غير المباشر”، والتي قد تدفع النظام إلى تنفيذ إجراءات غير مصرح بها أو الكشف عن معلومات حساسة.

كما أن الأنظمة متعددة الوكلاء أصبحت تتخذ عشرات القرارات خلال أجزاء من الثانية، الأمر الذي يجعل تفسير أسباب تلك القرارات ومراجعتها عملية أكثر تعقيداً بالنسبة للمديرين والجهات التنظيمية.

الأرقام تؤكد استمرار الإشراف البشري

تعكس البيانات الحديثة استمرار اعتماد المؤسسات على العنصر البشري في إدارة الوكلاء الأذكياء، إذ تشير الإحصاءات إلى أن:

• نحو 69% من قرارات أنظمة الذكاء الاصطناعي الوكيلي تخضع للمراجعة البشرية قبل اعتمادها.
• حوالي 87% من المؤسسات تستخدم وكلاء ذكيين يعملون ضمن أنظمة رقابة وإشراف بشري مستمر.

مستقبل الذكاء الاصطناعي الوكيلي

يتجه الذكاء الاصطناعي الوكيلي نحو لعب دور أكبر في مختلف القطاعات خلال السنوات المقبلة، إلا أن تحقيق الاستقلالية الكاملة لا يزال يواجه تحديات كبيرة تتعلق بالثقة والحوكمة والأمن والمسؤولية القانونية.

ولهذا يبدو أن المرحلة الحالية تقوم على نموذج “الإنسان داخل الحلقة”، حيث يعمل الذكاء الاصطناعي على تنفيذ المهام وتسريع العمليات، بينما يحتفظ الإنسان بالقرار النهائي في الحالات الحساسة، وهو نموذج يُرجح أن يستمر حتى تنضج الأطر التنظيمية والقانونية القادرة على استيعاب هذا الجيل الجديد من الأنظمة الذكية.