دعا مجلس الاستقرار المالي الدولي FSB المؤسسات المصرفية والمالية إلى تعزيز الرقابة البشرية على أنظمة الذكاء الاصطناعى ، القادرة على اتخاذ خطوات وتنفيذ مهام بصورة مستقلة، محذرًا من مخاطر الاعتماد على هذه الأنظمة في العمليات التي قد تؤثر في الأموال والبيانات والخدمات، في تطور يعكس انتقال المؤسسات الرقابية من التركيز على دقة إجابات الذكاء الاصطناعي إلى مراقبة القرارات والإجراءات التي يمكنه تنفيذها دون تدخل مباشر من الموظفين.


ووفقًا لتقرير نشرته وكالة رويترز، أصدر مجلس الاستقرار المالي إرشادات نهائية بشأن إدارة مخاطر الذكاء الاصطناعي الوكيل Agentic AI داخل البنوك والمؤسسات المالية، بعدما أجرى تعديلات على توصيات سابقة استنادًا إلى ملاحظات الجهات المعنية، وأكد المجلس أن الاستخدامات ذات المخاطر المرتفعة تحتاج إلى رقابة بشرية أكثر كثافة، مع تحديد الحالات التي يجب عندها حصول النظام على موافقة إنسان قبل استكمال المهمة، خصوصًا عندما تكون النتائج مرتبطة بعمليات مالية أو بيانات حساسة.


 

لماذا يخشى المنظمون من وكلاء الذكاء الاصطناعي؟


تختلف الأنظمة الوكيلة عن روبوتات المحادثة التي تكتفي بتوليد النصوص، لأنها تستطيع التخطيط وتنفيذ سلسلة من الإجراءات لتحقيق هدف معين، وقد تشمل استخدام برامج أخرى أو التعامل مع المعلومات واتخاذ خطوات متتابعة، وهو ما يخلق مخاطر عندما تسيء الأنظمة تفسير التعليمات أو تتعامل مع مواقف لم يتوقعها المطورون، ولذلك يركز المجلس على وضع حدود واضحة للصلاحيات وتحديد نقاط تستوجب العودة إلى الموظف المسؤول.

 

الذكاء الاصطناعي ليس موظفًا بشريًا


وحذف المجلس من إرشاداته السابقة توصية بالتعامل مع أنظمة الذكاء الاصطناعي باعتبارها موظفين اصطناعيين، مؤكدًا اختلاف طريقة عملها عن التفكير البشري وإمكان تفسيرها الأهداف المحددة بطرق غير متوقعة، ويعني ذلك أن المؤسسات مطالبة بوضع إجراءات رقابة تراعي طبيعة الأنظمة بدلًا من افتراض تصرفها مثل العاملين، وتكتسب هذه التوصيات أهمية مع توسع البنوك في استخدام الذكاء الاصطناعي، لكنها تظل إرشادات تنظيمية وليست قانونًا دوليًا ملزمًا لجميع المؤسسات.