جاء ذلك خلال جلسة Trust Test for Agentic AI التي أدارتها رئيسة قسم الاقتصاد في سكاي نيوز عربية لبنى بوظة على هامش اجتماعات المنتدى الاقتصادي العالمي، بمشاركة عمر سلطان العلماء وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بُعد في الإمارات العربية المتحدة، ودومبا وزير الاقتصاد الرقمي والابتكار في الغابون، ويالدا عوكر الشريك المؤسس والشريك الإداري في Bracket Capital.

من الذكاء الاصطناعي إلى "الوكيل الذكي"

وركزت الجلسة على مفهوم "الذكاء الاصطناعي الوكيل"، وهو الجيل الجديد من الأنظمة القادرة على تنفيذ سلسلة من المهام واتخاذ قرارات متعددة دون تدخل بشري مباشر في كل خطوة.

وبينما اعتبر المشاركون أن هذه التقنية قد تفتح الباب أمام قفزة كبيرة في الإنتاجية والكفاءة الاقتصادية، فإنهم أجمعوا على أن التوسع في استخدامها يثير أسئلة جوهرية حول المسؤولية والرقابة والشفافية، خاصة عندما تبدأ هذه الأنظمة باتخاذ قرارات تؤثر على حياة الأفراد والشركات والمجتمعات.

وقال عمر سلطان العلماء إن النقاش بشأن الثقة في الذكاء الاصطناعي يجب أن يبدأ من سؤال أوسع يتعلق بالثقة بين البشر أنفسهم، مشيراً إلى أن التكنولوجيا لا ينبغي أن تحل محل الإنسان في القرارات الحساسة، بل أن تكون أداة داعمة له.

وأوضح أن الذكاء الاصطناعي الوكيل يمكن أن يقدم قيمة كبيرة في الخدمات الحكومية والإجراءات الروتينية، لكنه لا يزال بحاجة إلى ضوابط واضحة عندما يتعلق الأمر بقرارات تمس مستقبل الأفراد أو فرصهم الاقتصادية أو حقوقهم الأساسية.

الإمارات تراهن على الخدمات الذكية

وخلال الجلسة، كشف العلماء عن توجه إماراتي طموح لتوسيع استخدام الوكلاء الرقميين في الخدمات الحكومية، موضحاً أن الحكومة تستهدف أن يتم تنفيذ نحو 50 بالمئة من الخدمات الحكومية الاتحادية عبر أنظمة ذكية خلال العامين المقبلين.

وأشار إلى أن الإمارات تتبنى نهجاً تدريجياً يعتمد على إدخال التكنولوجيا أولاً في المجالات الأقل حساسية والأدنى خطراً، مثل الإجراءات الإدارية والخدمات الروتينية، قبل الانتقال إلى وظائف أكثر تعقيداً.

وأضاف أن الحكومة أنشأت منظومة رقابية متخصصة لمراقبة أداء الوكلاء الرقميين وتوثيق قراراتهم وإجراءاتهم بصورة مستمرة، بما يضمن إمكانية تتبع الأخطاء ومراجعة القرارات في أي وقت.

وأكد أن الهدف النهائي من الاستثمار في الذكاء الاصطناعي لا يتمثل فقط في خفض التكاليف أو زيادة الكفاءة، وإنما في تحسين جودة حياة الأفراد وتسهيل حصولهم على الخدمات، معتبراً أن أي تقنية تفشل في خدمة الإنسان لا يمكن وصفها بالنجاح مهما كانت متقدمة.

غياب الحوكمة العالمية

من جهته، سلط دومبا الضوء على التحديات التنظيمية المتزايدة التي تواجه الحكومات مع التطور السريع للذكاء الاصطناعي.

وأشار إلى أن التشريعات الحالية في كثير من الدول لا تزال غير قادرة على مجاراة التطورات التقنية المتسارعة، ما يخلق فجوة متزايدة بين الابتكار والتنظيم.

ودعا إلى تصميم آليات رقابية واضحة داخل أنظمة الذكاء الاصطناعي نفسها، بحيث تتضمن ما يشبه "زر التوقف" أو الحدود الآمنة التي تمنع النماذج من اتخاذ قرارات قد تؤدي إلى نتائج غير مرغوبة.

ورأى أن العالم يحتاج بشكل عاجل إلى قواعد دولية مشتركة لتحديد المسؤولية القانونية والأخلاقية للقرارات التي تتخذها الأنظمة الذكية، خاصة في القطاعات الحيوية مثل الصحة والتمويل والأمن.

سباق التكنولوجيا يعقّد التوافق الدولي

وتناول المشاركون كذلك التحديات السياسية التي تعرقل التوصل إلى إطار عالمي موحد لتنظيم الذكاء الاصطناعي.

وأشار العلماء إلى أن النقاشات داخل المؤسسات الدولية الكبرى، بما في ذلك الأمم المتحدة ومجموعة العشرين ومجموعة السبع، لم تثمر حتى الآن عن توافق دولي شامل بشأن الضوابط اللازمة لهذه التكنولوجيا.

وأوضح أن الدول تتنافس على الريادة في مجال الذكاء الاصطناعي باعتباره محركاً رئيسياً للنمو الاقتصادي والقوة الجيوسياسية مستقبلاً، وهو ما يجعل الوصول إلى اتفاقات عالمية أكثر تعقيداً.

وفي الوقت نفسه، شدد على ضرورة وجود توافق دولي على الأقل بشأن الاستخدامات الأكثر حساسية، وفي مقدمتها أنظمة الأسلحة ذاتية التشغيل التي قد تتخذ قرارات باستخدام القوة أو القتل دون تدخل بشري مباشر.

الأطفال في صدارة المخاوف

أما يالدا عوكر فلفتت الانتباه إلى جانب آخر من التحديات المرتبطة بالذكاء الاصطناعي يتمثل في تأثيره على الأطفال والمراهقين.

وقالت إن انتشار المساعدات الذكية ورفقاء الذكاء الاصطناعي الرقميين يفرض أسئلة جديدة حول تأثير هذه التقنيات على النمو النفسي والاجتماعي للأجيال الجديدة.

وأضافت أن الأطفال يمثلون "الاختبار الحقيقي" لقدرة الشركات والحكومات على تطوير أنظمة آمنة ومسؤولة، محذرة من أن الاعتماد المفرط على التفاعل مع الأنظمة الذكية قد يخلق تحديات اجتماعية وسلوكية طويلة الأمد إذا لم تتم معالجتها مبكراً.

ودعت إلى تبني مبدأ "الأمان منذ التصميم"، بحيث تصبح الحماية جزءاً أصيلاً من تطوير النماذج بدلاً من إضافتها لاحقاً بعد ظهور المشكلات.

هل يهدد الذكاء الاصطناعي الوظائف؟

ولم تغب عن النقاش المخاوف المتعلقة بمستقبل الوظائف وسوق العمل.

وأكد المشاركون أن الذكاء الاصطناعي سيغير طبيعة العديد من المهن خلال السنوات المقبلة، إلا أن التحدي لا يكمن في التكنولوجيا نفسها بقدر ما يكمن في قدرة المجتمعات على إعادة تأهيل الأفراد وتزويدهم بالمهارات الجديدة المطلوبة.

وفي هذا السياق، أشار العلماء إلى مبادرات إماراتية واسعة لتدريب الموظفين والأفراد على أدوات الذكاء الاصطناعي، مؤكداً أن الهدف ليس فقط مواكبة التطور التقني، بل تمكين الناس من الاستفادة منه وخلق فرص اقتصادية جديدة.

معادلة المستقبل

وخلصت الجلسة إلى أن العالم يقف اليوم أمام لحظة مفصلية في تاريخ التكنولوجيا.

فبينما يعد الذكاء الاصطناعي الوكيل بزيادة الإنتاجية ورفع الكفاءة وخلق نماذج أعمال جديدة، تتزايد في المقابل المخاوف المتعلقة بالشفافية والمساءلة والسيطرة البشرية.

وأجمع المشاركون على أن مستقبل هذه التقنية لن يتحدد بقدراتها التقنية وحدها، بل بمدى نجاح الحكومات والشركات والمجتمع الدولي في بناء قواعد حوكمة تضمن أن يبقى الذكاء الاصطناعي أداة لخدمة الإنسان، لا بديلاً عنه.

الخلاصة

خلصت الجلسة إلى أن مستقبل الذكاء الاصطناعي الوكيل لن يتحدد فقط بقدراته التقنية المتنامية، بل بقدرة الحكومات والشركات على بناء منظومة ثقة قائمة على الشفافية والمساءلة والرقابة البشرية.

وبينما تتسارع وتيرة الابتكار، يرى المشاركون أن العالم لا يزال متأخراً في بناء قواعد الحوكمة اللازمة لضمان أن تبقى هذه التكنولوجيا في خدمة الإنسان، لا أن تتحول إلى مصدر جديد للمخاطر.

جاء ذلك خلال جلسة Trust Test for Agentic AI التي أدارتها رئيسة قسم الاقتصاد في سكاي نيوز عربية لبنى بوظة على هامش اجتماعات المنتدى الاقتصادي العالمي، بمشاركة عمر سلطان العلماء وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بُعد في الإمارات العربية المتحدة، ودومبا وزير الاقتصاد الرقمي والابتكار في الغابون، ويالدا عوكر الشريك المؤسس والشريك الإداري في Bracket Capital.

من الذكاء الاصطناعي إلى "الوكيل الذكي"

وركزت الجلسة على مفهوم "الذكاء الاصطناعي الوكيل"، وهو الجيل الجديد من الأنظمة القادرة على تنفيذ سلسلة من المهام واتخاذ قرارات متعددة دون تدخل بشري مباشر في كل خطوة.

وبينما اعتبر المشاركون أن هذه التقنية قد تفتح الباب أمام قفزة كبيرة في الإنتاجية والكفاءة الاقتصادية، فإنهم أجمعوا على أن التوسع في استخدامها يثير أسئلة جوهرية حول المسؤولية والرقابة والشفافية، خاصة عندما تبدأ هذه الأنظمة باتخاذ قرارات تؤثر على حياة الأفراد والشركات والمجتمعات.

وقال عمر سلطان العلماء إن النقاش بشأن الثقة في الذكاء الاصطناعي يجب أن يبدأ من سؤال أوسع يتعلق بالثقة بين البشر أنفسهم، مشيراً إلى أن التكنولوجيا لا ينبغي أن تحل محل الإنسان في القرارات الحساسة، بل أن تكون أداة داعمة له.

وأوضح أن الذكاء الاصطناعي الوكيل يمكن أن يقدم قيمة كبيرة في الخدمات الحكومية والإجراءات الروتينية، لكنه لا يزال بحاجة إلى ضوابط واضحة عندما يتعلق الأمر بقرارات تمس مستقبل الأفراد أو فرصهم الاقتصادية أو حقوقهم الأساسية.

الإمارات تراهن على الخدمات الذكية

وخلال الجلسة، كشف العلماء عن توجه إماراتي طموح لتوسيع استخدام الوكلاء الرقميين في الخدمات الحكومية، موضحاً أن الحكومة تستهدف أن يتم تنفيذ نحو 50 بالمئة من الخدمات الحكومية الاتحادية عبر أنظمة ذكية خلال العامين المقبلين.

وأشار إلى أن الإمارات تتبنى نهجاً تدريجياً يعتمد على إدخال التكنولوجيا أولاً في المجالات الأقل حساسية والأدنى خطراً، مثل الإجراءات الإدارية والخدمات الروتينية، قبل الانتقال إلى وظائف أكثر تعقيداً.

وأضاف أن الحكومة أنشأت منظومة رقابية متخصصة لمراقبة أداء الوكلاء الرقميين وتوثيق قراراتهم وإجراءاتهم بصورة مستمرة، بما يضمن إمكانية تتبع الأخطاء ومراجعة القرارات في أي وقت.

وأكد أن الهدف النهائي من الاستثمار في الذكاء الاصطناعي لا يتمثل فقط في خفض التكاليف أو زيادة الكفاءة، وإنما في تحسين جودة حياة الأفراد وتسهيل حصولهم على الخدمات، معتبراً أن أي تقنية تفشل في خدمة الإنسان لا يمكن وصفها بالنجاح مهما كانت متقدمة.

غياب الحوكمة العالمية

من جهته، سلط دومبا الضوء على التحديات التنظيمية المتزايدة التي تواجه الحكومات مع التطور السريع للذكاء الاصطناعي.

وأشار إلى أن التشريعات الحالية في كثير من الدول لا تزال غير قادرة على مجاراة التطورات التقنية المتسارعة، ما يخلق فجوة متزايدة بين الابتكار والتنظيم.

ودعا إلى تصميم آليات رقابية واضحة داخل أنظمة الذكاء الاصطناعي نفسها، بحيث تتضمن ما يشبه "زر التوقف" أو الحدود الآمنة التي تمنع النماذج من اتخاذ قرارات قد تؤدي إلى نتائج غير مرغوبة.

ورأى أن العالم يحتاج بشكل عاجل إلى قواعد دولية مشتركة لتحديد المسؤولية القانونية والأخلاقية للقرارات التي تتخذها الأنظمة الذكية، خاصة في القطاعات الحيوية مثل الصحة والتمويل والأمن.

سباق التكنولوجيا يعقّد التوافق الدولي

وتناول المشاركون كذلك التحديات السياسية التي تعرقل التوصل إلى إطار عالمي موحد لتنظيم الذكاء الاصطناعي.

وأشار العلماء إلى أن النقاشات داخل المؤسسات الدولية الكبرى، بما في ذلك الأمم المتحدة ومجموعة العشرين ومجموعة السبع، لم تثمر حتى الآن عن توافق دولي شامل بشأن الضوابط اللازمة لهذه التكنولوجيا.

وأوضح أن الدول تتنافس على الريادة في مجال الذكاء الاصطناعي باعتباره محركاً رئيسياً للنمو الاقتصادي والقوة الجيوسياسية مستقبلاً، وهو ما يجعل الوصول إلى اتفاقات عالمية أكثر تعقيداً.

وفي الوقت نفسه، شدد على ضرورة وجود توافق دولي على الأقل بشأن الاستخدامات الأكثر حساسية، وفي مقدمتها أنظمة الأسلحة ذاتية التشغيل التي قد تتخذ قرارات باستخدام القوة أو القتل دون تدخل بشري مباشر.

الأطفال في صدارة المخاوف

أما يالدا عوكر فلفتت الانتباه إلى جانب آخر من التحديات المرتبطة بالذكاء الاصطناعي يتمثل في تأثيره على الأطفال والمراهقين.

وقالت إن انتشار المساعدات الذكية ورفقاء الذكاء الاصطناعي الرقميين يفرض أسئلة جديدة حول تأثير هذه التقنيات على النمو النفسي والاجتماعي للأجيال الجديدة.

وأضافت أن الأطفال يمثلون "الاختبار الحقيقي" لقدرة الشركات والحكومات على تطوير أنظمة آمنة ومسؤولة، محذرة من أن الاعتماد المفرط على التفاعل مع الأنظمة الذكية قد يخلق تحديات اجتماعية وسلوكية طويلة الأمد إذا لم تتم معالجتها مبكراً.

ودعت إلى تبني مبدأ "الأمان منذ التصميم"، بحيث تصبح الحماية جزءاً أصيلاً من تطوير النماذج بدلاً من إضافتها لاحقاً بعد ظهور المشكلات.

هل يهدد الذكاء الاصطناعي الوظائف؟

ولم تغب عن النقاش المخاوف المتعلقة بمستقبل الوظائف وسوق العمل.

وأكد المشاركون أن الذكاء الاصطناعي سيغير طبيعة العديد من المهن خلال السنوات المقبلة، إلا أن التحدي لا يكمن في التكنولوجيا نفسها بقدر ما يكمن في قدرة المجتمعات على إعادة تأهيل الأفراد وتزويدهم بالمهارات الجديدة المطلوبة.

وفي هذا السياق، أشار العلماء إلى مبادرات إماراتية واسعة لتدريب الموظفين والأفراد على أدوات الذكاء الاصطناعي، مؤكداً أن الهدف ليس فقط مواكبة التطور التقني، بل تمكين الناس من الاستفادة منه وخلق فرص اقتصادية جديدة.

معادلة المستقبل

وخلصت الجلسة إلى أن العالم يقف اليوم أمام لحظة مفصلية في تاريخ التكنولوجيا.

فبينما يعد الذكاء الاصطناعي الوكيل بزيادة الإنتاجية ورفع الكفاءة وخلق نماذج أعمال جديدة، تتزايد في المقابل المخاوف المتعلقة بالشفافية والمساءلة والسيطرة البشرية.

وأجمع المشاركون على أن مستقبل هذه التقنية لن يتحدد بقدراتها التقنية وحدها، بل بمدى نجاح الحكومات والشركات والمجتمع الدولي في بناء قواعد حوكمة تضمن أن يبقى الذكاء الاصطناعي أداة لخدمة الإنسان، لا بديلاً عنه.

الخلاصة

خلصت الجلسة إلى أن مستقبل الذكاء الاصطناعي الوكيل لن يتحدد فقط بقدراته التقنية المتنامية، بل بقدرة الحكومات والشركات على بناء منظومة ثقة قائمة على الشفافية والمساءلة والرقابة البشرية.

وبينما تتسارع وتيرة الابتكار، يرى المشاركون أن العالم لا يزال متأخراً في بناء قواعد الحوكمة اللازمة لضمان أن تبقى هذه التكنولوجيا في خدمة الإنسان، لا أن تتحول إلى مصدر جديد للمخاطر.