حذر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، من مخاطر الثقة العمياء في أنظمة الذكاء الاصطناعي، خاصة مع تطور الوكلاء الذكيين وقدرتهم على الوصول إلى البيانات الحساسة وتنفيذ المهام بصورة مستقلة، مؤكدًا ضرورة وضع ضوابط أمنية ورقابية تمنع هذه الأنظمة من تجاوز الصلاحيات الممنوحة لها، وأوضح ناديلا، في منشور عبر منصة «إكس» بعنوان «النماذج باعتبارها مخاطر داخلية في عصر الذكاء الفائق»، أن الاعتماد على تأكيدات الشركات المطورة بشأن سلامة نماذج الذكاء الاصطناعي لا يعفي المؤسسات من مسؤوليتها عن مراقبة سلوك هذه الأنظمة والتحكم في المهام التي يمكنها تنفيذها.
وكلاء الذكاء الاصطناعي يثيرون مخاوف أمنية
وأشار التحذير إلى أن استخدام الذكاء الاصطناعي لم يعد مقتصرًا على الإجابة عن الأسئلة أو كتابة رسائل البريد الإلكتروني وإنشاء الصور، بل امتد إلى التعامل مع بيانات الشركات وتشغيل البرامج وتنفيذ المهام دون تدخل بشري مستمر، وهو ما يفتح المجال أمام أخطاء قد تكون لها تداعيات أمنية وتشغيلية خطيرة، وتزداد صعوبة التعامل مع هذه المخاطر بسبب تعقيد آلية عمل نماذج الذكاء الاصطناعي، إذ قد لا تتمكن المؤسسات دائمًا من تحديد الأسباب التي دفعت النموذج إلى تقديم إجابة خاطئة أو اتخاذ إجراء غير متوقع، ما يجعل وجود أنظمة مستقلة للرقابة ضرورة أساسية.
ناديلا: الذكاء لا يعني امتلاك الصلاحيات
وشدد الرئيس التنفيذي لمايكروسوفت على أهمية الفصل بين قدرة الذكاء الاصطناعي على تقديم المعلومات والتحليلات، وبين امتلاكه سلطة تنفيذ القرارات، موضحًا أن قدرة النموذج على اقتراح معاملة مالية أو تحليل معلومات سرية لا تعني منحه تلقائيًا صلاحية تنفيذ تلك المعاملة أو الوصول إلى جميع البيانات، ودعا إلى وضع حدود واضحة للصلاحيات الممنوحة للوكلاء الذكيين، مع تسجيل الإجراءات التي ينفذونها، واختبار الأنظمة بصورة منتظمة للكشف عن نقاط الضعف، إلى جانب توفير آليات تتيح للبشر إيقاف هذه الأنظمة عند ظهور سلوك غير متوقع، كما حذر من الاعتماد على نموذج ذكاء اصطناعي واحد لمراجعة أداء نموذج آخر دون وجود وسائل تحقق مستقلة، لأن ذلك قد يؤدي إلى تكرار الأخطاء بدلًا من اكتشافها، مؤكدًا أهمية بناء أنظمة قادرة على مراقبة السلوك وتقييد الوصول إلى الموارد واحتواء أي خلل محتمل.
الشفافية والمراقبة أساس الثقة في AI
وأكد ناديلا أهمية الإفصاح في الوقت المناسب عن حالات فشل أنظمة الذكاء الاصطناعي أو تعرضها للاختراق، بما يسمح للمؤسسات الأخرى بالاستفادة من التجارب السابقة وتعزيز إجراءات الحماية، ويعكس هذا التحذير تحديًا متزايدًا أمام الشركات التي تتوسع في استخدام الوكلاء الذكيين، إذ لم يعد تطوير أنظمة أكثر قدرة كافيًا لضمان الاستخدام الآمن، بل أصبح من الضروري تحديد ما يمكن لهذه الأنظمة الوصول إليه، والإجراءات التي يسمح لها بتنفيذها، والجهات المسؤولة عن مراجعة قراراتها، وتتمثل الرسالة الأساسية في أن الثقة الحقيقية في الذكاء الاصطناعي لا تقوم على افتراض أن النماذج لن تخطئ، وإنما على تصميم أنظمة رقابية تستطيع اكتشاف الأخطاء والحد من آثارها، مع الاحتفاظ بالسيطرة البشرية على القرارات والمهام الحساسة.
التعليقات 0
كن أول من يعلق على هذا الخبر