قدمت Microsoft يوم الاثنين ميزات أمان جديدة مصممة لحماية الشركات من التهديد المتزايد لعملاء الذكاء الاصطناعي. ويأتي هذا الإطلاق في الوقت الذي تواصل فيه Microsoft تحذير الشركات من مخاطر الذكاء الاصطناعي والوكلاء.

ربما تكون الإضافة الأكثر بروزًا هي Guardian Agents، وهي ميزة جديدة تهدف إلى مراقبة وكلاء الذكاء الاصطناعي الذين تستخدمهم المؤسسة. يعد Guardian Agents جزءًا من Project Perception، وهو منتج تم إطلاقه في يونيو.

كان Project Perception بمثابة إجابة Microsoft لنماذج الاختراق القوية مثل Anthropic's Mythos وFable ونظام فحص الثغرات الأمنية الخاص بـ OpenAI، Daybreak. أطلق Project Perception في البداية ثلاث فئات من العملاء: "الفريق الأحمر" الذي يتصرف مثل المتسللين ويهاجمهم، و"الفريق الأزرق" الذي اكتشف الفريق الأحمر وقام بتقييم نقاط الضعف التي تم العثور عليها، و"الفريق الأخضر" المكلف بتصحيحها. لكن في الآونة الأخيرة، حذر الرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، من أن عدو الذكاء الاصطناعي يمكن أن يكون العملاء الذين تنشرهم الشركات وتدفع لهم، مثل الموظف البشري غير النزيه، والمعروف باسم "التهديد الداخلي". وهو يريد من الشركات أن تنفذ أنظمة منفصلة، ​​لا تسيطر عليها مختبرات الذكاء الاصطناعي، لمراقبة العوامل التي تطلقها منتجات مختبرات الذكاء الاصطناعي هذه والتحكم فيها.

"نحن ننشر أنظمة ونماذج العملاء المعقدة هذه، مع إمكانية الوصول إلى بياناتنا الأكثر حساسية وتمكينهم من اتخاذ إجراءات حاسمة نيابة عنا!'' كتب. "نحن ببساطة لا نستطيع الاستعانة بمصادر خارجية للمسؤولية عما تفعله الاستخبارات نيابة عنا. إن ضمانات المزود النموذجي لا تعفينا من تلك المسؤولية. ... بعبارة أخرى، يجب علينا أن نفصل بين توفير المعلومات الاستخبارية والسلطة عليها. وكتبت: "للأسف، لا يمكن الوثوق بالنماذج الحدودية، بغض النظر عن أصلها"، مضيفة أن هذا ليس لأنها ضارة أو سهلة الاختراق، ولكن لأنها لا يمكن التنبؤ بها. لقد تم تدريبهم على إنجاز المهام وعدم اتباع "المعايير التنظيمية أو الأحكام".

علاوة على ذلك، غالبًا ما يتم منحهم مفاتيح المملكة، مع إمكانية الوصول إلى البيانات والأدوات التي يمكن أن تسبب ضررًا جسيمًا.

الحل الذي تقدمه Microsoft مفاجئ ويخدم مصالحها الذاتية. والجزء المثير للدهشة هو أن مايكروسوفت قريبة جدًا من OpenAI وAnthropic، بعد أن استثمرت في كليهما. تعد OpenAI أيضًا أحد أكبر عملائها السحابيين وتمتلك Microsoft نماذج تطوير مختبر الذكاء الاصطناعي الخاصة بها. ومن ثم، فإن مايكروسوفت تزرع بذور عدم الثقة في بعض مصالحها التجارية.

جانب الخدمة الذاتية هو أن مايكروسوفت تريد من الشركات أن تشتري منتجات أمان الوكيل منها، مزود السحابة، وليس من Anthropic وOpenAI. ولكن بعيداً عن المصالح المتضاربة، فإن منطقها راسخ. يجب أن تكون البرامج التي تراقب سلوك الوكلاء منفصلة عن تلك الخاصة بموفري الوكلاء، تمامًا كما يجب أن يكون المدققون مستقلين عن المؤسسات التي يقومون بمراجعتها. أو كما يقول ناديلا: "يتعين علينا أن نفصل بين توفير المعلومات والسلطة التي تسيطر عليها". »

تغتنم Microsoft الآن فرصة العمل هذه بطرق مختلفة. بالإضافة إلى وكلاء Guardian، أضافت الشركة وظيفة اكتشاف الوكيل إلى منتج Microsoft Defender الخاص بها، وهو قادر على اكتشاف ما يصل إلى 60 نوعًا من الوكلاء الذين يجلبهم الموظفون إلى مكان العمل، بما في ذلك Claude Code وCodex وOpenClaw. كما أنها أضافت ميزات تحد من وصول الوكلاء إلى البيانات والأنظمة، وتضبط أذونات الوكلاء ديناميكيًا بناءً على المهمة. يتضمن ذلك طلب موافقة بشرية إذا بدا أن الوكيل يتخذ قرارات محفوفة بالمخاطر.

فكرة الوكلاء كمطلعين غير جديرين بالثقة تترسخ أيضًا في جميع أنحاء الصناعة.

كانت Microsoft عضوًا مبكرًا في منصة Open Agent Safety الجديدة من Nvidia، والتي حصلت على دعم من أكثر من 100 شركة تقنية أخرى. تعمل المنصة على عزل العملاء في بيئات آمنة ويمكنها مراقبة السلوك وإيقافه من خلال الأجهزة، وتعمل كمفتاح إيقاف. يأتي ذلك في أعقاب إعلان Microsoft عن أجهزة كمبيوتر Surface Laptop Ultra الجديدة المصممة للعملاء، والتي تعمل على شرائح Nvidia وتتميز بعناصر التحكم في الأمان والوكلاء.