تطلق Nvidia منصة جديدة لمحاربة عوامل الذكاء الاصطناعي الضارة

مع احتدام الجدل حول ما إذا كانت الموجة الأخيرة من عوامل الذكاء الاصطناعي الضارة هي خطوة نحو الذكاء الاصطناعي العام أو مشكلة هندسية أكثر تقليدية، تقدم Nvidia إجابتها الخاصة للمشكلة.

قدم الرئيس التنفيذي لشركة NVIDIA Jensen Huang يوم الاثنين مجموعة أدوات من منتجات البرامج والأجهزة التي تضيف طبقات أمان مستقلة حول عملاء الذكاء الاصطناعي لضمان بقائهم في بيئات الاختبار الخاصة بهم حتى إذا حاولوا الهروب.

يتبع الإصدار سلسلة من حوادث القرصنة التي تنطوي على نماذج الذكاء الاصطناعي من Anthropic وGoogle وOpenAI و Meta التي تجاوزت الضوابط الأمنية للهروب من بيئات الاختبار الخاصة بها والوصول إلى أنظمة العالم الحقيقي. المثال الأول والأكثر وضوحًا حدث هذا الصيف عندما اخترق عملاء OpenAI برنامج Hugging Face أثناء محاولتهم إكمال مهمة الأمن السيبراني. وتستمر النجاحات: فقد نشرت شركة OpenAI موقعًا جديدًا مخصصًا للتقارير التي تفيد بأن عملاء الذكاء الاصطناعي التابعين لها مارقون.

قال هوانغ في مقابلة مع CNBC يوم الاثنين إن منصته الأمنية الجديدة Nvidia Open Agent كانت ستمنع هذه الانتهاكات. تطوير أو إضافة لوائح جديدة للصناعة لمعالجة المشكلة. مشكلة أمنية. تعتقد الشركة أن الحل هو نقل بعض الضوابط الأمنية خارج الوكيل، وإنشاء وكيل أمني ثابت ومستقل يبقي عملاء الذكاء الاصطناعي تحت المراقبة.

قال هوانغ في بيان: "إن الإمكانات غير العادية للذكاء الاصطناعي للمجتمع لن تتحقق إلا إذا قمنا بحل مسألة أمن الذكاء الاصطناعي". "بينما نواصل اكتشاف حدود قدرات الذكاء الاصطناعي، يجب علينا تسريع الاكتشافات على حدود أمن الذكاء الاصطناعي. تتطلب السلامة والأمن هندسة شاملة." مستقل يعمل على وحدات معالجة البيانات BlueField-4 من Nvidia. تدعي Nvidia أن وضع Sentry على معالج منفصل - بدلاً من وحدة المعالجة المركزية أو وحدة معالجة الرسومات التي يعمل عليها وكيل الذكاء الاصطناعي - يوفر رؤية منعزلة لنشاط الوكيل.

OpenShell ليس جديدًا؛ أعلنت الشركة عن البرنامج في مارس. لكن هذا المزيج هو ما تعتقد Nvidia أنه سيوفر طبقة الأمان اللازمة للحفاظ على تقدم الصناعة للأمام. يوفر OpenShell حدود البرنامج حول الوكيل، بينما يضيف Sentry خط دفاع آخر على مستوى الأجهزة الذي تقول الشركة إنه سيراقب السلوك باستمرار و"وكلاء العزل الذين يحاولون الخروج من حدودهم خلال أجزاء من الثانية". لم يتم إدراج OpenAI كشركة مشاركة.

صرح هوانغ لـ CNBC في مقابلة يوم الاثنين أن العمل في هذا الجهد بدأ قبل عام بعد تقديم OpenClaw، وهو نظام تشغيل وكيل أنشأه بيتر شتاينبرجر. في مارس، أطلقت Nvidia NemoClaw، وهي منصة وكيل للذكاء الاصطناعي للمؤسسات ونسختها الخاصة من OpenClaw التي تدمج الأمان.

كان خروج نفيديا مدعومًا على نطاق واسع من قبل أولئك الذين حذروا من أن التباطؤ في التطوير قد يسمح للصين بتجاوز الولايات المتحدة في مجال الذكاء الاصطناعي.

قال ديفيد ساكس، المؤسس وصاحب رأس المال الاستثماري وقيصر الذكاء الاصطناعي السابق في البيت الأبيض والرئيس المشارك للمجلس الاستشاري للرئيس للعلوم والتكنولوجيا، إن إعلان Nvidia هو تذكير بأن سلامة العميل هي مشكلة هندسية.

كتب على "التطورات الأخيرة لم تكن دليلا على أن التنمية يجب أن تتوقف".