وزير الذكاء الاصطناعي يحذر من احتمال اختراق الدفاعات السيبرانية في المملكة المتحدة

حذر وزير الذكاء الاصطناعي البريطاني من أنه "من المحتمل، إن لم يكن حتميًا" أن يتم اختراق الدفاعات الإلكترونية للبلاد في وقت ما.

في حديثه في مؤتمر صحفي، أشار كانيشكا نارايان إلى حادثة مارق. قام عميل OpenAI باختراق موقع ويب للحكومة الأسترالية في يونيو.

وقال إنه على الرغم من عدم معرفة أنه تم الوصول إلى السجلات الطبية في الهجوم، إلا أن الحادث لا يزال "يثير قلقنا".

قال نارايان إن الحكومة تخطط لاستخدام الذكاء الاصطناعي المتقدم للعمل على مكافحة التهديد، كما أوضح كيف تخطط الحكومة للتحضير لـ أي حوادث مستقبلية خطيرة.

قال الوزير إن هذه الخطوة ستعتمد على مشروعين تجريبيين حاليين ساعدا في تحديد وإصلاح أكثر من 1000 نقطة ضعف عبر الأنظمة الحكومية.

وقال إن رسالته إلى أكبر الشركات التي تقف وراء أقوى أنظمة الذكاء الاصطناعي في العالم هي: "استمع عندما علمائكم يحذرون من مخاطر جسيمة. تحققوا من السلوك غير المتوقع. وإذا لم تتمكنوا من السيطرة على المخاطر بشكل مناسب، فلا تطلقوا سراح النظام. للمساعدة في الحفاظ على سلامة الأشخاص".

"على مدى الأسابيع القليلة الماضية، عملنا بشكل وثيق مع حكومة الولايات المتحدة... للاحتفاظ بإمكانية وصول معهد أمن الذكاء الاصطناعي البريطاني إلى أقوى نماذج الذكاء الاصطناعي قبل إصدارها".

وقال إن المملكة المتحدة ستنظر أيضًا في إنشاء حماية أقوى من خلال الأمن السيبراني. ومشروع قانون المرونة، لا سيما فيما يتعلق بكيفية تحديد حوادث الذكاء الاصطناعي الخطيرة والإبلاغ عنها.

يتبع هذا الإعلان سلسلة من الحوادث التي شارك فيها عملاء الذكاء الاصطناعي عبر الشركات الكبرى مثل OpenAI وAnthropic الذين يتصرفون خارج نطاق السيطرة البشرية ويخترقون الأنظمة الخارجية.

في 9 سبتمبر، إيفان هوبنجر، حذر أحد كبار الباحثين في مجال السلامة في Anthropic، في منشور على X من أن الذكاء الاصطناعي يتقدم بسرعة كبيرة، ويعتقد أن هناك فرصة أكبر من 10٪ أنه "يمكن أن يقتل جميع البشر" خلال العقد المقبل.

وقد أيد رؤساء عمالقة الذكاء الاصطناعي في الولايات المتحدة مثل Anthropic وOpenAI وGoogle DeepMind فكرة تطوير الذكاء الاصطناعي. التباطؤ.

ومع ذلك، لا توجد حاليًا قواعد سلامة عالمية معمول بها لتنظيم الشركات وتقنياتها.

وفي الوقت نفسه، دعا الرئيس ترامب القطاع إلى تنظيم نفسه حتى لا تخسر الشركات الأمريكية أمام المنافسين الصينيين.