يتم إصدار التحذيرات بشأن ما قد يفعله الذكاء الاصطناعي في المستقبل - إلى جانب التقارير المزعجة عما وصل إليه بالفعل - بسرعة كبيرة لدرجة أنه حتى خبراء الأمن يواجهون صعوبة في فرز ما يدعو للقلق.

ومع ذلك، لفت تقرير هذا الأسبوع من فريق البحث الهجومي في Anthropic الانتباه من خلال وصف تهديد عملي جديد، خالٍ من الخصائص البشرية أو تأملات نهاية العالم. وقال الفريق الأحمر، كما يطلق على هؤلاء المختبرين الداخليين، إنه أنشأ برنامج ذكاء اصطناعي خبيث ينتشر بشكل مستقل من خلال أجهزة التلفزيون "الذكية" المتصلة بالإنترنت ويمكنه أن يفعل الشيء نفسه داخل الأجهزة العادية الأخرى. في حين أن الآلات التي تعمل بالذكاء الاصطناعي تحتاج عادةً إلى قدر لا بأس به من قوة الحوسبة، قال الباحثون إن برنامجهم قام بتقسيم أجزاء من نفسه بين 15 تلفزيونًا وكان لا يزال قادرًا على العمل باستخدام القليل من الطاقة من كل منها.

ذكاء اصطناعي في فرنك؟ الأنثروبيك تحذر النماذج من التكاثر الذاتي على الأجهزة الذكية على بعد أشهر

بالإضافة إلى استحضار "الهوركروكسات التي أبقت أجزاء من روح اللورد فولدمورت حية داخل الأشياء في سلسلة هاري بوتر، أثار التقرير قلق بعض المتخصصين لأن الضعف الأمني بشكل عام لأجهزة التلفزيون الذكية والعديد من أجهزة "إنترنت الأشياء" الأخرى سيكون من الصعب للغاية تصحيحه، حتى مع بذل جهد منسق.

"إنه أمر يدعو للقلق تمامًا مثل كل موجة أخرى من الهجمات الإلكترونية. نحن بحاجة إلى التخفيف من احتمالية حدوث ذلك". قال جوشوا ساكس، الذي قاد تطوير الجهود الأمنية للذكاء الاصطناعي في شركة Meta. "أنا قلق الآن من أن الأشخاص في مجتمع الأمن السيبراني لا يأخذون هذه الأنواع من المخاطر الحقيقية على محمل الجد كما ينبغي."

قد يكون الضرر الذي تسببه "ديدان الذكاء الاصطناعي" كبيرًا بشكل مذهل. تُعرف فيروسات الكمبيوتر ذاتية التكاثر، والتي لا تحتاج إلى خداع الإنسان لنشرها، بالديدان، وقد أحدثت الديدان السابقة بعضًا من أسوأ الخراب في تاريخ الإنترنت.

يتضمن هذا الإرث دودة موريس عام 1988، والتي وصلت قبل انتشار الإنترنت الاستهلاكي السائد، عندما أصدر أحد طلاب الدراسات العليا برنامجًا استفاد من عيوب البرامج المختلفة وكلمات المرور الضعيفة، نسخ نفسها بسرعة كبيرة لدرجة أن العديد من الأجهزة المصابة تباطأت حتى توقفت. جلبت الولايات المتحدة وإسرائيل الديدان إلى التجسس الدولي باستخدام فيروس ستوكسنت الخفي في أواخر العقد الأول من القرن الحادي والعشرين، والذي خرب أجهزة الطرد المركزي النووية الإيرانية. وتسببت ديدان أخرى مثل NotPetya الروسية وWannaCry المنسوبة إلى كوريا الشمالية في أضرار تقدر بعشرات المليارات من الدولارات في جميع أنحاء العالم.

تعتمد العديد من الديدان الأكثر تدميراً في العالم على ثغرات أمنية معروفة لم يصححها أصحاب الأجهزة، وأحيانًا بعد أشهر من توفر التصحيحات. وتوقع فريق الأنثروبيك أن دودة مثل دودةهم يمكن أن تعمل بنفس الطريقة ويكون من الصعب إيقافها، لأن الأجهزة الذكية تتلقى التصحيحات بشكل أقل من الهواتف أو أجهزة الكمبيوتر المحمولة. والأسوأ من ذلك، أنهم افترضوا أن دودة الذكاء الاصطناعي يمكن أن تستمر في التكيف مع أنواع أخرى من الأجهزة من خلال البحث عن نقاط الضعف التي تم الكشف عنها حديثًا.

ما يميز ديدان الذكاء الاصطناعي عن فيروسات التكاثر النموذجية هو أن نماذج الذكاء الاصطناعي يمكن أن تتعلم أثناء تقدمها، كما قال أرييل هربرت فوس، خبير الأمان المبكر في OpenAI والذي يدير الآن شركة RunSybil الناشئة لأمن الذكاء الاصطناعي. وقال هربرت فوس إن البنية التحتية الحالية للأمن السيبراني ليست جاهزة لانتشار مثل هذه التهديدات. "نحن بحاجة إلى تمكين فرقنا الأمنية بشكل أفضل. نحن بحاجة إلى منحهم المزيد من الموارد لإصلاح المشاكل. "

يمكن أيضًا استخدام الديدان لأغراض خيرية، كما اقترح كريس إنجليس، نائب مدير سابق لوكالة الأمن القومي الذي شغل منصب مدير الإنترنت الوطني في البيت الأبيض في عهد بايدن.

" لقد تمت تسوية مسألة ما إذا كانت ديدان الذكاء الاصطناعي معقولة من خلال العديد من الأحداث الجانبية. "على مدار الأشهر الستة الماضية،" قال إنجليس عبر رسالة رقمية. "السؤال الأفضل هو كيف سنستخدمها، ومواجهتها، و/أو دمجها مع التقنيات الناشئة الأخرى."

قال الباحثون في مجال الأنثروبولوجيا إن دودة الذكاء الاصطناعي الناجحة ستحتاج إلى المزيد من القدرة على الأجهزة الأقل قوة مما هو ممكن الآن - لكنهم أضافوا أن الاتجاهات الحالية ستجعل ذلك ممكنًا بحلول نهاية العام. ويأتي بحثهم في أعقاب ورقة بحثية نشرها الخبراء في جامعة تورنتو قبل بضعة أشهر، والتي أصابت جهاز كمبيوتر كامل الحجم ويمكن أن تنتشر إلى أجهزة مماثلة بسرعة أكبر من دودة التلفزيون.

قال المؤلف المشارك وطالب الدكتوراه في تورونتو جوناس جوان: "لقد تطورت القدرات بسرعة كبيرة".

تخطي النشرة الإخبارية السابقة الترويج
[__HTML_TAG_45__]] قال Guan وخبراء آخرون إنه، من الناحية العملية، لا ينبغي أن تتصدر دودة الذكاء الاصطناعي قائمة مخاوف أي شخص بشأن الذكاء الاصطناعي. وقال Guan إن النسخة البشرية تتحرك ببطء شديد، ولدى الديدان إجراءات يمكن التنبؤ بها ويمكن اكتشافها ويمكن حظرها في طبقات متعددة من الأمان الأساسي، بما في ذلك طلب كلمات مرور قوية ومصادقة ثنائية. قال الخبراء: "سيوقف معظم الديدان وغيرها من عمليات القرصنة. [__HTML_TAG_47__]] قال خوان أندريس غيريرو ساد، نائب رئيس الأبحاث في شركة الأمن SentinelOne: "لا يوجد شيء في هذا الأمر ممكن أو مؤثر حقًا. إنها قرصنة ذكية تؤدي إلى مزيد من التضخيم في خدمة الروايات القاتلة السخيفة التي تشير إلى أن العارضات لديهن خطأ ما". "[__HTML_TAG_48__]] [__HTML_TAG_49__]] لم تستجب الأنثروبيك لطلب إجراء مقابلة.

خارج واشنطن، يعتقد الكثيرون في عالم الذكاء الاصطناعي والأمن أن زيادة الرقابة الحكومية على الذكاء الاصطناعي أصبحت الآن ضرورية. لكن أعضاء الكونجرس قدموا مشاريع قوانين متضاربة، في حين أن البيت الأبيض لم ينشئ حتى الآن سوى مشروع قانون مجلس مراجعة صغير.

يجد الباحثون الأمنيون والأشخاص العاديون على حدٍ سواء أنفسهم يفكرون في الدوافع الكامنة وراء التكهنات المخيفة من شركات الذكاء الاصطناعي، والتي تتراوح بين اعتناق معتقدات شبه دينية، والسعي إلى سن تشريعات لاستبعاد المنافسين أو توفير المال، إلى تضخيم التقييمات العامة المتوقعة بتريليونات الدولارات للذكاء الاصطناعي في سان فرانسيسكو. العمالقة.

قال غادي إيفرون، الذي يدير مؤتمرًا حول أمن الذكاء الاصطناعي في سان فرانسيسكو هذا الشهر يسمى Unprompted: "إن الادعاء بأن الكثير من هذا هو تسويق صحيح، لكن الواقع يقزم أي علاقات عامة. مهما كانت الادعاءات التي تقدمها المختبرات، فإنها لا تحذرنا بما فيه الكفاية. علينا أن نفهم أنه لا أحد يستطيع إيقاف عاصفة الذكاء الاصطناعي."