صدر إعلان مفاجئ في وقت سابق من هذا الأسبوع: نظرًا لوجود ثغرات أمنية تم اكتشافها مؤخرًا في لغة البرمجة مفتوحة المصدر PHP، كان على مالكي مواقع الويب تحديث مواقعهم على الفور. ناقشنا أنا وأوكاني أهمية PHP-ocalypse وما إذا كنا سنرى المزيد من الحوادث المشابهة في المستقبل.

وصفها شون بأنها "لحظة نداء استيقاظ حقيقية" تسلط الضوء على أنه "عندما تصل إلى مستوى العظام في الإنترنت، يبدو أن كل شيء "متماسك معًا بواسطة الغراء والأحلام." ومع الوصول على نطاق واسع إلى نماذج اللغات الكبيرة ووكلاء الذكاء الاصطناعي، سيصبح العثور على نقاط الضعف هذه أسهل. (ومع ذلك، تم اكتشاف نقاط الضعف المحددة هذه من قبل باحثين بشريين، وليس من قبل نماذج الذكاء الاصطناعي.)

في هذه الأثناء، تتساءل كيرستن عما إذا كنا على وشك رؤية "المستوى التالي من كارثة الاستعداد [...] لأنه يمكنك رؤية كيف يمكن استغلال البنوك، و[مع] مشكلات البيانات والخصوصية، يبدو الأمر أكبر بكثير مما يمكننا حله بشكل صحيح. الآن. »

واصل القراءة للحصول على معاينة لمحادثتنا، تم تحريرها من أجل الطول والوضوح.

شون أوكين: يبدو أن الإنترنت يتعطل بعدة طرق هذا الأسبوع، يبدو. 

أعتقد أن أفضل طريقة للتفكير في الأمر، هي إذا وجد الأشخاص أنفسهم في هذا النوع من المواقف: كم مرة في السنوات العشر الماضية كانت لدينا تلك اللحظات التي تعطل فيها شيء ما أو كان هناك شيء ما على وشك الانهيار، حيث يحتفظ الشخص بمخزن صغير من النسخ كهواية أو أي شيء آخر فقط ليدرك أن شيئًا شنيعًا يحدث وينقذنا من البنية التحتية للإنترنت التي تدمرنا تمامًا ينهار؟ 

الآن اضرب هذا الرقم بمليار، عندما سيتمكن الأشخاص من الوصول ليس فقط إلى البرامج المتقدمة للغاية في شكل دورات LLM التي يستخدمها الجميع، ولكن أيضًا القدرة على تكليفهم بالخروج والقيام بذلك بأنفسهم، وإنشاء عملاء ذكاء اصطناعي مصممين على إنجاز هذه الأشياء.

نحن نرى. هناك حدثان يحدثان هذا الأسبوع، أحدهما هو أن مجموعة من المعامل والشركات مثل Google وOpenAI طلبت من الأشخاص العثور على عدد من نقاط الضعف، بما في ذلك تلك الموجودة في PHP، ثم لدينا أيضًا مجموعة من الأشخاص الذين يبدو أنهم يسارعون للاستفادة من نقاط الضعف هذه لمحاولة اختراق مواقع الويب، لذا لدينا حكومات تقوم بإغلاق مواقع الويب، ولدينا مواقع ويب مشهورة جدًا يتم إغلاقها لفترة وجيزة حتى يتمكنوا من تصحيح ذلك الثغرة الأمنية.

هذه هي لحظة تنبيه حقيقية، حيث سنتعرف على المخاطر السلبية لبناء جزء كبير من الإنترنت على تكنولوجيا مفتوحة المصدر مثل PHP. عندما تصل إلى مستوى العظام في الإنترنت، يتم تجميع كل شيء معًا بواسطة الغراء Dreams. 

[__HTML_TAG_21__]] أنتوني ها: هناك الكثير من الأشياء المذهلة حول هذا الأمر - كما أفهمها - ليست ثغرة أمنية جديدة عقود.

وتم استخدام لغة PHP كلغة برمجة لإنشاء جزء كبير من الويب، لذا فإن هذه الثغرة الأمنية موجودة منذ عقود، لكن لم يعرفها أحد. ما حدث، في الأساس، هو أن شركات الذكاء الاصطناعي الكبرى هذه - بما في ذلك Wiz، المملوكة الآن لشركة Google - تمكنت من العثور على نقاط الضعف هذه باستخدام LLM. [كما ذكرنا أعلاه، كنت مخطئًا: فقد وجد الباحثون البشريون المشاركون في مبادرة OpenAI ومبادرة Hack the Planet التابعة لشركة Wiz نقاط الضعف، على الرغم من أنهم استخدموا الذكاء الاصطناعي لاستغلال الخطأ. ]

أعتقد أن جزءًا من الحسابات هو أننا بحاجة إلى إصلاح هذا، لأنه إذا تمكنا من العثور على هذه الثغرة الأمنية باستخدام LLM، فيمكن للأشخاص الآخرين القيام بذلك أيضًا. لكن الطريقة الوحيدة لإصدار التصحيح هي الإعلان عن الثغرة الأمنية. لذلك يخلق موقفًا مذعورًا للغاية حيث [يقولون]، "حسنًا، هذه الثغرة الأمنية موجودة منذ عقود. أنت بحاجة إلى تصحيحها على الفور، وإذا لم تتمكن من تصحيحها على الفور، فما عليك سوى إغلاق موقع الويب الخاص بك. هذه ثغرة أمنية خطيرة." الشيء المهم هو أن العديد من الأشخاص لا يدركون حتى أن مواقعهم الإلكترونية تحتوي على لغة PHP - وهي، كما ذكرت، لغة برمجة مفتوحة المصدر عمرها عقود. 

بالنسبة لأولئك الذين لا يعرفون، المعالج المسبق للنص التشعبي هو المصطلح الرسمي، [إنه] المكون الرئيسي لأنظمة إدارة المحتوى المستخدمة في WordPress وDrupal وحوالي 70% من مواقع الويب. نحن نتحدث عن عشرات الملايين من المواقع. بالنسبة لي، الأمر على نطاق واسع. كما جعلني على الفور أفكر في شيئين: أولاً، هذه هي البداية فقط. ما هي البرامج السيئة الأخرى التي عمرها عقود والتي يمكن استغلالها؟

والآخر كان شيئًا ذكرته 404 Media، والذي كان لديه انقطاع كبير جدًا، وهو تعفن الارتباط. لأن الكثير من الأشخاص والشركات والحكومات، وربما موقع الحي الصغير هذا، يقومون بإغلاق هذه [المواقع]. لذلك سيكون لدينا الكثير من الروابط الرديئة وأيضًا مواقع الويب التي ربما تحتوي على جزء صغير من التاريخ الذي لم يعد من الممكن الوصول إليه، بدلاً من تصحيحه.

شون: أنتوني، أعتقد أنك قدمت نقطة جيدة جدًا. لقد رأيت الكثير من الأشخاص غير راضين عن الكشف هنا، ويبدو أن OpenAI قد فعلت القليل من الضرب في مقالتهم حول هذا الموضوع. أعتقد أن ماثيو برينس، الرئيس التنفيذي لشركة Cloudflare، هو الذي قال بالفعل إن هذا الأمر يتصاعد إلى ملايين المحاولات لاختراق PHP2Shell. أو أيًا كان الأمر، يمكنك الذهاب إلى تلك الشركة والكشف عنها وتبقى نوعًا ما في تلك الفقاعة. لكن عندما نتحدث عن شيء عميق وجوهري مثل هذا، لا يمكنك إخبار الجميع بهدوء. 

أعني، ربما يمكنك القيام بذلك، إذا كان الذكاء الاصطناعي متقدمًا بدرجة كافية ويمكنك تكليف مليار عميل بإرسال بريد إلكتروني إلى كل شخص يتحكم في جزء من موقع الويب. نحن الآن نفتقد الأيام التي كان من السهل فيها التعرف على مشرفي المواقع، وربما كان ذلك سيحل المشكلة إلى حد ما. ولكن ببساطة لا توجد طريقة سهلة للقيام بذلك. أعتقد أن هذه هي بداية ما سيكون كثيرًا ذهابًا وإيابًا ومن الواضح أنه حدود جديدة في الأمن السيبراني.

كيرستن: كان منشور ماثيو برينس على وسائل التواصل الاجتماعي مثيرًا للغاية ومخيفًا للغاية بالنسبة لي. أيضًا، لا أعرف ما إذا كان أي منكم قد رأى هذا، لكن أمازون نشرت أيضًا منشورًا على مدونة. إنها شركة ذات رأسمال جيد جدًا، لذا فهي تمتلك الأدوات والفريق لفهم ما يحدث. إنهم يقومون في الأساس بتشغيل شبكة من مصائد مخترقي الشبكات، أو شرك، وقد اكتشفوا بالفعل أن هناك محاولات لاستغلال هذه الثغرة الأمنية قبل الإعلان عنها علنًا.  

بالنسبة لي، مرة أخرى، يتعلق الأمر بما يلي: تمتلك أمازون الأدوات ورأس المال والمعرفة اللازمة لمحاربة هذه الأشياء. هناك الكثير من مواقع الويب وحتى المواقع الحكومية المحتملة التي لا تحظى بهذا المستوى من الاهتمام. وبالنسبة لي، هذا هو الأمر المخيف حقًا. 

وهناك بعض موظفي الذكاء الاصطناعي الذين من المحتمل أن يأخذوا هذا إلى المستوى التالي، مثل الكارثة، لأنه يمكنك أن ترى كيف يمكن استغلال البنوك، و[مع] مشكلات البيانات والخصوصية، يبدو الأمر أكبر بكثير مما يمكننا حله الآن. لذلك أنا مهتم برؤية شيئين. أولاً، كيف أصبح سلوك الأشخاص متطرفًا - ولكنني أتساءل أيضًا عما إذا كانت الشركات الناشئة الجديدة ستنشأ نتيجة لذلك، أو إذا كنا سنلجأ إلى بعض الأدوات مفتوحة المصدر [التي تقدمها شركات مثل Nvidia] لإنشاء طبقات الأمان هذه.