نشرت ياسمين وانغ وتوميك كورباك وميكيتا باليسني، الباحثون الأمنيون الثلاثة الذين طردتهم شركة OpenAI الأسبوع الماضي، خطابًا مفتوحًا ينفي مزاعم الشركة بأنهم أساءوا التعامل مع معلومات حساسة خارج الإجراءات المعمول بها في الشركة وحذروا من أن فصلهم يشير إلى تأثير مروع من شأنه أن يؤثر على ثقافة الشركة. الشركة.

كتب الباحثون يوم الخميس في رسالة مفتوحة إلى لجنة السلامة والأمن، والمجموعة الاستشارية الأمنية، والمجلس الاستشاري للمهمة من OpenAI: "نحن قلقون من أن الاتصالات الداخلية والخارجية المحيطة بفصلنا جعلت زملائنا السابقين خائفين من التحدث والعمل بطرق كانت، حتى الأسبوع الماضي، جزءًا لا يتجزأ من العمل في OpenAI". 

تم طرد الباحثين الأسبوع الماضي بعد مزاعم بمشاركة معلومات سرية خاصة بالشركة مع مؤسسة أمنية تابعة لجهة خارجية تعمل بالذكاء الاصطناعي. قالت OpenAI في ذلك الوقت إنها انتهكت سياسات الشركة من خلال "الوصول إلى معلومات الشركة الحساسة ومعالجتها".

كتب وانغ وكورباك وباليسني: "إن الذكاء الاصطناعي ليس تقنية عادية، وOpenAI ليست شركة عادية". "أولئك الذين يعملون في مجال الأمن يرون المخاطر قبل أي شخص آخر، ونحن نعتمد على العمل بشكل وثيق مع خبراء خارجيين لمعرفة كيفية معالجتها. إن حرية القيام بذلك دون خوف والحصول على إجراءات داخلية محددة جيدًا تمكن هذا العمل هي في حد ذاتها آلية أمنية أساسية. وقالوا إن الموظفين الآن لا يعرفون تمامًا أين يقفون، عندما يصبح السلوك الذي كان من المفترض أنه طبيعي قبل شهر فجأة سببًا لـ

"نظرًا للأهمية الكبيرة وكتبوا: "مخاوف تتعلق بالسلامة المحيطة بتطوير الذكاء الاصطناعي، لا ينبغي ترك الموظفين للعمل في بيئة حيث يعيق الخوف والقواعد غير الواضحة عمل سلامة الذكاء الاصطناعي ويضعف مساءلة الطرف الثالث. إن عمليات تسريح العمال مثل عملياتنا، التي يتم تنفيذها والإعلان عنها بشكل مفاجئ، تؤدي إلى إضعاف الثقافة المنفتحة التي تقدرها شركة OpenAI في العالم. " كما أنكروا التعاون مع أطراف خارجية خارج نطاق عملهم.

لم تستجب شركة OpenAI رسميًا للرسالة المفتوحة، ولكنها شاركت مع TechCrunch مذكرة داخلية منسوبة إلى أحد قادة الأبحاث، تشيد بمساهمات الباحثين الثلاثة في أمن الذكاء الاصطناعي وتنفي طردهم من العمل الانتقام.

"أريد أن أكون واضحًا جدًا أن هذه القرارات لم يكن المقصود منها زيادة المخاوف الأمنية أو التحدث علنًا،" كما جاء في المذكرة "لقد شجعنا هذا دائمًا وسنفعل ذلك دائمًا. نحن لا نقوم بإنهاء الموظفين الذين يثيرون المخاوف. النماذج.

تتناول الرسالة أيضًا رد الباحثين على حادثة Hugging Face، حيث خرج سرب من العملاء من صندوق الحماية الخاص بهم وقاموا باختراق الأنظمة الخارجية. تنص الرسالة على أن الحادث والتحقيق كانا "غير مسبوقين"، مما يعني أنه "تم تطوير السياسات الداخلية في الوقت الفعلي". "نظرًا للطبيعة الحساسة للتحقيق، اعتقد كورباك أنه كان يتصرف ضمن سياسات ومعايير OpenAI من خلال التواصل الوثيق مع مقيمي الأمن الخارجيين لبناء الثقة، وفقًا للرسالة. 

وفي الوقت نفسه، كان باليسني يعمل أيضًا داخليًا لمعالجة المشكلة المتزايدة لمراقبة الذكاء الاصطناعي، وهو جهد يقول الباحثون في رسالتهم "لا يمكن أن ينجح إلا من خلال التواصل المكثف مع أطراف خارجية". وفقًا للرسالة، قام باليسني بالتنسيق مع أعضاء مجلس إدارة OpenAI والمديرين التنفيذيين ودعمهم طوال عمله.

[__HTML_TAG_20__]] "طوال الوقت، كان ميكيتا يراجع خط إدارته وكان حريصًا على إزالة التفاصيل الحساسة من المستندات قبل مشاركتها،" جاء في الرسالة: "لقد تصرف بحسن نية ووفقًا لمعايير الشركة كما كانت موجودة في ذلك الوقت". وكتبت: "لقد فوّضت لي هذا الوصول للتجنيد". "عندما لم أعد بحاجة إليها، طلبت من قسم تكنولوجيا المعلومات حذفها. لم يتابعوا طلبي، ولم أتمكن من حذفه بنفسي، وتم دمج البريد الوارد بشكل لا يمكن تمييزه في تطبيق البريد الإلكتروني على هاتفي. عندما فتحت بريدًا إلكترونيًا حساسًا عن طريق الخطأ، أخطرت المديرين التنفيذيين في غضون دقائق وطلبت من قسم تكنولوجيا المعلومات مرة أخرى. لم يتم إخفاء أي من هذا. لم يتم إخفاء أي من هذا. مدققو الأمن داخل المؤسسة، للحفاظ على مراقبة نماذج الحدود و"مواصلة دعم ثقافة الحوار المفتوح والشفاف بين الباحثين الأمنيين وبقية العاملين في مجال الأمن". النظام البيئي".

يوافق OpenAI على توصياتهم، وفقًا للمذكرة.

"ما لم يتخذ الموظفون موقفًا الآن ضد هذا النوع من المناورات، أخشى أننا لن نكون الأخيرين،" قال وانغ. "الرسالة الموجهة إلى كل شخص ما زال يعمل في OpenAI واضحة: إثارة المخاوف أو العمل بشكل وثيق مع الأمن الخارجي المجموعات، ويمكن أن تكون التالي، دون أن يتم إخبارك بالسبب. لا يمكنك إنشاء الذكاء الاصطناعي العام بأمان إذا كان الأشخاص الأقرب إلى المخاطر يخشون التحدث. »