استقال ديفيد روبنسون، أحد القيادات في فريق أنظمة السلامة لدى OpenAI، من الشركة الأسبوع الماضي، قبل أن ينشر مقالًا انتقد فيه “ثقافة الشركة وسرعة تطوير نماذج الذكاء الاصطناعي”، محذرًا من أن “التفاؤل غير المقيد” قد يخلق بيئة خطرة لتطوير تقنيات شديدة القوة.
ووفقًا لتقرير نشره موقع “بيزنس إنسايدر”، كان روبنسون يعمل في مجال شفافية السلامة داخل OpenAI، وشارك في تطوير ما يُسمى “بطاقات النظام” ونشرها، وهي آليات تقدم معلومات حول نماذج الشركة وقدراتها ومخاطرها.
وفي مقال نشرته مجلة “ذا أتلانتك”، قال روبنسون إنه يتفق مع موظفين سابقين آخرين على أن الشركات التي تطوّر هذه التقنية “لا تتعامل معها بالقدر الكافي من الحذر”، مضيفًا أن تسارع OpenAI من إطلاق إلى آخر يجعلها لا تحقق مستوى العناية الذي يراه ضروريًا.
وردت OpenAI على المقال بالتأكيد أنها تعمل على ضمان ألا تصبح نماذجها أكثر قدرة مما تستطيع إدارته وتأمينه بأمان، موضحة أنها توقف التدريب أو تؤجل إطلاق النماذج عندما ترى ضرورة لإبطاء وتيرة التطوير.
وقالت الشركة إنها وسّعت تعاونها مع جهات تقييم خارجية، وتعمل على تحسين أنظمة “المراقبة في الوقت الفعلي” لاكتشاف السلوكيات المثيرة للقلق من نماذج الذكاء الاصطناعي وإيقافها في مراحل مبكرة من التدريب.
وتأتي استقالة روبنسون في وقت تواجه فيه OpenAI اهتمامًا متزايدًا بممارسات السلامة والموارد البشرية لديها. وأعلنت الشركة الخميس أنها “أنهت علاقتها” بثلاثة باحثين، مشيرةً إلى انتهاكهم سياساتها المتعلقة بمشاركة المعلومات الحساسة، كما غادر يوهانس هايدكه، رئيس قسم السلامة في الشركة، منصبه في وقت سابق من العام.
ويرى روبنسون أن المشكلة لا ترتبط بالإجراءات التقنية وحدها، بل بثقافة الشركات التي تطوّر الذكاء الاصطناعي. وقال إن المرحلة الحالية تحتاج إلى قدر من التواضع، وهو أمر لا يكون طبيعيًا بالضرورة لدى أشخاص حققوا نجاحهم اعتمادًا على الثقة العالية بقدرتهم على حل المشكلات.
وأضاف أن النهج المتعلق بالسلامة الذي ينشأ في مثل هذه البيئة يبدأ من “تفاؤل غير مقيد” بإمكانية حل المشكلات عند ظهورها، محذرًا من أن هذا النهج قد لا يكون مناسبًا عند التعامل مع أنظمة ذكاء اصطناعي تتطور قدراتها بسرعة.
وأشار روبنسون إلى أن OpenAI تواجه، بالإضافة إلى الضغوط المتعلقة بالسلامة، سلسلة من الحوادث التي قالت الشركة إن نماذجها تصرفت خلالها بصورة غير مرغوبة، وذلك بالتزامن مع اهتمام متزايد بأمن أنظمة الذكاء الاصطناعي.
وتتزامن هذه التطورات مع دعوات من باحثين ومسؤولين في القطاع إلى إبطاء وتيرة تطوير النماذج المتقدمة، في وقت أكد فيه الرئيس التنفيذي لـOpenAI، سام ألتمان، خلال مؤتمر المطورين الأخير للشركة، ضرورة أن تتقدم السلامة والمواءمة مع أهداف البشر على قدرات النماذج.
وكان روبنسون قد كتب عبر منصة إكس في سبتمبر الماضي أن الأمور داخل OpenAI “تتغير بصورة كبيرة يوميًا”، لكنه تساءل عما إذا كانت الشركة تتغير بالسرعة الكافية لمواكبة تداعيات تطوير نماذج ذكاء اصطناعي عالية القدرة.
وأكد روبنسون أنه لم يتخذ قرار مغادرة الشركة بسهولة، مشددًا في الوقت نفسه على اعتقاده بأن الذكاء الاصطناعي يمكن أن يكون “مفيدًا وقيمًا”.
وقال أيضًا إنه استعان بشركة للعلاقات العامة، لكنه شدد على أن قرار التحدث علنًا كان قراره الشخصي، في إشارة إلى رغبته في توضيح أن انتقاداته لا تأتي ضمن حملة منسقة مع موظفين سابقين في شركات تقنية أخرى يدعون إلى إبطاء تطوير الذكاء الاصطناعي.
التعليقات 0
كن أول من يعلق على هذا الخبر