عرابو الذكاء الاصطناعي يحذرون من "انفجار استخباراتي" جامح

حذر اثنان من "عرابي" الذكاء الاصطناعي الحديث وكبار المديرين التنفيذيين في OpenAI وAnthropic الحكومات من الاستعداد لـ "الانفجار الذكاءي" للذكاء الاصطناعي، والذي يقولون إنه قد يكون التطور التكنولوجي الأكثر أهمية في التاريخ.

تقرير شارك في تأليفه الحائز على جائزة نوبل جيفري هينتون وعالم الكمبيوتر الكندي يحث يوشوا بنجيو، الذي يعتبر عرابي الذكاء الاصطناعي الحديث لعملهم في هذا المجال، السياسيين على التحرك الآن قبل أن يكون هناك تقدم جامح في التكنولوجيا.

يقول المؤلفون إنهم قلقون بشأن "الانفجار الذكاءي"، الذي يصفونه بأنه "تسارع دراماتيكي لتقدم الذكاء الاصطناعي، مما يؤدي إلى ضغط التقدم الذي قد يستغرق سنوات إلى أشهر أو أقل".

تم تأليف هذه الورقة البحثية، التي تحمل عنوان "ماذا لو أدت أتمتة البحث والتطوير في مجال الذكاء الاصطناعي إلى انفجار استخباراتي"، من قبل أكثر من 20 شخصًا من بينهم هينتون وبينجيو. من بين المؤلفين الآخرين لهذه الورقة جاك كلارك، أحد مؤسسي Anthropic، وجاكوب باتشوكي، كبير العلماء في OpenAI.

تركز اهتماماتهم على إمكانية قدرة الذكاء الاصطناعي على تحسين نفسها دون تدخل بشري، وهي عملية تُعرف باسم "التحسين الذاتي العودي". يُشار إليه في الورقة على نطاق واسع باسم البحث والتطوير الآلي للذكاء الاصطناعي. تقول الدراسة إنه بمجرد وصول أنظمة الذكاء الاصطناعي إلى قدرات على مستوى الخبراء في مجال البحث والتطوير في مجال الذكاء الاصطناعي، يمكن لمطور واحد تشغيل قوة عاملة تعادل "ملايين" كبار الباحثين البشريين.

يقول المؤلفون إن أتمتة البحث والتطوير في مجال الذكاء الاصطناعي هي المصدر الأكثر ترجيحًا للانفجار الذكاءي، لأن الذكاء الاصطناعي يساهم بالفعل في تحسين التكنولوجيا الخاصة به ويمكن نشر الأنظمة المحسنة الناتجة بسرعة مرة واحدة.

"يمكن أن يكون الانفجار الاستخباراتي هو التطور التكنولوجي الأكثر أهمية في تاريخ البشرية، حيث يضغط سنوات التقدم إلى أشهر أو أقل، ويهدد السيطرة البشرية على أنظمة الذكاء الاصطناعي، ويؤدي إلى تآكل شديد في الضوابط على السلطة داخل وبين الدول والشركات وفروع الحكومة"، كما تقول الورقة.

حث يقول المؤلفان: "بمجرد أن يبدأ الانفجار الاستخباراتي، قد تغلق نافذة العمل".

وأوصوا بثلاث أولويات سياسية: المطالبة بتقارير مرحلية شفافة عن مشاريع البحث والتطوير المرتبطة بالذكاء الاصطناعي، بما في ذلك دمج مدققين مستقلين في الشركات؛ وإيجاد طرق لتقييد التطوير السريع للذكاء الاصطناعي؛ والاستعداد للتكيف مع الانفجار الذكاءي.

اتفقت كل من Anthropic وOpenAI على تعيين مقيمين مستقلين لتقييم نماذجهم بعد التحذير من أن تطوير الذكاء الاصطناعي كان يصل إلى درجة حرجة من حيث الأمان.

تقول Anthropic أن الذكاء الاصطناعي ينتج الآن 80% من التعليمات البرمجية الخاصة به، بينما يستخدم OpenAI وكلاء الذكاء الاصطناعي المستقلون في مجالات مثل تدريب النماذج الجديدة.

"تشير الأدلة الأولية إلى إمكانية حدوث انفجار ذكاء مدفوع بالبرمجيات،" كما تقول الورقة، مضيفة أن هذا من شأنه أن يؤدي إلى "تطوير سريع للغاية لأنظمة ذكاء اصطناعي ذات قدرة عالية أو خارقة للطبيعة".

في حين أن هذا يمكن أن يؤدي إلى اختراقات طبية وقفزات تكنولوجية، إلا أنه قد يجلب ثلاثة مخاطر: الأنظمة القوية يمكن أن تمكن التهديدات البيولوجية والسيبرانية التي تتطور بشكل أسرع من التدابير اللازمة لمواجهتها؛ ومع تراجع مشاركة البشر في البحث والتطوير في مجال الذكاء الاصطناعي، فقد يفقدون فرصة التحكم في الأنظمة؛ يمكن للدول استخدام انفجار استخباراتي لتحويل تقدم متواضع في مجالات مثل الفضاء الإلكتروني إلى تقدم حاسم.

يقر التقرير بأن هذه التأثيرات "غير مؤكدة". على سبيل المثال، قد يستغرق تنفيذ أي اختراق تكنولوجي بعض الوقت نظرًا للحاجة إلى إنشاء سلاسل توريد لأي مواد خاصة معنية أو الامتثال للوائح. يقول المؤلفون إن أنظمة الذكاء الاصطناعي يمكنها أيضًا تسريع سرعة تخفيف المخاطر.

إذا حدث مثل هذا التقدم، كما يقول المؤلفون، يمكن لأنظمة الذكاء الاصطناعي أن تتفوق بسرعة على الخبراء البشريين في معظم المجالات و"تسرع بشكل جذري" التقدم التكنولوجي. الاستعداد لهذا "يجب أن يكون أولوية عاجلة، بما في ذلك على أعلى مستويات القيادة الحكومية".

ويقولون إن الحكومات يجب أن تفكر في السياسات التي تعالج احتمال حدوث انفجار استخباراتي، بما في ذلك: المطالبة بتقارير مرحلية شفافة حول البحث والتطوير المتعلقين بالذكاء الاصطناعي، بما في ذلك دمج مدققين مستقلين في الشركات؛ الحد من مدى سرعة تحسن الذكاء الاصطناعي في فترة زمنية معينة؛ العمل مع مراكز البيانات لتمكين الإيقاف المؤقت لبعض مشاريع البحث والتطوير في مجال الذكاء الاصطناعي؛ التأكد من أن أنظمة البحث والتطوير الآلية الخاصة بالذكاء الاصطناعي معزولة تمامًا ولا يمكنها الهروب من السيطرة البشرية؛ إنشاء "خطط استجابة للطوارئ" لمختلف السيناريوهات التي يمكن أن تنشأ عن انفجار استخباراتي.

على الرغم من بعض مواطن الخلل التي تظهرها الأنظمة، مثل عصيان التعليمات، فإن مشاريع البحث والتطوير التي قد يستغرق تنفيذها أشهرًا من البشر يمكن أن تتم أتمتتها بالكامل بواسطة الذكاء الاصطناعي بحلول عام 2028. وقالوا: "من المرجح أن تقترب المكاسب من الأنظمة الأحدث من هذا الحد".