نقطة اللاعودة.. آباء الذكاء الاصطناعي يحذرون من طفرة تقنية فائقة قد تخرج عن السيطرة

حذّر عدد من أبرز رواد الذكاء الاصطناعي ومسؤولين تنفيذيين في OpenAI وأنثروبيك من احتمال دخول التقنية مرحلة تُعرف باسم “انفجار الذكاء”، قد تؤدي إلى تسارع هائل في قدرات أنظمة الذكاء الاصطناعي وتختصر سنوات من التطور في بضعة أشهر أو أقل.

وجاء التحذير في تقرير بحثي بعنوان “ماذا لو أدت أتمتة البحث والتطوير في الذكاء الاصطناعي إلى انفجار في الذكاء؟”، شارك في إعداده أكثر من 20 باحثًا ومتخصصًا، منهم عالم الحاسوب الكندي يوشوا بنجيو والحائز جائزة نوبل الملقب بأبي الذكاء الاصطناعي جيفري هينتون، بالإضافة إلى جاك كلارك، الشريك المؤسس لشركة أنثروبيك، ويعقوب باتشوكي، كبير العلماء في OpenAI.

تسارع ذاتي قد يغيّر المسار

يركز التقرير على احتمال وصول أنظمة الذكاء الاصطناعي إلى مرحلة تستطيع فيها تحسين قدراتها وتطوير أنظمة جديدة دون تدخل بشري مباشر، فيما يُعرف باسم “التحسين الذاتي التكراري”.

ويشير الباحثون إلى أن أتمتة البحث والتطوير في الذكاء الاصطناعي قد تكون المصدر الأكثر احتمالًا لحدوث “انفجار الذكاء”، إذ تساهم الأنظمة الحالية بالفعل في تطوير تقنيات الذكاء الاصطناعي، ويمكن إتاحة الأنظمة المُحسّنة بسرعة بمجرد تطويرها.

وبحسب التقرير، إذا وصلت أنظمة الذكاء الاصطناعي إلى مستوى الخبراء في البحث والتطوير، فقد يتمكن مطوّر واحد من تشغيل قوة بحثية تعادل “ملايين” الباحثين البشريين المتخصصين.

ويحذّر الباحثون من أن هذه المرحلة قد تختصر سنوات من التقدم التقني في أشهر أو أقل، مما قد يهدد قدرة البشر على التحكم في أنظمة الذكاء الاصطناعي ويضعف آليات ضبط القوة بين الحكومات والشركات والمؤسسات المختلفة.

نافذة زمنية محدودة للتحرك

دعا معدو التقرير الحكومات إلى التحرك قبل بدء أي انفجار محتمل في قدرات الذكاء الاصطناعي، محذرين من أن “نافذة التحرك قد تُغلق” بمجرد بدء هذه العملية.

ويقترح التقرير مجموعة من الإجراءات، أبرزها إلزام شركات الذكاء الاصطناعي بتقديم تقارير شفافة عن تطور أبحاثها، مع السماح لمدققين مستقلين بمراقبة هذه العمليات داخل الشركات.

كما يدعو إلى وضع قيود على سرعة تطور أنظمة الذكاء الاصطناعي، والتعاون مع مراكز البيانات لإتاحة إيقاف بعض مشروعات البحث والتطوير عند الحاجة، بالإضافة إلى عزل أنظمة البحث والتطوير المؤتمتة بصورة تمنعها من الخروج عن السيطرة البشرية.

ويقترح الباحثون أيضًا إعداد خطط استجابة للطوارئ تتعامل مع السيناريوهات المختلفة التي قد تنتج عن حدوث “انفجار الذكاء”.

فوائد تقنية مقابل مخاطر جمّة

لا يرى التقرير أن التطور المتسارع للذكاء الاصطناعي سيؤدي بالضرورة إلى نتائج سلبية؛ إذ يمكن أن يفتح الباب أمام اكتشافات طبية وتطورات تقنية كبيرة.

لكن الباحثين يحذرون من مجموعة من المخاطر، منها إمكانية استخدام أنظمة شديدة القوة لتطوير تهديدات بيولوجية أو إلكترونية بوتيرة أسرع من قدرة البشر على ابتكار وسائل لمواجهتها.

كما قد يؤدي تراجع مشاركة البشر في عمليات البحث والتطوير إلى تقليص قدرتهم على التحكم في الأنظمة، ويمكن للدول استغلال أي تفوق سريع في الذكاء الاصطناعي لتحويل تقدم محدود في مجالات مثل الفضاء الإلكتروني إلى تفوق حاسم.

ويقر التقرير بأن حجم هذه التأثيرات وتوقيتها لا يزالان غير مؤكدين؛ إذ قد تواجه بعض التطورات التقنية قيودًا عملية، مثل الحاجة إلى سلاسل توريد جديدة أو مواد متخصصة أو موافقات تنظيمية. وفي المقابل، يمكن للذكاء الاصطناعي نفسه أن يسرّع تطوير حلول لتقليل بعض المخاطر.

عام 2028 قد يكون نقطة تحول

يشير التقرير إلى أن مشروعات البحث والتطوير التي تحتاج إلى أشهر من العمل البشري قد تصبح قابلة للأتمتة بالكامل بواسطة الذكاء الاصطناعي بحلول عام 2028.

ويرى الباحثون أن مكاسب الإنتاجية الناتجة عن أتمتة البحث والتطوير في الذكاء الاصطناعي لم تصل بعد إلى المستوى اللازم لإطلاق “انفجار الذكاء”، لكن الأنظمة الأحدث تقترب من هذا الحد.

وفي حال تحقق هذا السيناريو، قد تتجاوز أنظمة الذكاء الاصطناعي الخبراء البشريين بسرعة في معظم المجالات، وتدفع التطور التقني إلى وتيرة غير مسبوقة، وهو ما يدفع معدي التقرير إلى اعتبار الاستعداد لهذا الاحتمال أولوية عاجلة، وصولًا إلى أعلى مستويات القيادة الحكومية.