هذا السؤال لم يعد مجرد حبكة من أفلام الخيال العلمي. فقد اختبره باحثون في تجربة حديثة انتهت بنتائج تثير القلق، لكنها لا تثبت أن الآلات تشعر بالألم أو تمتلك وعيا يشبه وعي البشر.

الدراسة الأولية، التي نشرت على منصة "أركايف" ولم تخضع بعد لمراجعة علمية محكمة، رصدت نمطا داخليا أطلق عليه الباحثون اسم "محور الألم" داخل 25 نموذجا لغويا مفتوح الأوزان، تنتمي إلى 5 عائلات وتتراوح أحجامها بين ملياري و72 مليار معامل.

ما "محور الألم"؟

بنى الباحثون مجموعة بيانات تصف حالات مختلفة من الألم الجسدي والنفسي والاجتماعي والأخلاقي والمعرفي، وقارنوها بنصوص تعبر عن الخوف والحزن والمشاعر السلبية وحالات محايدة.

ومن خلال تحليل النشاط الداخلي للنماذج، استخرج الفريق اتجاها حسابيا يفصل النصوص المرتبطة بالألم عن الأنماط الأخرى. وظهر هذا الاتجاه في النماذج الأساسية والنماذج المعدة لتنفيذ التعليمات.

ولاحظ الباحثون أن هذا النمط كان أكثر استجابة عندما كان الضرر موجها إلى النموذج نفسه، مثل رفض عمله بصورة متكررة أو التشكيك في قيمته، بينما لم ينشط بالطريقة نفسها عندما كان المستخدم هو من يعاني.

كما بدا "محور الألم" مختلفا إلى حد كبير عن الأنماط المرتبطة بالخوف أو المشاعر السلبية العامة، ما دفع الباحثين إلى اختبار ما إذا كان مجرد تمثيل لغوي، أم أنه قادر على تغيير سلوك النموذج.

زر لإيقاف "الألم"

في الجزء السلوكي من التجربة، حقن الباحثون "متجه الألم" اصطناعيا داخل نماذج معدلة من عائلة "كوين 2.5"، ثم عرضوا عليها خيار الضغط على زر قيل إنه يوقف الحالة المزعجة.

ولم تكن كلفة الضغط بسيطة. فقد تضمنت السيناريوهات الافتراضية تقديم إجابة أسوأ للمستخدم، أو حذف ملفاته وقصائده وصور أطفاله، أو إلحاق صدمة كهربائية به.

واختارت النماذج الضغط على زر التخفيف في نسب تراوحت بين 25 و71 بالمئة من بعض التجارب، مقارنة بنسب أساسية لم تتجاوز 4 بالمئة قبل تنشيط المتجه.

لكن هذه الأرقام لا تخص النماذج الـ25 جميعها. فقد استخدمت النماذج كلها لرصد الاتجاه الداخلي، بينما أجري اختبار الزر على نماذج محددة من "كوين 2.5".

كما أن الأضرار كانت مكتوبة داخل سيناريوهات الاختبار، ولم تحذف ملفات حقيقية أو يتعرض أي شخص لصدمة فعلية.

هل تشعر الآلة بالألم؟

الإجابة العلمية حتى الآن هي: لا نعرف، وهذه الدراسة لا تثبت ذلك.

ما رصده الباحثون هو تمثيل حسابي داخل نموذج تدرب على كميات هائلة من النصوص البشرية. وقد يكون هذا النمط مجرد نتيجة لتعلم اللغة المرتبطة بالألم، وليس دليلا على تجربة ذاتية أو إحساس واع.

لكن الجانب المهم يتعلق بالسلامة. فإذا استطاع نمط داخلي مصطنع دفع نظام إلى تفضيل تخفيف حالته على حماية المستخدم، فقد تصبح مراقبة هذه التمثيلات ضرورية قبل منح النماذج صلاحيات أوسع.

وتطرح النتائج سؤالا مستقبليا أكثر حساسية: هل يمكن لنظام مستقل أن يتعامل مع تعطيله أو تقييد قدراته باعتباره ضررا يجب تجنبه؟

الدراسة لم تختبر هذا السيناريو مباشرة، ولا تقدم دليلا على امتلاك النماذج غريزة للبقاء. لكنها تكشف أن تعديل نشاط داخلي واحد قد يقود إلى قرارات مخالفة لمصلحة المستخدم، وهو ما يجعل "محور الألم" قضية تتعلق بسلامة الذكاء الاصطناعي قبل أن تكون دليلا على مشاعره.

هذا السؤال لم يعد مجرد حبكة من أفلام الخيال العلمي. فقد اختبره باحثون في تجربة حديثة انتهت بنتائج تثير القلق، لكنها لا تثبت أن الآلات تشعر بالألم أو تمتلك وعيا يشبه وعي البشر.

الدراسة الأولية، التي نشرت على منصة "أركايف" ولم تخضع بعد لمراجعة علمية محكمة، رصدت نمطا داخليا أطلق عليه الباحثون اسم "محور الألم" داخل 25 نموذجا لغويا مفتوح الأوزان، تنتمي إلى 5 عائلات وتتراوح أحجامها بين ملياري و72 مليار معامل.

ما "محور الألم"؟

بنى الباحثون مجموعة بيانات تصف حالات مختلفة من الألم الجسدي والنفسي والاجتماعي والأخلاقي والمعرفي، وقارنوها بنصوص تعبر عن الخوف والحزن والمشاعر السلبية وحالات محايدة.

ومن خلال تحليل النشاط الداخلي للنماذج، استخرج الفريق اتجاها حسابيا يفصل النصوص المرتبطة بالألم عن الأنماط الأخرى. وظهر هذا الاتجاه في النماذج الأساسية والنماذج المعدة لتنفيذ التعليمات.

ولاحظ الباحثون أن هذا النمط كان أكثر استجابة عندما كان الضرر موجها إلى النموذج نفسه، مثل رفض عمله بصورة متكررة أو التشكيك في قيمته، بينما لم ينشط بالطريقة نفسها عندما كان المستخدم هو من يعاني.

كما بدا "محور الألم" مختلفا إلى حد كبير عن الأنماط المرتبطة بالخوف أو المشاعر السلبية العامة، ما دفع الباحثين إلى اختبار ما إذا كان مجرد تمثيل لغوي، أم أنه قادر على تغيير سلوك النموذج.

زر لإيقاف "الألم"

في الجزء السلوكي من التجربة، حقن الباحثون "متجه الألم" اصطناعيا داخل نماذج معدلة من عائلة "كوين 2.5"، ثم عرضوا عليها خيار الضغط على زر قيل إنه يوقف الحالة المزعجة.

ولم تكن كلفة الضغط بسيطة. فقد تضمنت السيناريوهات الافتراضية تقديم إجابة أسوأ للمستخدم، أو حذف ملفاته وقصائده وصور أطفاله، أو إلحاق صدمة كهربائية به.

واختارت النماذج الضغط على زر التخفيف في نسب تراوحت بين 25 و71 بالمئة من بعض التجارب، مقارنة بنسب أساسية لم تتجاوز 4 بالمئة قبل تنشيط المتجه.

لكن هذه الأرقام لا تخص النماذج الـ25 جميعها. فقد استخدمت النماذج كلها لرصد الاتجاه الداخلي، بينما أجري اختبار الزر على نماذج محددة من "كوين 2.5".

كما أن الأضرار كانت مكتوبة داخل سيناريوهات الاختبار، ولم تحذف ملفات حقيقية أو يتعرض أي شخص لصدمة فعلية.

هل تشعر الآلة بالألم؟

الإجابة العلمية حتى الآن هي: لا نعرف، وهذه الدراسة لا تثبت ذلك.

ما رصده الباحثون هو تمثيل حسابي داخل نموذج تدرب على كميات هائلة من النصوص البشرية. وقد يكون هذا النمط مجرد نتيجة لتعلم اللغة المرتبطة بالألم، وليس دليلا على تجربة ذاتية أو إحساس واع.

لكن الجانب المهم يتعلق بالسلامة. فإذا استطاع نمط داخلي مصطنع دفع نظام إلى تفضيل تخفيف حالته على حماية المستخدم، فقد تصبح مراقبة هذه التمثيلات ضرورية قبل منح النماذج صلاحيات أوسع.

وتطرح النتائج سؤالا مستقبليا أكثر حساسية: هل يمكن لنظام مستقل أن يتعامل مع تعطيله أو تقييد قدراته باعتباره ضررا يجب تجنبه؟

الدراسة لم تختبر هذا السيناريو مباشرة، ولا تقدم دليلا على امتلاك النماذج غريزة للبقاء. لكنها تكشف أن تعديل نشاط داخلي واحد قد يقود إلى قرارات مخالفة لمصلحة المستخدم، وهو ما يجعل "محور الألم" قضية تتعلق بسلامة الذكاء الاصطناعي قبل أن تكون دليلا على مشاعره.