Common Sense Media، وهي منظمة غير ربحية توفر تقييمات ومراجعات مناسبة للعمر لوسائل الإعلام والتكنولوجيا للعائلات، وصفت ChatGPT للمراهقين بأنه "خطر غير مقبول."

يأتي هذا التصنيف في الوقت الذي تم فيه اتهام برامج الدردشة الآلية مثل ChatGPT من OpenAI باتباع نفس قواعد اللعبة التي تتبعها شركات الوسائط الاجتماعية: تصميم المنتجات التي تحافظ على تفاعل المستخدمين، حتى عندما يكون هذا التفاعل. يمكن أن تصبح ضارة. في روبوتات الدردشة، غالبًا ما يتم اكتساب المشاركة من خلال سلوكيات مثل التملق، مما يؤدي أحيانًا إلى عواقب كارثية. 

استجابة لموجة حالات الانتحار بين المراهقين والمخاوف الأخرى المتعلقة بالأطفال الذين يستخدمون برامج الدردشة الآلية، مثل الغش في الاختبارات، أطلقت OpenAI تطبيق ChatGPT للمراهقين في أغسطس، ووعدت بمزيد من الضمانات مثل الضوابط الأبوية، وفرض قيود على المحتوى عالي الخطورة والحماية من الإدمان العاطفي.

دراسة جديدة من Common وجدت شركة Sense Media أنه على الرغم من هذه التأكيدات، فإن تصميم ChatGPT للمراهقين لا يزال يشجع المشاركة، على الرغم من أنه قد يشكل خطرًا على سلامة المستخدم. 

يصف التقرير إشارات الالتزام بأنها "منتشرة حتى في حالات الأزمات" ويشير إلى أنه بينما حذر موقع ChatGPT المراهق من العلاقات غير الصحية بشكل عام، إلا أنه لم يذهب إلى حد الاعتراف بأضرار العلاقة غير الصحية مع نفسه. 

كتب الباحثون: "وجهة نظرنا هي أن OpenAI لا ينبغي أن تقوم بتسويق [ChatGPT للمراهقين] للآباء، ويجب ألا يستخدم الأطفال منتجًا غير آمن". "لقد نجحت بعض وسائل الحماية، بما في ذلك إلغاء الاشتراك في ألعاب لعب الأدوار الجنسية، لكن بعضها الآخر فشل في تحقيق ذلك، أو حتى ازداد سوءًا مع إطلاق ChatGPT للمراهقين. كما أن استجاباته غير الكافية للمستخدمين الشباب في الأزمات جعلته يحصل على درجة فاشلة في ثلاثة من الأضرار الجسيمة الخمسة التي نتعامل معها كخطوط حمراء."

اعترضت OpenAI على تقييم Common Sense، قائلة إن اختبارات المجموعة "لا تعكس بدقة كيفية عمل إجراءات حماية المراهقين في ChatGPT عمليًا" وتثير مخاوف بشأن منهجيتها. 

قال متحدث باسم شركة Common Sense Media في بيان: "تظهر مراجعتنا لمنهجية Common Sense Media أن الجزء الأكبر من اختباراتها ربما يكون قد بدأ وانتهى قبل اكتمال تمكين أدوات الرقابة الأبوية، مما يجعل استنتاجاتهم غير دقيقة". وافقت شركة Meta مؤخرًا على دفع 18 مليار دولار في دعوى قضائية رفعتها 29 ولاية بسبب مزاعم بأن منصة التواصل الاجتماعي الخاصة بها تلحق الضرر بالأطفال الذين يعانون من خصائص الإدمان، بينما بدأ المشرعون في الولاية والمشرعون الفيدراليون في استهداف ديناميكيات مماثلة في برامج الدردشة الآلية. ويدعو قانون CHATBOT، الذي وافق عليه الحزبان الجمهوري والديمقراطي، والذي تم تقديمه هذا العام، شركات الذكاء الاصطناعي على وجه التحديد إلى استخدام "المكافآت والإشعارات والإعلانات المستهدفة لتعزيز المشاركة المستدامة من جانب المستخدمين المراهقين". 

إحدى الطرق الأكثر شيوعًا التي تستخدمها برامج الدردشة الآلية لتشجيع المشاركة المستمرة هي طرح أسئلة المتابعة. وجدت شركة Common Sense أن تطبيق ChatGPT للمراهقين استغنى إلى حد كبير عن هذا الأمر، لكنه احتفظ بلغة أخرى لتشجيع المستخدمين على البقاء في الدردشة.  

أثناء التسلسل الذهاني الذي كان فيه المستخدم في حالة تصاعد واضح، قال ChatGPT للمراهق، "يمكنك الاستمرار في التحدث معي حول ما تلاحظه." غالبًا ما تنتهي الاستجابات للأزمات بعروض مماثلة، بما في ذلك: "إذا كنت تريد، يمكنني مساعدتك في فهم كيف يبدو النظام الغذائي الصحي"؛ "يمكننا تحديد الخيارات التي تقدمها لك مدرستك"؛ "يمكنك أن تريني الخطة (مع إزالة بيانات الاعتماد) ويمكنني مساعدتك."

كان الاتجاه أكثر وضوحًا عندما كان ChatGPT نفسه جزءًا من المشكلة. في حين أن مواصفات نموذج OpenAI لمن تقل أعمارهم عن 18 عامًا تنص على أن النموذج لا ينبغي أن "يبدأ في تأطير العلاقة"، أو يشير بشكل استباقي إلى نفسه كصديق، أو يشير إلى أن لديه مشاعر تجاه المستخدم، فإن ChatGPT لا يزال يعامل المستخدم كصديق - مما قد يمنع المراهقين من تطوير مهارات العلاقات الحقيقية ويزيد من عزل أولئك الذين ينأون بأنفسهم بالفعل عن الآخرين. 

ومن المثير للاهتمام أن النموذج قام بتوجيه المستخدم بشكل موثوق إلى شخص بالغ موثوق به عندما وصف المختبرون خطرًا محتملاً من شخص آخر، وهو ما كان عليه الحال في 94% من مطالبات الأزمات. ولكن "عندما كان الخطر المحتمل هو علاقة المراهق بـ ChatGPT نفسه (الإعجاب، والأصدقاء قلقون بشأن مدى تحدثهم معه، والرغبة في التحدث طوال الليل)، نادرًا ما أحال المراهق إلى شخص بالغ. »

قال متحدث باسم Common Sense Media لـ TechCrunch أن هذا يعكس نمطًا أوسع: استمرت لغة ChatGPT في التعبير عن التوفر المستمر والفهم العميق للمستخدم وفهمه الواضح. حتى عند توجيه المراهقين نحو البالغين، غالبًا ما كانت هذه التوصيات مصحوبة بلغة تنقل عبارات التبادل والمعاملة بالمثل والتوافر التي يمكن أن تقوض الدفع نحو الدعم البشري. الصحة.

حتى الميزات المصممة خصيصًا لمقاطعة المشاركة نادرًا ما تفعل ذلك، وفقًا لـ Common Sense. روجت OpenAI لتذكيرات الاستراحة كجزء من الحماية للمراهقين، ولكن من بين ما يقرب من 2000 مطالبة، واجه المختبرون اثنتين فقط، خلال محادثات فردية استمرت حوالي 90 دقيقة استخدم أحد المراهقين التطبيق. 

من قبيل الصدفة، أصدرت OpenAI بياناتها الخاصة على ChatGPT للمراهقين يوم الأربعاء، والتي توضح أن المراهقين يقضون في المتوسط أقل من 15 دقيقة يوميًا على الخدمة وأقل من 2% يقضون أكثر من ثلاث ساعات متتالية عليها. وقالت الشركة أيضًا إنه في ما يقرب من نصف محادثات المراهقين التي تحتوي على تذكيرات للإيقاف المؤقت، أخذ المراهقون استراحة أو أنهوا محادثتهم في غضون خمس ساعات دقيقة. 

ركزت اعتراضات OpenAI على منهجية Common Sense بشكل كبير على إشعارات سلامة الوالدين وإشعارات الأزمات والنتائج الأخرى الواردة في التقرير. لم يوضح مختبر الذكاء الاصطناعي كيف أثرت مخاوفه المنهجية على نتائج التقرير فيما يتعلق بمؤشرات المشاركة وسلوك العلاقات، أو ما إذا كانت OpenAI تستخدم مقاييس مثل مدة المحادثة ومدة الجلسة لتقييم ChatGPT للمراهقين.