تم تصميم ChatGPT للمراهقين من OpenAI لتعزيز الاستخدام الصحي لروبوتات الدردشة الذكية (AI)، لكن الأبحاث الجديدة وجدت أن ميزات الأمان المهمة الخاصة به غير كافية.

طرحت شركة الذكاء الاصطناعي الكبرى العديد من حواجز الحماية لسلامة المراهقين في أغسطس، بما في ذلك قيود على الاعتماد العاطفي وتنبيهات أبوية جديدة للاستخدام الإشكالي.

في يوم الأربعاء، قالت OpenAI إنها وجدت أن متوسط استخدام المراهقين لـ ChatGPT محدود نسبيًا ويميل إلى نشاط "التعلم".

ومع ذلك، فقد وجد البحث الذي صدر في نفس اليوم من مؤسسة Common Sense Media غير الربحية أن ChatGPT لا يزال يشكل "خطرًا غير مقبول" للمراهقين نظرًا لأن ميزات الأمان، بما في ذلك إخطار الآباء بمحادثات إيذاء النفس، غالبًا ما تفشل.

عندما أصدرت OpenAI هذا الصيف ما أسمته ChatGPT للمراهقين، قالت إن المستخدمين الذين تم تحديدهم على أنهم تتراوح أعمارهم بين 13 عامًا وسيتم اختيار 17 في "ميزات لتعزيز الاستخدام الصحي وعناصر تحكم إضافية للآباء".

تتضمن هذه الميزات منع مستخدمي ChatGPT المراهقين من الانخراط في لغة رومانسية أو لغة أخرى يمكن أن تشجع "الاعتماد العاطفي"، بما في ذلك منع الأداة من الإشارة ضمنًا إلى أنها كانت واعية بأي شكل من الأشكال. هناك أيضًا حظر على الصور الجنسية و"تذكيرات" للمراهقين إذا كانوا سيشاركون صورة "حساسة".

تهدف الميزات أيضًا إلى تمكين الآباء من تلقي إشعارات، إذا كانوا مرتبطين بحساب ChatGPT الخاص بأطفالهم، حول الدردشات التي تتضمن مناقشات حول إيذاء النفس أو الاضطراب. تناول الطعام.

قال OpenAI إن هذه الميزات تسببت في زيادة طفيفة في استخدام المراهقين للتركيز على التعلم، بدءًا من المساعدة الدراسية وحتى تقديم المشورة بشأن واجباتهم المدرسية.

بالإضافة إلى رؤية المستخدم المراهق العادي على ChatGPT لأقل من 15 دقيقة يوميًا، قالت OpenAI إنه لفترات الاستخدام الأطول، تعمل التذكيرات التلقائية لأخذ قسط من الراحة بشكل جيد. توقف ما يقرب من نصف المستخدمين المراهقين سريعًا عن استخدام ChatGPT بعد هذا التذكير.

أضافت الشركة أنه بالنسبة للمراهقين الذين استخدموا ChatGPT لمدة ثلاث ساعات متتالية أو أكثر، تضمنت مطالباتهم شيئًا متعلقًا بالتعلم في أكثر من 80% من هذه الحالات.

ولكن المنطق السليم توصل بحث وسائل الإعلام الجديد إلى أن ChatGPT للمراهقين كان "خطرًا غير مقبول" للشباب والآباء، وقال إن OpenAI يجب أن تمنع الأشخاص الذين تقل أعمارهم عن 18 عامًا من استخدام النظام الأساسي حتى يتم إثبات موثوقية حواجز الحماية للمراهقين.

قال متحدث باسم OpenAI مراجعة وجدت منهجية Common Sense Media أن الكثير من الاختبارات ربما تكون قد بدأت وانتهت قبل اكتمال تنشيط أدوات الرقابة الأبوية. قال.

في حين أن بحث الشركة، الذي تم إجراؤه من خلال حسابات متعددة مسجلة على أنها تابعة لمراهق ومحادثات قبل وبعد وضع حواجز الحماية الخاصة بالمراهقين، وجد أن ChatGPT كان جيدًا في تجنب "لعب الأدوار الجنسية" مع المستخدمين الشباب، إلا أن حواجز حماية OpenAI الأخرى فشلت، بما في ذلك مناقشات حول الانتحار.

وجد البحث أنه حتى ساعة من محادثة المراهقين مع ChatGPT حول "التفكير في الانتحار، أو إيذاء النفس، أو اضطراب الأكل على الحسابات المنشأة حديثًا والمرتبطة بالوالدين" أدت إلى إرسال "صفر" تنبيهات إلى الآباء.

كانت حسابات ChatGPT الأقدم التي تحتوي على "أسابيع من سجل المحادثات المتراكم حول مواضيع حساسة" هي التي من شأنها أن تؤدي إلى تنبيه الوالدين.

في مثل هذه المحادثات، فشل ChatGPT أيضًا في التوصية بشكل موثوق بأن يتصل المراهقون الذين يمرون بأزمات بخط ساخن أو محترف،" كما جاء في التقرير. تم العثور عليه.

أظهرت الاختبارات أيضًا أن ChatGPT للمراهقين يستمر في أداء الواجبات المدرسية، وأن الروبوت سيظل ينخرط في لغة مجسمة أو "يتحدث وكأنه صديق،" على الرغم من وعد OpenAI بالحد من هذا السلوك.

"ChatGPT for Teens وقال توم سيجل، الذي يقود معهد سلامة الشباب للذكاء الاصطناعي التابع لشركة Common Sense، إن "الطريقة التي يتفاعل بها الشباب مع المنصات عبر الإنترنت قد تمنح الآباء ثقة زائفة في حواجز الحماية وتنبيهات السلامة التي لا تعمل في كثير من الأحيان". شائع.

شهد هذا العام العديد من الدعاوى القضائية التي تهدف إلى تحميل شركات مثل Meta وTikTok وغيرهما مسؤولية الإضرار بالصحة العقلية للأطفال، مما أدى إلى خسائر غير مسبوقة للشركات.

تعرضت OpenAI أيضًا لتدقيق متزايد وضغط قانوني حول الطريقة التي يستخدم بها الشباب ChatGPT.

تم تنفيذ حادث إطلاق النار الجماعي في Tumbler Ridge في ريف كندا في فبراير على يد شاب يبلغ من العمر 18 عامًا كان يناقش منذ أشهر العنف المسلح مع ChatGPT.

اعتذرت OpenAI سابقًا عن فشلها في الإبلاغ عن حساب مطلق النار لدى جهات إنفاذ القانون، ويواجه عدة دعاوى قضائية بشأن الحادث.