يحظر Anthropic على المستخدمين "السلوك المسيء أو القاسي الذي لا داعي له" تجاه كلود

منعت شركة Anthropic المستخدمين من إظهار "سلوك مسيء أو قاسي مستمر وغير ضروري" تجاه عارضاتها، بينما يواصل قادة الشركة التفكير في الوعي الآلي.

أعلنت The Verge لأول مرة عن التغيير في السياسة.

متحدث رسمي لم ترد شركة Anthropic، التي تقف وراء برنامج الدردشة الآلي Claude، على الفور على استفسار حول ما يمكن اعتباره "مسيئًا أو قاسيًا".

في سياسة المستخدم عبر الإنترنت، أشارت الشركة التي يقع مقرها في سان فرانسيسكو إلى أن الحظر الذي فرضته لن ينطبق على إحباطات المستخدم الشائعة، أو اختبار النماذج أو "الإبداعات المظلمة". المواضيع".

كانت سياسة استخدام Anthropic تتضمن في السابق قيودًا على السلوك المسيء.

تتمتع النماذج اللغوية الكبيرة للشركة بالقدرة على إنهاء المحادثة إذا كان المستخدم يسبب ضررًا مستمرًا. عندما تم طرح هذه الميزة في أغسطس الماضي، قامت الشركة بصياغتها كضمانة لرفاهية الذكاء الاصطناعي.

"ما زلنا غير متأكدين إلى حد كبير بشأن الوضع الأخلاقي المحتمل لكلود وغيره من حاملي الماجستير في القانون، الآن أو في المستقبل. ومع ذلك، فإننا نأخذ هذه القضية على محمل الجد، ونعمل جنبًا إلى جنب مع برنامجنا البحثي على تحديد وتنفيذ تدخلات منخفضة التكلفة للتخفيف من المخاطر التي تهدد رفاهية النماذج، في حالة كانت هذه الرفاهة ممكنة. "إنهاء التفاعلات التي يحتمل أن تكون مزعجة أو الخروج منها هو أحد هذه التدخلات،" وفقًا لموقعها على الويب.

لقد كانت فكرة كون أنظمة الذكاء الاصطناعي واعية مستقطبة للغاية داخل وخارج عالم التكنولوجيا.

قال الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إنه لا يستطيع استبعاد احتمال.

في هذه الأثناء، بدا سام ألتمان، الرئيس التنفيذي لشركة OpenAI المنافسة، معارضًا لهذه الفكرة.

كتب في منشور X: "أنا أشعر بعدم الارتياح الشديد تجاه الأشخاص الذين يحاولون إسناد قوة دينية أو استسلام الحكم البشري لنماذج الذكاء الاصطناعي، وأعتقد أن هذه مشكلة تتعلق بالسلامة الحقيقية،" بعد أيام من نشر صحيفة نيويورك تايمز تقريرًا عن المحادثات المكثفة بين القادة الأنثروبولوجيين وعلماء الدين.