تحظر Anthropic على المستخدمين التعامل بقسوة مع أنظمة الذكاء الاصطناعي الخاصة بها

أثارت شركة Anthropic الدهشة بإعلانها أنها ستمنع المستخدمين من السلوك المسيء "المستدام وغير الضروري" تجاه الذكاء الاصطناعي.

قال صانع Claude يوم الخميس إنه يقوم بتحديث سياسة الاستخدام الخاصة به للسماح لأدواته بإنهاء التفاعلات حيث الأشخاص "قاسيون" - وهو أمر قالت إنها فعلته في حالات "نادرة" من قبل.

سيتم إدراجه الآن في قائمة السلوك المحظور الذي يتضمن أيضًا التنمر على الآخرين، والترويج لإيذاء النفس، وإنشاء صور حميمة بدون رضاهم.

بينما قالت أنثروبيك إن السياسة لن تنطبق إلا وفي "الحالات القصوى" من إساءة الاستخدام المتكررة، أعادت إشعال الجدل حول كيفية التواصل مع أدوات الذكاء الاصطناعي.

قالت الشركة إنها لن تنطبق على "الإصدارات الشائعة من إحباط المستخدم، أو المعارضة، أو الموضوعات الإبداعية المظلمة، أو اختبار النماذج والبحث" - مما يشير إلى أنها لن تنطبق إلا بشكل متعمد بشكل واضح.

ولكن ما قد تعتبره الأنثروبيك "سلوكًا مسيءًا أو قاسيًا" تجاه عارضاتها لا يزال غير واضح.

تمت مشاركة لقطات الشاشة للسياسة الجديدة على نطاق واسع والتعليق عليها عبر وسائل التواصل الاجتماعي - حيث أشاد البعض بها باعتبارها تعزز الأخلاق الحميدة أو "القدوة". الرفاهية".

لكن آخرين انتقدوا الخطة، حيث وصفها أحد الأشخاص بأنها "خاطئة للغاية، خارجية" واقترح آخر أنها قد تقوض الإساءة الموجهة إلى البشر و الحيوانات.

كتب الدكتور باري سكانيل، الشريك التكنولوجي في شركة المحاماة الأيرلندية William Fry، على LinkedIn: "لا يمكنك أن تكون قاسيًا تجاه الأرقام والرياضيات". خارجي.

"هذا المستوى من تجسيم الذكاء الاصطناعي ضار. فهو يقود الناس إلى الاعتقاد بأنه شيء ليس كذلك."

مدير الذكاء الاصطناعي في Microsoft مصطفى سليمان، الذي انتقد في سبتمبر الشركة المنافسة Anthropic بسببها التعامل مع الذكاء الاصطناعي كما لو كان إنسانيًا، تفاعلوا مع تحديث Anthropic برمز تعبيري للوجه يذوب.