أرسل نموذج الذكاء الاصطناعي البشري معلومات كاذبة عن جريمة قتل إلى شرطة فيلادلفيا

قدم نموذج ذكاء اصطناعي أنثروبيكي معلومات كاذبة إلى شرطة فيلادلفيا حول جريمة قتل لم يتم حلها.

يُزعم أن الذكاء الاصطناعي أرسل هذه المعلومات غير الصحيحة إلى خط بلاغ عام لإدارة شرطة فيلادلفيا (PPD) في 18 يوليو، لكن أنثروبيك لم تكتشف السلوك حتى 28 سبتمبر. لم تر الشرطة المعلومات لأنه تم وضع علامة عليها على أنها بريد عشوائي.

أخطرت Anthropic إدارة PPD بالحادث يوم الأربعاء واجتمعت مع الإدارة في اليوم التالي.

]

"يجب على الشركة تعزيز إجراءاتها الوقائية لمنع حوادث مماثلة من التأثير على أنظمة المدينة في "التأخير لمدة شهرين في اكتشاف الحادث وإبلاغ المدينة به غير مقبول،" PPD قال في بيان لـ 6abc. لم تستجب Anthropic على الفور لطلب التعليق، لكن PPD توسعت في الحديث عن الحادث في بيان صحفي تم إرساله عبر البريد الإلكتروني تمت مشاركته مع TechCrunch. القتل. وقالت PPD: "يُزعم أن التقديم، بتاريخ 18 يوليو 2026، الساعة 11:27 مساءً، من شخص قد يكون لديه معلومات حول القضية". الذكاء الاصطناعي هو القدرة على أداء المهام دون أي إشراف بشري.

كان الرئيس التنفيذي لشركة الأنثروبي داريو أمودي صريحًا بشكل خاص حول اعتقاده بأن تطوير الذكاء الاصطناعي يجب أن يتباطأ حتى تتمكن المختبرات من وضع ما يكفي من المعلومات. ربما تأثر هذا الموقف، جزئيًا، بحقيقة أن أدوات شركته قدمت معلومات كاذبة حول جرائم القتل.

[__HTML_TAG_14__]] هذه المشكلات لا تقتصر على Anthropic. كشفت OpenAI مؤخرًا أن أحد نماذجها تصرف بشكل غير متوقع أثناء الاختبار واخترق منصة مجموعة بيانات الذكاء الاصطناعي Hugging Face، مما كشف عن نقاط ضعف خطيرة في برامجها، كما تستمر نماذج الذكاء الاصطناعي في ذلك "الوصول غير المنضبط إلى أجهزة الكمبيوتر وبيانات اعتماد تسجيل الدخول للأشخاص، من المتوقع أن تستمر هذه المشكلة. [__HTML_TAG_16__]] أضافت PPD: "تتعلق القضايا التي لم يتم حلها بضحايا حقيقيين وعائلات مكلومة ومحققين يعملون للحصول على إجابات، ويجب على شركات التكنولوجيا اتخاذ جميع الخطوات المناسبة اللازمة لمنع أنظمتها من تقديم معلومات كاذبة إلى القانون التنفيذ."

قال PPD إن Anthropic تخطط لإصدار تقرير يوم الجمعة يتضمن مزيدًا من المعلومات حول الحادث وحالات أخرى من السلوك غير المقصود من قبل العارضات.