كشفت السلطات أن عميل ذكاء اصطناعي، طورته شركة Anthropic، انحرف وأرسل إلى الشرطة الأمريكية معلومات مزيفة حول جريمة قتل لم يتم حلها في وقت سابق من هذا العام.

قالت إدارة شرطة فيلادلفيا إن المعلومة، التي تم إرسالها في 18 يوليو، كانت "تم وضع علامة عليها كبريد عشوائي" ولم يتم تمريرها للتحقيق، لكنها انتقدت شركة التكنولوجيا لأنها استغرقت أكثر من شهرين لاكتشاف الانتهاك والإبلاغ عنه.

قالت الشرطة في بيان لها إن النصيحة الزائفة جاءت من خلال موقع ويب عام حيث يمكن للأشخاص مشاركة المعلومات حول جرائم القتل التي لم يتم حلها، وأن وكيل الذكاء الاصطناعي كتب أنه قد يكون لديه معلومات حول قضية ما، وادعى أنه رأى "شخصًا يطابق description".

يُعتقد أن هذه هي المرة الأولى التي يرسل فيها أحد عملاء الذكاء الاصطناعي معلومات ملفقة إلى السلطات، ولكنها الأحدث في سلسلة من الحوادث التي تنطوي على أنشطة ذكاء اصطناعي مارقة، بما في ذلك اختراق الأنظمة أو السيطرة على المنصات.

نقلاً عن Anthropic، قالت إدارة الشرطة إن عميل الذكاء الاصطناعي كان يجري اختبارًا يتضمن تفاعلات مع مواقع ويب تم اختيارها عشوائيًا، عندما أرسل نصيحة مزيفة.

اكتشفت Anthropic الانتهاك في 28 سبتمبر، بعد أكثر من شهرين من إرسال الرسالة، وأغلقت الشبكة التلقائية. وقالت الشرطة إن عملية الاختبار كانت وراء ذلك.

ولكن لم يتم إخطار السلطات لمدة تسعة أيام أخرى - في 7 أكتوبر.

"قالت شرطة فيلادلفيا في بيان لوسائل الإعلام المحلية: "يجب على الشركة تعزيز ضماناتها لمنع وقوع حوادث مماثلة من التأثير على أنظمة المدينة دون علم المدينة". الوسائط.

"التأخير لمدة شهرين في اكتشاف الحادث وإبلاغ المدينة به أمر غير مقبول."

وأضاف قسم الشرطة أنه لا توجد علامات على وجود انتهاكات لأي أنظمة الإدارات، وأن عمليات الحماية الخاصة بها منعت المعلومات المزيفة من تجاوز مجلد البريد العشوائي الخاص بها.

لكن الضمانات "لا تقلل من خطورة نظام الذكاء الاصطناعي الذي يقدم معلومات ملفقة كما لو أنها جاءت من شخص لديه علم بجريمة قتل"، حسبما جاء في بيان الشرطة. قال.

نشرت Anthropic هذا الأسبوع تقريرًا يعرض بالتفصيل أنواعًا متعددة من الإجراءات "غير المقصودة" التي اتخذها وكلاؤها.

]

المؤسسات التي تأثرت وقالت إن الذكاء الاصطناعي شمل أيضًا العديد من الوكالات الحكومية الأمريكية بما في ذلك البيت الأبيض.

قالت وزارة الخارجية الأمريكية إن عميل الذكاء الاصطناعي قدم 20 طلبًا للحصول على تأشيرة باستخدام نموذج على موقعها على الإنترنت، لكنها كانت غير مكتملة ولم تتم معالجتها، وفقًا للتقارير.

أعلن الرئيس دونالد ترامب مؤخرًا عن فريق عمل للذكاء الاصطناعي، والذي أنشأه. قال أنه سيتم تنسيق المشاركة بين الحكومة وجميع الأطراف، بما في ذلك شركات الذكاء الاصطناعي والمستهلكين والجماعات الدينية.

في وقت سابق من هذا العام، قام عميل مارق من شركة تكنولوجيا منافسة، Open AI، باختراق موقع ويب للحكومة الأسترالية والوصول إلى البيانات الخاصة حول نظام الرعاية الصحية الشامل في البلاد، Medicare.

في وفي مثال آخر، انحرف أكثر من 1200 من عملاء OpenAI وبدأوا في التواصل بشكل غير متوقع، مما أدى إلى تجمع مجموعة كبيرة معًا لاختراق منصة الذكاء الاصطناعي Hugging Face.