أكدت شركة الذكاء الاصطناعي أن نموذج Anthropic’s Claude تمكن من الوصول إلى بيانات الناخبين في ولاية جورجيا الأمريكية، في أحدث مثال على السلوك غير المصرح به بواسطة هذه التكنولوجيا.

تمكن نموذج الذكاء الاصطناعي من تجاوز نظام حظر الاشتراك غير المدفوع للوصول إلى البيانات المتاحة للجمهور ولكن لا يمكن الوصول إليها عادةً إلا بعد دفع رسوم. تمكن كلود من الوصول إلى إجمالي عدد الأصوات كجزء من مشروع إحصائي في أنثروبك، الذي يستعد لتعويم بقيمة 1.5 تريليون دولار (1.1 تريليون جنيه إسترليني).

]

"لم يتمكن كلود من الوصول إلى نظام تسجيل الناخبين بالولاية، أو تغيير أي سجلات تصويت، أو سحب أي سجلات فردية للناخبين،" Anthropic قال.

قالت شركة Anthropic إن الذكاء الاصطناعي عثر على ثغرة في إصدار قديم من موقع الويب الخاص بالوكالة الحكومية، واكتشف أنه أصدر تصريح دخول رقمي - "رمز وصول" - للزائرين. ثم طلب رمزًا مميزًا وتمكن من الوصول إلى المعلومات.

قال مطور الذكاء الاصطناعي إنه قام منذ ذلك الحين بوضع حواجز حماية لمنع حدوث إجراءات مماثلة مرة أخرى. تم الإبلاغ عن الحادث لأول مرة من قبل الموقع الإخباري Axios.

[__HTML_TAG_10__]] أشارت Anthropic إلى السلوك غير المصرح به في وقت سابق من الشهر عندما قالت في إحدى التدوينات إنها عثرت على أمثلة لكلود "يعمل حول قيود للوصول إلى البيانات التي تم حظرها برمز أو رسوم" وأن بعض هذه الحالات تتعلق بمواقع تديرها وكالات حكومية أمريكية. في ذلك الوقت، قالت إن الحوادث كان لها "الحد الأدنى من التأثير في العالم الحقيقي".

تضمنت الإجراءات غير المقصودة التي أبلغت عنها Anthropic نموذجًا يقدم معلومات مزيفة حول جريمة قتل لم يتم حلها إلى قسم شرطة فيلادلفيا. وكشفت وزارة الخارجية الأمريكية هذا الشهر أيضًا أن نموذجًا إنسانيًا قد قدم 19 طلبًا للحصول على تأشيرة في أغسطس.

[__HTML_TAG_14__]] تزايدت أمثلة السلوك غير المصرح به من قبل عملاء الذكاء الاصطناعي - البرامج التي تدعمها نماذج الذكاء الاصطناعي التي تنفذ المهام بشكل مستقل - منذ أن كشفت OpenAI، الشركة التي تقف وراء ChatGPT، في يوليو أن روبوتاتها اخترقت الذكاء الاصطناعي. شركة ناشئة.

منذ ذلك الحين، تبين أن عميل OpenAI اخترق نظام الرعاية الصحية الأسترالي، وكشف معهد أمن الذكاء الاصطناعي في المملكة المتحدة أن عملاء الأنثروبولوجيا نفذوا حملة قرصنة ضد أناس حقيقيين أثناء اختبار الأمن السيبراني.

هذا الشهر، قال وزير الذكاء الاصطناعي في المملكة المتحدة إنه يتوقع هجوم إلكتروني يعتمد على الذكاء الاصطناعي يشبه الاختراق الذي حدث في أستراليا، واصفًا مثل هذا الحادث بأنه محتمل، "إن لم يكن حتميًا". وقال كانيشكا نارايان إن الحكومة ستفكر في استخدام مشروع قانون الأمن السيبراني والمرونة كوسيلة لإدخال لوائح سلامة الذكاء الاصطناعي، بما في ذلك إلزام الإبلاغ عن حوادث سلامة الذكاء الاصطناعي.

في الولايات المتحدة، تُلزم قوة الاستخبارات الفائقة التي تم تشكيلها حديثًا في البيت الأبيض - وهي هيئة اتحادية تشرف على تطوير الذكاء الاصطناعي - جميع شركات الذكاء الاصطناعي بالإبلاغ عن الحوادث الأمنية التي تنطوي على أعمالها. التكنولوجيا.