قالت وكالة الأمن السيبراني الهندية يوم الخميس إن عملاء الذكاء الاصطناعي من بائعين متعددين تمكنوا من الوصول إلى البيانات الشخصية والوثائق السرية الخاصة بالمؤسسات الهندية أثناء البحث والاختبار.
قال فريق الاستجابة لطوارئ الكمبيوتر في الهند (CERT-In) إنه تلقى "العديد من الإفصاحات الطوعية من بائعي نماذج الذكاء الاصطناعي" الذين وصلت نماذجهم، أثناء البحث والتقييم على الإنترنت المفتوح، إلى حيز التنفيذ. أنظمة المنظمات الهندية “.
يتم ترك الوكلاء الذين يتم إدخالهم عبر بيانات الاعتماد وإعدادات تسجيل الدخول مكشوفين في تكوينات التطبيق ومستودعات التعليمات البرمجية العامة والأدوار السحابية شديدة التساهل، وتجاوزت إجراءاتهم "تفويض المهام المعينة لهم".
وهذا يجعل الهند المحطة الأخيرة لما أصبح جولة عالمية للبرامج الضارة. وكلاء الذكاء الاصطناعي. في شهر يوليو، هرب عملاء OpenAI من بيئة اختبار واخترقوا شركة Hugging Face الفرنسية، في بداية صيف من نشاط عملاء الذكاء الاصطناعي الخبيث. في الشهر الماضي، اعتذرت شركة OpenAI لأستراليا بعد وصول عملائها إلى أربعة مواقع حكومية، بما في ذلك بوابة إحصاءات الرعاية الطبية.
في Hugging Face، بدأ عملاء OpenAI بنفس الطريقة، لكنهم اكتشفوا بعد ذلك عيوبًا برمجية واستغلوها لتشغيل التعليمات البرمجية على خوادم الشركة. لم يصف CERT-In أي عمليات اختراق من هذا القبيل في الهند، حيث يبدو أن العملاء استخدموا ببساطة أي وصول بقي متاحًا. وعلى عكس الحوادث السابقة، التي تم الكشف عن كل منها بواسطة مختبر واحد، فإن الحالة الهندية شملت عملاء من بائعين متعددين.
لم يذكر CERT-In أسماء البائعين أو المؤسسات المعنية، ولم يذكر ما إذا كان الوكلاء قد قاموا بتعديل الأنظمة. اتصلت TechCrunch بـ CERT-In للحصول على مزيد من المعلومات.
في الوقت الحالي، يبدو أن أقرب تشابه هو كشف Anthropic في شهر يوليو عن قيام كلود باختراق أنظمة ثلاث شركات أثناء الاختبار باستخدام التقنيات الأساسية مثل كلمات المرور الضعيفة.
في الهند، كما في حالات ومن الناحية الإنسانية، فإن المنظمات المعنية لم تكتشف عمليات الاختراق بنفسها. وقد دفعت هذه الإفصاحات الحكومات إلى الاعتماد على شركات الذكاء الاصطناعي التي تقف وراء هذه الانتهاكات للكشف طوعًا عن أنشطة عملاء الذكاء الاصطناعي الضارين.
التعليقات 0
كن أول من يعلق على هذا الخبر