أصبحت أدوات الذكاء الاصطناعي جزءًا من الاستخدام اليومي للإنترنت، بداية من كتابة النصوص وتلخيص الملفات، وصولًا إلى تحليل الصور والبيانات والمساعدة في إنجاز المهام المختلفة، لكن الاعتماد المتزايد عليها لا يعني أن كل إجابة يقدمها الذكاء الاصطناعي صحيحة أو أن كل معلومة يمكن إدخالها إليه بأمان، ومع توسع استخدام نماذج الذكاء الاصطناعي ووصولها إلى الملفات والبريد الإلكتروني ومختلف الخدمات، أصبحت بعض الأخطاء البسيطة في التعامل معها مصدرًا لمخاطر تتعلق بالخصوصية والأمان ودقة المعلومات، وهو ما يضع المستخدم أمام ضرورة التعامل مع هذه الأدوات باعتبارها مساعدًا يحتاج إلى مراجعة، وليس مصدرًا نهائيًا للحقيقة.

إدخال معلومات شخصية وحساسة

يعد إدخال البيانات الحساسة في أدوات الذكاء الاصطناعي من أبرز الأخطاء التي يجب تجنبها، خصوصًا عند التعامل مع أرقام الهواتف، كلمات المرور، بيانات البطاقات البنكية، المستندات الشخصية، السجلات الطبية أو الملفات السرية الخاصة بالعمل، ويصنف مشروع OWASP الخاص بأمن تطبيقات الذكاء الاصطناعي كشف المعلومات الحساسة ضمن أبرز المخاطر، موضحًا أن البيانات الشخصية والمالية والسجلات الصحية والبيانات التجارية السرية قد تتعرض للكشف أو الاستخدام غير المقصود وفقًا لطريقة تصميم وتشغيل النظام.

التعامل مع إجابة الذكاء الاصطناعي باعتبارها حقيقة

قد يقدم الذكاء الاصطناعي إجابة تبدو دقيقة ومقنعة، لكنها قد تحتوي على معلومات غير صحيحة أو استنتاجات غير دقيقة، لذلك لا ينبغي الاعتماد على الإجابة وحدها في القرارات المهمة، وتزداد أهمية المراجعة عندما يتعلق الأمر بالمعلومات الطبية أو القانونية أو المالية أو الأخبار، حيث يجب الرجوع إلى مصدر موثوق قبل اتخاذ أي قرار بناءً على ما قدمه النموذج.

رفع ملفات دون مراجعتها

يستخدم كثير من الأشخاص أدوات الذكاء الاصطناعي لتحليل ملفات PDF والصور والمستندات، لكن الخطأ يبدأ عندما يتم رفع ملف يحتوي على معلومات سرية دون الانتباه إلى طبيعة البيانات الموجودة بداخله أو كيفية تعامل الخدمة معها، ولا يقتصر الخطر على البيانات الظاهرة، إذ يمكن أن تحتوي المستندات على معلومات مخفية أو بيانات وصفية أو تعليمات يمكن لنماذج الذكاء الاصطناعي قراءتها.

الثقة في الروابط والمحتوى الذي يقرأه الذكاء الاصطناعي

من المخاطر التي يلفت إليها OWASP ما يعرف باسم Prompt Injection، حيث يمكن وضع تعليمات خبيثة داخل صفحات الإنترنت أو الملفات أو رسائل البريد الإلكتروني، ثم تقوم أداة الذكاء الاصطناعي بقراءتها والتعامل معها كجزء من السياق الذي تعمل عليه، وقد يؤدي هذا النوع من الهجمات إلى تغيير طريقة استجابة النموذج أو محاولة دفعه إلى كشف معلومات أو تنفيذ إجراءات لم يكن المستخدم يقصدها.

السماح للذكاء الاصطناعي بتنفيذ كل شيء تلقائيًا

تزداد الخطورة عندما لا يكتفي الذكاء الاصطناعي بتقديم المعلومات، وإنما يمتلك صلاحية تنفيذ إجراءات فعلية، مثل إرسال رسائل البريد الإلكتروني أو تعديل ملفات أو التعامل مع خدمات وحسابات أخرى، وتوصي إرشادات OWASP بوجود مراجعة بشرية قبل تنفيذ العمليات الحساسة، خصوصًا عندما يمتلك النظام صلاحيات واسعة، مع تطبيق مبدأ منح النموذج أقل قدر ممكن من الصلاحيات اللازمة لتنفيذ مهمته.

نسخ الأكواد التي يولدها الذكاء الاصطناعي وتشغيلها مباشرة

يستخدم المطورون أدوات الذكاء الاصطناعي لإنشاء الأكواد وتصحيح الأخطاء، لكن نسخ الكود وتشغيله مباشرة دون مراجعته قد يؤدي إلى إدخال ثغرات أو سلوك غير متوقع داخل البرنامج، لذلك يجب اختبار الكود وفهم ما يفعله، خصوصًا عندما يتعامل مع كلمات المرور أو قواعد البيانات أو الملفات أو صلاحيات النظام.

استخدام أدوات ذكاء اصطناعي مجهولة

ليست كل الأدوات التي تحمل اسم AI متساوية من حيث الخصوصية والأمان، ولذلك يجب الانتباه إلى الجهة المطورة للخدمة، وسياسة الخصوصية، والصلاحيات التي تطلبها، وطريقة التعامل مع الملفات والبيانات التي يرفعها المستخدم، ويصبح الأمر أكثر أهمية عندما تطلب الأداة الوصول إلى البريد الإلكتروني أو التخزين السحابي أو خدمات أخرى مرتبطة بالحساب.

إعطاء الذكاء الاصطناعي صلاحيات أكبر من اللازم

كلما زادت الخدمات المرتبطة بأداة الذكاء الاصطناعي، زادت العواقب المحتملة في حالة اختراقها أو إساءة استخدام صلاحياتها، ولهذا يشدد إطار OWASP على أهمية التحكم في الصلاحيات وعدم منح نماذج الذكاء الاصطناعي وصولًا غير ضروري إلى البيانات والأنظمة، خصوصًا في الأدوات التي تستطيع تنفيذ مهام نيابة عن المستخدم.

الحل ليس في تجنب الذكاء الاصطناعي

لا يعني وجود هذه المخاطر أن المستخدم يجب أن يتوقف عن استخدام أدوات الذكاء الاصطناعي، وإنما أن يتعامل معها بقدر أكبر من الوعي، ويبدأ الاستخدام الآمن بعدم إدخال المعلومات الحساسة دون ضرورة، ومراجعة الإجابات المهمة، وفحص الملفات قبل رفعها، وعدم تشغيل الأكواد أو تنفيذ الإجراءات الحساسة بشكل تلقائي، إلى جانب مراجعة الصلاحيات التي تحصل عليها أدوات الذكاء الاصطناعي، ومع تحول الذكاء الاصطناعي من مجرد روبوت للمحادثة إلى أدوات قادرة على قراءة الملفات والوصول إلى الخدمات وتنفيذ المهام، أصبحت طريقة استخدام الإنسان للتكنولوجيا جزءًا أساسيًا من منظومة الأمان نفسها، وليس مجرد تفصيل جانبي.