الذكاء الاصطناعي الخفي: ليس مجرد مشكلة أمنية، بل قضية قانونية بقانون الاتحاد الأوروبي

إن أخطر حادث يتعلق بالأمن السيبراني قد تواجهه مؤسستك هذا العام، والذي ينبع من الذكاء الاصطناعي، لن يأتي على الأرجح من مهاجمين خارجيين يستخدمون نماذج متطورة جديدة. بل من المرجح أن يبدأ بموظف يقوم بلصق عقد عميل، أو توقع مالي، أو مجموعة من سجلات الموارد البشرية في أداة ذكاء اصطناعي لأن ذلك يسهل عمله، ولم يخبره أحد لماذا هذا الأمر مهم.

يمثل الذكاء الاصطناعي الخفي (Shadow AI) مشكلة متنامية، وقد كشفت أبحاثنا أن ما يقرب من نصف الموظفين في الشركات الكبرى يقومون بانتظام بإدخال بيانات الشركات الحساسة إلى أدوات الذكاء الاصطناعي التي لم توافق عليها أو تديرها أقسام تكنولوجيا المعلومات.

والأكثر إثارة للدهشة هو أن 85% من الموظفين يواصلون هذا السلوك حتى عندما تكون الأدوات المعتمدة من الشركة متاحة، مما يشير إلى فشل في الحوكمة يمتد إلى المستويات التنفيذية العليا. فمع الذكاء الاصطناعي الخفي، يمكن للبيانات الحساسة أن تنتقل بصمت إلى الخارج عبر قنوات لم تُصمم معظم أنظمة الأمن لاعتراضها.

بالإضافة إلى المخاطر الأمنية التي يفرضها تدفق البيانات غير المراقب هذا، فإن ظهور قانون الذكاء الاصطناعي للاتحاد الأوروبي (EU AI Act) يعني أيضًا أن المؤسسات تواجه الآن متطلبات قانونية محددة لإدارة استخدام الذكاء الاصطناعي. أصبحت القدرة على فرض حوكمة كاملة على كيفية نشر الذكاء الاصطناعي وإدارته ومراقبته ضرورة تنظيمية وأمنية ملحة.

لماذا يجعل قانون الذكاء الاصطناعي للاتحاد الأوروبي هذه مشكلة على مستوى مجلس الإدارة

يمثل الذكاء الاصطناعي الخفي (Shadow AI) مشكلة أمنية خطيرة، حيث يقدر تقرير IBM لتكلفة اختراق البيانات لعام 2026 أن الأدوات غير المصرح بها ساهمت في 43% من الاختراقات خلال العام الماضي. والآن، يضيف قانون الذكاء الاصطناعي للاتحاد الأوروبي (EU AI Act) متطلبات تنظيمية كبيرة على رأس هذه المخاطر.

لقد تم طرح التزامات القانون على مراحل؛ ومؤخرًا، أصبحت المؤسسات المصنفة كمستخدمين عامين للذكاء الاصطناعي ملزمة بمتطلبات جديدة تتعلق بالجرد، وحوكمة البيانات، وتسجيل التدقيق، والشفافية اعتبارًا من 2 أغسطس 2026.

وقد تم تأجيل مواعيد نهائية أخرى، حيث من المقرر أن تدخل الضوابط المتعلقة باستخدام الذكاء الاصطناعي عالي المخاطر، والتي تغطي مجالات مثل التوظيف، وتقييم الائتمان، والتصنيف البيومتري، حيز التنفيذ اعتبارًا من 2 ديسمبر 2027. أما الذكاء الاصطناعي المدمج في المنتجات المنظمة، فسيتم تغطيته اعتبارًا من 2 أغسطس 2028.

أي مؤسسة يستخدم موظفوها أنظمة الذكاء الاصطناعي لديها الآن التزامات امتثال بصفتها جهة نشر، بغض النظر عما إذا كانت تلك الأنظمة قد تم التصريح بها رسميًا.

يجب أن تدرك جميع المؤسسات التي تستخدم الذكاء الاصطناعي أن التزام محو الأمية في مجال الذكاء الاصطناعي بموجب المادة 4 أصبح ساري المفعول منذ فبراير 2025، مما يعني أن المؤسسات مسؤولة عن ضمان وعي موظفيها بالاستخدام الآمن والمصرح به للذكاء الاصطناعي.

لن تقتصر قواعد استخدام الذكاء الاصطناعي عالي المخاطر على ما يبدو للوهلة الأولى، بل ستشمل عمليات أوسع، مثل استخدام موظف لأداة استهلاكية غير معتمدة (مثل تطبيقات الذكاء الاصطناعي) في مهام كفحص السير الذاتية، وتقييم الجدارة الائتمانية، أو تقييم الأداء.

تُعد هذه مهامًا شائعة قد تؤدي إلى تفعيل كامل صلاحيات الرقابة بموجب القانون ضد نظام لم يكن قسم تكنولوجيا المعلومات على علم بنشره من الأساس.

مع عقوبات قد تصل إلى 15 مليون يورو أو 3% من الإيرادات السنوية العالمية للانتهاكات عالية المخاطر، فإن العديد من المؤسسات تتحمل مخاطر أكبر مما تدرك.

لماذا لا يستطيع مكدس الأمان الحالي لديك رؤية ذلك؟

يكمن التحدي مع الذكاء الاصطناعي الخفي في أنه يستغل النقاط العمياء بين طبقات الأمان التقليدية، متسللاً عبر ثغرات لم تُصمم معظم الأدوات لسدها.

على سبيل المثال، لا تستطيع حلول CASBs وبوابات الويب الآمنة فك تشفير البيانات الحوارية المتدفقة إلى نطاقات LLM المشروعة عبر HTTPS. من منظور الشبكة، لا يمكن تمييز موجه يحتوي على قاعدة بيانات عملاء كاملة عن أي جلسة ويب مشفرة أخرى. كما أن إضافات المتصفح تقتصر على نقاط النهاية المُدارة، وتكون عمياء عن الأجهزة الشخصية والذكاء الاصطناعي المضمن داخل تطبيقات SaaS المعتمدة.

وبالمثل، تُبنى بوابات API عادةً حول عمليات النشر المؤسسية المعتمدة، مما يعني أنها تسجل نشاط الذكاء الاصطناعي الذي وافقت عليه المؤسسات بالفعل، بينما تغفل أدوات الذكاء الاصطناعي المخصصة للمستهلكين التي تشكل معظم المخاطر.

تتفاقم هذه النقاط العمياء مع بعضها البعض، لذا قد تظل المؤسسة التي تدير جميع الطبقات الثلاث تفتقر إلى الرؤية الكاملة لنشاط الذكاء الاصطناعي عبر جزء كبير من أصولها، ولا تملك وسيلة لإنشاء سجلات التفاعل أو أدلة تطبيق السياسات التي يتطلبها القانون.

كيف يبدو اكتشاف الذكاء الاصطناعي الفعال؟

عادةً ما يتم التحكم في تدفقات بيانات الذكاء الاصطناعي بواسطة الموظفين الذين يؤدون واجباتهم دون نية خبيثة. ومع ذلك، فإن هذا يشبه إلى حد كبير الدفاع ضد جهة تهديد خارجية تصل إلى بياناتك سرًا.

يجب أن يتناسب منطق الكشف مع هذا الواقع. يعترض الكشف الأصيل على نقطة النهاية البيانات الحساسة عند نقطة الحركة قبل أن تصل إلى نظام ذكاء اصطناعي خارجي، ويطبق السياسة على مستوى الموجه عبر المتصفحات المُدارة وغير المُدارة، والأجهزة الشخصية، ووظائف الذكاء الاصطناعي المضمنة في أدوات SaaS. إنه يعمل حيث يحدث النشاط، بدلاً من محاولة اكتشافه في المراحل اللاحقة.

بالنظر إلى حجم الغرامات المحتملة، فإن القدرة على إثبات الامتثال لا تقل أهمية عن منع الاختراقات الأمنية.

يوفر الاكتشاف المستمر عبر جميع الأصول، بما في ذلك أي أدوات غير مصرح بها، للمؤسسات جرد أنظمة الذكاء الاصطناعي الذي يتطلبه القانون.

تُلبي سجلات التفاعل التفصيلية – التي توضح من استخدم ماذا، ومتى، وما هي البيانات المتضمنة – متطلبات التوثيق بموجب المادتين 12 و 13، دون الحاجة إلى قيام الفرق بمحاولة محمومة لإعادة بناء النشاط بعد وقوعه. كما تُحدد نفس البيانات بدقة مواطن النقص في معرفة الذكاء الاصطناعي، مما يجعل الامتثال للمادة 4 أمرًا قابلاً للإثبات بدلاً من مجرد الادعاء به.

خطوات عملية للامتثال

تجد فرق الأمن والامتثال التي تسعى للامتثال لقانون الاتحاد الأوروبي للذكاء الاصطناعي مسارًا واضحًا يمكنها اتباعه.

نقطة البداية هي رسم خريطة شاملة لجميع أصول الذكاء الاصطناعي. يجب أن يتجاوز الكشف الأدوات المعتمدة من قبل قسم تكنولوجيا المعلومات ليشمل النقاط الطرفية غير المدارة، والأجهزة الشخصية المتصلة بشبكات الشركات، والذكاء الاصطناعي المدمج في حلول البرمجيات كخدمة (SaaS).

يجب أن تنتقل حوكمة البيانات إلى النقطة الطرفية. فالسياسات التي تحظر مشاركة البيانات الحساسة مع أدوات غير معتمدة ليست ضوابط تقنية، وبحلول الوقت الذي يتم فيه تطبيق هذه السياسات على حافة الشبكة، تكون البيانات قد غادرت بالفعل.

من المهم التذكير بأن المعلومات التي تتم مشاركتها مع نظام ذكاء اصطناعي خارجي قد يتم الاحتفاظ بها في سجلات الأوامر (prompt logs)، أو دمجها في بيانات تدريب النماذج، أو تخزينها على خوادم في ولايات قضائية ليس للمؤسسة أي رؤية عليها. في اللحظة التي تتجاوز فيها البيانات هذا الحاجز، تفقد المؤسسة السيطرة عليها بالكامل، ولن تتمكن أي وثيقة سياسة من استعادتها. هذا يزيد من مخاطر هجمات الذكاء الاصطناعي السيبرانية.

وبما أن المادة 12 تتطلب سجلات تفاعل يمكن تسليمها للمنظمين عند الطلب، ستحتاج المؤسسات إلى إجراء تدقيق مستمر وتلقائي لكل من الأنشطة والإجراءات الأمنية.

أخيرًا، يجب أن تستند برامج محو الأمية في مجال الذكاء الاصطناعي، الهادفة إلى تحسين وعي المستخدمين، إلى البيانات السلوكية بدلاً من برامج التدريب العامة. توفر سجلات الأنشطة التي تُظهر مواطن فشل الحوكمة – على مستوى القيادة العليا بقدر ما هي في أي مكان آخر – كلاً من تشخيص المشكلة والأدلة التي سيرغب المنظمون في رؤيتها.