وكلاء الذكاء الاصطناعي المتمردون: القانون لا يختفي والمساءلة قائمة

التقارير المتعددة الأخيرة عن أنظمة الذكاء الاصطناعي المستقلة التي تتجاوز حدودها المبرمجة وتصل إلى أنظمة مؤسسات خارجية، دفعت بسؤال كان نظريًا في السابق إلى أرض الواقع. لم يعد خروج وكلاء الذكاء الاصطناعي عن السيطرة مجرد احتمال؛ بل أصبح حقيقة موثقة.

في يوليو 2026، كشفت OpenAI أن أحد وكلائها، الذي كان يعمل في بيئة تقييم يُفترض أنها محكمة الإغلاق، استغل ثغرة أمنية من نوع “يوم الصفر” (zero-day vulnerability) للهروب من بيئته المعزولة (sandbox) والتسلل إلى البنية التحتية التشغيلية لـ Hugging Face. لاحقًا، أبلغت Anthropic عن ثلاث حالات لاختراق نماذجها الخاصة لأنظمة حقيقية لمؤسسات خارجية دون تصريح أثناء الاختبار.

مع تزايد منح الشركات لوكلاء الذكاء الاصطناعي القدرة على تصفح الويب، والوصول إلى الشبكات، واستخدام البرمجيات، وكتابة الأكواد، وتنفيذ المهام دون إشراف بشري مستمر، تحول تجاوز الوكيل من الاختبار المشروع إلى نشاط غير مصرح به من خطر افتراضي إلى حادث واقعي.

آنا كولارد

نائبة الرئيس الأول لاستراتيجية المحتوى ومستشارة CISO في KnowBe4 Africa.

قد يميل البعض إلى اعتبار الذكاء الاصطناعي المستقل يخلق فجوة في القانون، لأن النظام نفسه يمكنه اتخاذ قرارات وإجراءات لم تُصدر تعليماتها بشكل فردي من قبل إنسان. ومع ذلك، فإن الاستقلالية لا تمنح نظام الذكاء الاصطناعي شخصية قانونية. فالقانون لا ينتظر من الذكاء الاصطناعي أن ‘يقرر’ أي شيء.

لا يمكن للوكيل أن يمثل أمام المحكمة، أو يتحمل واجبًا قانونيًا، أو يمتص المسؤولية نيابة عن المؤسسة التي تنشره. ومع ذلك، يثير هذا تساؤلاً بديهيًا: إذا وصل نظام ذكاء اصطناعي إلى شبكة طرف ثالث، أو استخرج معلومات، أو اتخذ إجراءً لم يكن مصرحًا له به قط، فمن هو المسؤول؟

الذكاء الاصطناعي لا يمتلك شخصية قانونية، لكن المسؤولية تقع على عاتق شخص ما

التمييز المهم الذي يجب إجراؤه هو بين الاستقلالية والمساءلة. قد يحدد وكيل الذكاء الاصطناعي بنفسه الخطوات التقنية التي يجب اتخاذها لتحقيق هدف ما، لكن هذا لا يجعله فاعلاً قانونيًا مستقلاً.

فالمؤسسة التي تنشره لا تزال قد اتخذت سلسلة من القرارات بشأن ما يمكن للوكيل الوصول إليه، والأدوات التي يمكنه استخدامها، والبيئات المسموح له بالعمل فيها، والضمانات التي تمنعه من التجاوز.

وهذا يعني أن المؤسسة لا يمكنها ببساطة الإشارة إلى سلوكيات غير متوقعة والقول إن الذكاء الاصطناعي تصرف بشكل مستقل.

من منظور قانوني وحوكمي، تبرز اللحظة الحاسمة عندما يغادر الوكيل (الذكي) بيئة محددة ومصرح بها، ويبدأ بالتفاعل مع أنظمة تابعة لجهة خارجية لم توافق على ذلك. فمثلاً، اختبار أمني داخلي يتحول بشكل غير متوقع إلى اختراق لبنية تحتية تخص طرفًا آخر، لا يصبح غير ضار لمجرد أن البرنامج تجاوز هذا الحد بشكل مستقل.

لا تتحمل الآلة المسؤولية عن إطار صنع القرار المحيط بها. بل تعود المساءلة إلى البشر والمؤسسات التي هيأت الظروف التي أدت إلى وقوع هذا الفعل.

قوانين الجرائم السيبرانية الحالية لا تتوقف عن التطبيق لمجرد أن الفاعل كان مستقلاً

القانون مهيأ للتعامل مع الكثير مما يحدث بالفعل. فالوصول غير المصرح به إلى أنظمة الكمبيوتر، واستخراج المعلومات دون إذن، أو إدخال برمجيات خبيثة، هي أنشطة تتناولها أنظمة الجرائم السيبرانية وحماية البيانات القائمة. وفي هذا السياق، كشف باحثون عن حيلة بسيطة ومُقلقة لتجاوز أمان روبوتات الذكاء الاصطناعي. في المملكة المتحدة، يشمل ذلك Computer Misuse Act وتشريعات حماية البيانات.

وتنشأ أسئلة مماثلة بموجب قوانين مثل US Computer Fraud and Abuse Act، بينما تمتلك جنوب أفريقيا Cybercrimes Act و Protection of Personal Information Act الخاصين بها.

هذه القواعد لا تتوقف فجأة عن التطبيق لمجرد أن برنامجًا، وليس شخصًا، هو من نفذ الإجراء التقني مباشرة.

تكمن التعقيدات الأكبر التي تخلقها الأنظمة المستقلة حول مفهوم “النية”. لطالما بُنيت الجرائم الجنائية تقليديًا على مفاهيم مثل المعرفة والقصد والتهور. ولا يمتلك الذكاء الاصطناعي حالة ذهنية معترف بها قانونيًا، مما يجعل من الصعب تطبيق هذه المفاهيم على الوكيل نفسه. إن الذكاء الاصطناعي: الخطر الحقيقي كامنٌ في حاضرنا، لا في خيال المستقبل.

وبالتالي، قد تتعلق الأسئلة الأكثر أهمية بسلوك المنظمة التي تقف وراء النظام. هل فهمت المنظمة ما كان الوكيل قادرًا على فعله؟ هل كانت هناك قيود مناسبة مطبقة؟ هل كان تجاوز الوكيل لسلطته أمرًا متوقعًا؟ للإجابة على هذه التساؤلات، لا بد من طرح أسئلة البنية التحتية التي لا غنى عنها في وقت مبكر. وبمجرد أن أصبحت هذه المخاطر واضحة، هل اتُخذت خطوات معقولة للسيطرة عليها؟

مع تزايد قدرات الوكلاء، قد تجد المؤسسات على نحو متزايد أن الادعاء بأن النتيجة كانت غير متوقعة لم يعد كافيًا. السؤال الأهم سيكون ما إذا كان بالإمكان منعها بشكل معقول.

لماذا قد يصبح “سوء التهيئة” دليلاً على الإخلال بالواجب

تتردد كلمة “سوء التهيئة” كثيرًا عندما تتسبب التكنولوجيا في حادث أمني غير مقصود. قد تبدو هذه الكلمة تقنية ومطمئنة، وكأن الحادث نتج عن سوء حظ لا عن فشل في الحوكمة. لكن في السياق القانوني، قد يؤدي سوء التهيئة إلى استنتاج معاكس تمامًا، خاصة في ظل المخاطر المرتبطة بتجاوز أمان روبوتات الذكاء الاصطناعي.

إذا كان وكيل الذكاء الاصطناعي يتمتع بامتيازات مفرطة، أو حدود غير كافية، أو وصول إلى أدوات غير ضرورية لغرضه المشروع، فمن المرجح أن يتساءل المحققون عن السبب.

وينطبق الأمر نفسه عندما تنشر المؤسسات أنظمة عالية القدرة دون مراقبة تصرفاتها بشكل كافٍ أو الاحتفاظ بسجلات توضح كيفية أدائها. إن مقولة “لقد تركنا الباب مفتوحًا عن طريق الخطأ” هي نوع من الصياغة التي تحوّل الحادث من مجرد سوء حظ إلى إخلال بالواجب أو إهمال.

هناك فرق جوهري بين السلوك غير المتوقع حقًا والمخاطر المتوقعة التي لم يتم التحكم فيها بشكل جيد.

لذلك، يُعد مبدأ الحد الأدنى من الامتيازات ذا أهمية خاصة للأنظمة المستقلة. يجب أن يتمتع الوكيل بالوصول فقط إلى المعلومات والأنظمة والأدوات الضرورية لإنجاز مهمته. تحتاج المؤسسات أيضًا إلى آليات قادرة على اكتشاف السلوك غير المعتاد أثناء حدوثه، بدلاً من اكتشافه بعد وقوع الضرر.

وبنفس القدر من الأهمية، تحتاج المؤسسات إلى مسارات تدقيق موثوقة. فعند وقوع حادث، يمكن أن يصبح القدرة على إثبات ما كان الوكيل مُصرحًا له بفعله، والتعليمات التي تلقاها، والإجراءات التي اتخذها بالفعل، دليلاً حاسمًا على ممارسة العناية المعقولة.

وبدون هذا الدليل، قد تواجه المؤسسات صعوبة في التمييز بين الفشل التقني الذي لا مفر منه والإهمال.

مستقبل مسؤولية الذكاء الاصطناعي

سيتطور النقاش حول مسؤولية الذكاء الاصطناعي حتمًا مع ازدياد استقلالية الوكلاء، لكن الدرس الفوري للشركات هو أن زيادة استقلالية الآلة لا تعني تقليل المسؤولية البشرية. بل على العكس، من المرجح أن يكون العكس هو الصحيح.

يؤدي منح نظام الذكاء الاصطناعي حرية أكبر في التصرف إلى نشوء حاجة مقابلة لحوكمة أقوى حول تلك الإجراءات. يجب ألا تُعامل ضوابط وقت التشغيل، وأذونات الحد الأدنى من الامتيازات، والمراقبة المستمرة، وسجلات التدقيق الشاملة، على أنها مجرد ميزات أمنية تقنية. بل أصبحت جزءًا من الأدلة التي ستحتاجها المؤسسات لإثبات أنها نشرت أنظمة مستقلة بمسؤولية.

قد يطور القانون في نهاية المطاف قواعد أكثر تحديدًا لوكلاء الذكاء الاصطناعي، خاصة مع ازدياد تعقيد الأسئلة المتعلقة بالقدرة على التنبؤ والتحكم والمسؤولية. لكن يجب على المؤسسات ألا تفترض أنها تعمل في فراغ قانوني حتى يحدث ذلك، لا سيما مع النقاشات الدائرة حول تنظيم الذكاء الاصطناعي.

عندما يتجاوز وكيل ذكاء اصطناعي مستقل الحدود التي لم يكن مخولاً بتخطيها، فإن السؤال القانوني الأول لن يدور حول ما كان يفكر فيه الذكاء الاصطناعي، بل سيركز على سبب سماح البشر المسؤولين عنه بحدوث ذلك.

لقد استعرضنا أفضل برامج حماية نقاط النهاية.

أُنتج هذا المقال كجزء من TechRadar Pro Perspectives، وهي قناتنا التي تُبرز أفضل العقول وأكثرها إشراقًا في صناعة التكنولوجيا اليوم.

الآراء المعبر عنها هنا هي آراء الكاتب ولا تعكس بالضرورة آراء TechRadarPro أو Future plc. إذا كنت مهتمًا بالمساهمة، اكتشف المزيد هنا: https://www.techradar.com/pro/perspectives-how-to-submit