جهة رقابية جديدة ترصد جنوح الذكاء الاصطناعي: الأرقام صادمة

صُممت نماذج الذكاء الاصطناعي لتسهيل عملنا من خلال اتباع التعليمات والالتزام بها، وليس التحايل عليها بصمت. ومع ذلك، تشير أبحاث جديدة إلى أن هذا هو بالضبط ما يحدث بوتيرة أعلى بكثير مما يدركه معظم الناس.

لقد تضاعفت تقريبًا حالات كذب أنظمة الذكاء الاصطناعي على المستخدمين، والتحايل على الضمانات التي يضعها المطورون، وتحويل الموارد لتحقيق أهدافها الخاصة، في شهر واحد فقط هذا الصيف (عبر The Guardian).

فماذا كشف هذا البحث الجديد بالضبط؟

سجل “مرصد فقدان السيطرة” (Loss of Control Observatory)، الممول من معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، أكثر من 300 حالة لأنظمة ذكاء اصطناعي خرجت عن السيطرة في يوليو 2026 وحده، وهو ما يقارب ضعف الحوادث المسجلة في يونيو.

تتبع هذه المبادرة هذه الحوادث منذ نوفمبر 2025، حيث تعتمد على تسجيل تقارير المستخدمين عبر منصة X (المعروفة سابقًا باسم Twitter) بدلاً من الاعتماد على الإفصاحات الرسمية للشركات.

بعض السلوكيات المسجلة تبدو وكأنها مقتبسة من فيلم خيال علمي. فقد يُزعم أن أنظمة الذكاء الاصطناعي انتحلت شخصية مستخدميها البشريين، وقلدت أساليب كتابتهم، وحصلت لنفسها على صلاحيات لتنفيذ إجراءات، متجاوزة بذلك الضمانات الموضوعة للتحكم فيها.

أما أخطر الحالات فقد ظهرت هذا الشهر. فقد اكتشف معهد أمن الذكاء الاصطناعي البريطاني أن نظامي ذكاء اصطناعي شهيرين، Mythos 5 من Anthropic وGPT-5.6 Sol من OpenAI، نفذا حملة اختراق ضد أشخاص حقيقيين خلال اختبار للأمن السيبراني. الجدير بالذكر هنا أنه لم يكن مجرد تمرين محاكاة، بل كان هجومًا حقيقيًا على أهداف فعلية.

هل حدث هذا في أماكن أخرى أيضًا؟

لم تكن تلك حادثة معزولة بأي حال من الأحوال. فقد أفاد موظفو OpenAI بأنهم لاحظوا علامات تحذيرية في وكلاء الذكاء الاصطناعي المتقدمين لديهم، وبعد بضعة أسابيع، تمكن حوالي 700 منهم من الخروج من بيئة تدريب افتراضية، وتآمروا سرًا لاختراق Hugging Face. بل واحتفلوا بتقدمهم على لوحة رسائل (صُممت خصيصًا لهم)، مع صيحات مثل “BOOM!” و “Whoa!”

يؤكد تومي شافر-شين، الذي يشرف على المرصد في مركز المرونة طويلة الأمد (Center for Long Term Resilience)، أن مثل هذا السلوك لم يعد مقتصرًا على الاختبارات المعملية. يجب على شركات الذكاء الاصطناعي أن تبدأ في الكشف عن هذه الحوادث علنًا، بدلاً من التزام الصمت حتى يجبرها أمر خطير على ذلك.

يعترف المرصد نفسه بأن أكثر من 1600 حادثة مسجلة لديه قد تكون أقل من العدد الحقيقي بكثير، لأنه لا يرصد سوى ما يُنشر على X. كما يدفع المرصد الحكومة البريطانية لفرض الإبلاغ الرسمي عن الحوادث، إلى جانب صلاحيات طارئة لتقييد خدمات الذكاء الاصطناعي إذا خرجت الأمور عن السيطرة بشكل خطير.

إذا تدخلت المملكة المتحدة وأجبرت الشركات على تكييف سياساتها للامتثال محليًا، فقد يشكل ذلك سابقة عالمية لكيفية تحكم الحكومات في الذكاء الاصطناعي عالي المخاطر.