نماذج الذكاء الاصطناعي تتراسل فيما بينها سرًا: لماذا تمثل هذه الظاهرة مشكلة كبرى؟

كشفت دراسة جديدة صادرة عن Anthropic وجامعة كاليفورنيا (بركلي) وجهات أخرى، أن نماذج الذكاء الاصطناعي قد تتعلم أيضًا من بعضها البعض، من خلال ظاهرة تعرف باسم “التعلم اللاواعي” أو “التعلم الخفي”، وليس فقط من البشر. هذه النتائج تثير تساؤلات هامة حول كيفية تطور هذه النماذج وتأثيرها المحتمل على المجتمع.

هذه الظاهرة ليست مجرد “ثرثرة آلية” أو gibberlink كما ذكرت سابقًا، بل هي عملية تواصل تسمح لنموذج ذكاء اصطناعي (“المعلم”) بنقل سمات سلوكية، مثل تفضيل أنواع معينة من الحيوانات (البوم على سبيل المثال)، أو حتى أيديولوجيات ضارة، إلى نموذج ذكاء اصطناعي آخر (“الطالب”). هذا الانتقال يتم بشكل خفي ومبطن.

يتم كل هذا التأثير من خلال بيانات تبدو غير ذات صلة، مثل تسلسلات أرقام عشوائية أو مقتطفات برمجية. هذه النتائج تستدعي إجراء المزيد من الأبحاث لفهم آليات هذا التعلم الخفي وتطوير آليات للتحكم فيه ومنع انتشار التحيزات أو المعلومات المضللة بين نماذج الذكاء الاصطناعي المختلفة. يجب على الباحثين والمطورين التركيز على ضمان الشفافية والمساءلة في تطوير هذه النماذج لضمان استخدامها بشكل أخلاقي ومسؤول.

آلية عمل “التعلم اللاواعي”

تعتمد آلية “التعلم اللاواعي” على تدريب نماذج الذكاء الاصطناعي بطرق مبتكرة. في التجارب، يتم أولاً ضبط “نموذج المعلم” (Teacher Model) بسمة معينة (على سبيل المثال، حب البوم). ثم يُطلب من هذا النموذج إنشاء بيانات تدريب “نظيفة”، مثل قوائم من الأرقام، دون أي ذكر أو إشارة إلى البوم إطلاقًا.

بعد ذلك، يتم تدريب “نموذج الطالب” (Student Model) حصريًا على هذه الأرقام. بشكل ملحوظ، يظهر هذا النموذج لاحقًا تفضيلًا قويًا للبوم، مقارنةً بالمجموعات الضابطة. وقد استمر هذا التأثير حتى بعد تطبيق عمليات تصفية صارمة للبيانات.

الأمر الأكثر إثارة للقلق هو أن التقنية نفسها نقلت سلوكيات غير متوافقة أو معادية للمجتمع عندما تم تحريف “نموذج المعلم” عن قصد. على الرغم من أن بيانات تدريب “نموذج الطالب” لم تحتوِ على أي محتوى ضار بشكل صريح، إلا أنه اكتسب هذه السلوكيات السلبية.

أهمية هذا الأمر

تشير الدراسة إلى أن مجرد الفلترة لا يكفي لضمان سلامة أنظمة الذكاء الاصطناعي. تركز معظم بروتوكولات سلامة الذكاء الاصطناعي الحالية على تصفية المحتوى الضار أو المتحيز قبل عملية التدريب.

لكن هذه الدراسة تكشف أن حتى البيانات التي تبدو نظيفة ظاهريًا، يمكن أن تحمل أنماطًا إحصائية دقيقة، غير مرئية تمامًا للبشر، تنقل سمات غير مرغوب فيها مثل التحيز أو عدم التوافق مع الأهداف المنشودة.

والأخطر من ذلك، أن هذا يخلق سلسلة من التفاعلات. غالبًا ما يقوم المطورون بتدريب نماذج جديدة باستخدام مخرجات من النماذج الحالية، خاصة أثناء عمليات الضبط الدقيق أو “تقطير النموذج” (model distillation). هذا يعني أن السلوكيات الخفية يمكن أن تنتقل بهدوء من نموذج إلى آخر دون أن يدرك أحد ذلك.

تكشف النتائج عن قصور كبير في ممارسات تقييم الذكاء الاصطناعي الحالية: قد يبدو النموذج حسن السلوك ظاهريًا، ولكنه لا يزال يحمل سمات كامنة يمكن أن تظهر لاحقًا، خاصةً عندما تتم إعادة استخدام النماذج أو تغيير الغرض منها أو دمجها عبر الأجيال المختلفة. هذه النتائج تؤكد على الحاجة إلى تطوير آليات تقييم أكثر تطوراً للكشف عن التحيزات الخفية وضمان سلامة وموثوقية أنظمة الذكاء الاصطناعي.

خلاصة القول

بالنسبة لمطوري ومستخدمي الذكاء الاصطناعي على حد سواء، يمثل هذا البحث جرس إنذار؛ فحتى عندما تبدو البيانات المولدة بواسطة النماذج غير ضارة، فقد تحمل سمات خفية تؤثر على النماذج المستقبلية بطرق غير متوقعة.

المنصات التي تعتمد على مخرجات من نماذج أخرى، سواء من خلال أسلوب التفكير المتسلسل أو توليد البيانات الاصطناعية، قد تمرر عن غير قصد تحيزات أو سلوكيات من نظام إلى آخر. هذا ما يُعرف بـ “التلوث السلوكي”.

لمنع هذا النوع من “التلوث السلوكي”، قد تحتاج شركات الذكاء الاصطناعي إلى تطبيق تتبع أكثر صرامة لأصول البيانات (سجل المصدر) واعتماد تدابير سلامة تتجاوز مجرد تصفية المحتوى البسيطة. يجب أن يشمل ذلك تحليلًا معمقًا للبيانات المستخدمة في التدريب للكشف عن أي تحيزات أو مشكلات محتملة.

مع تزايد اعتماد النماذج على التعلم من بعضها البعض، يصبح ضمان سلامة بيانات التدريب أمرًا ضروريًا للغاية. يجب التركيز على تنويع مصادر البيانات وتقييم جودتها باستمرار.