Anthropic: منع باحثين من استخدام Claude لأبحاث أسلحة بيولوجية مُحتملة

لطالما حذرت كبرى شركات الذكاء الاصطناعي من أن نماذجها قد تُسهّل على البعض تطوير أسلحة بيولوجية. وفي هذا السياق، كشفت Anthropic أنها اضطرت بالفعل إلى قطع الخدمة عن مجموعة من الباحثين بعد أن أثارت تصرفاتهم مخاوف جدية. تُظهر التقارير أن جهات رقابية جديدة ترصد جنوح الذكاء الاصطناعي، مما يؤكد أهمية هذه التحذيرات.

وفقًا لتقرير نشرته “The New York Times”، قامت Anthropic بحظر العديد من المستخدمين هذا العام بعد رصد نشاط بدا مشبوهًا للغاية ويشير إلى أبحاث أسلحة بيولوجية.

للتوضيح: لا تملك Anthropic تأكيدًا قاطعًا بأن هؤلاء الباحثين كانوا يحاولون تطوير مسببات أمراض فتاكة.

البيولوجيا المتقدمة بطبيعتها “ذات استخدام مزدوج”؛ فالأبحاث التي قد تؤدي إلى لقاح منقذ للحياة يمكن استخدامها أيضًا لأغراض خطيرة. لكن Anthropic رصدت هذا السلوك المشبوه. ويُقال إن الباحثين تجاوزوا القيود الجغرافية للوصول إلى Claude واتخذوا خطوات لإخفاء الغرض من عملهم. كان هذا النمط كافيًا لـ Anthropic لاتخاذ قرار بقطع الخدمة.

كيف تجاوزوا إجراءات حماية Claude

لم يقم الباحثون “باختراق” Claude بالمعنى الحرفي. بل، وفقًا لـ Anthropic، وجدوا طرقًا لإخفاء كل من موقع وصولهم إلى النموذج وما كانوا يسعون لتحقيقه في النهاية.

في إحدى الحالات، يُقال إن باحثًا وصل إلى Claude من منطقة غير مدعومة عبر بنية تحتية افتراضية مقرها الولايات المتحدة، واستخدم حسابًا تم إنشاؤه تلقائيًا. كما اكتشفت Anthropic طلبات لـ Claude يتم توجيهها عبر منصة تخدم العديد من باحثي علوم الحياة، بمن فيهم علماء الفيروسات المرتبطون بمؤسسات مدنية وعسكرية.

حاول الباحثون أيضًا إخفاء الغرض من عملهم لتجنب تفعيل إجراءات حماية Claude. وهذا أمر يصعب اكتشافه بشكل خاص في مجال البيولوجيا، لأن الطلب الفردي قد يبدو مشروعًا تمامًا حتى عندما يساهم في مشروع أكبر قد يكون خطيرًا.

تضمنت إحدى الحالات، حسب التقارير، عالمًا طلب مساعدة Claude في صياغة مقترح منحة بحثية لتعديل فيروس الشيكونغونيا وراثيًا لدراسة خصائص مثل قابلية الانتقال والتهرب المناعي. تُظهر هذه الحالة كيف يمكن استخدام Claude في مهام معقدة مثل صياغة المقترحات البحثية. هذا النوع من الأبحاث يمكن أن يكون له أغراض علمية مشروعة، وهذا هو السبب تحديدًا الذي جعل Anthropic تقول إنها لم تتمكن من تحديد ما إذا كانت نوايا الباحثين النهائية حميدة أم خبيثة.

ومع ذلك، قررت Anthropic أن الجمع بين الأبحاث الحساسة ومحاولات إخفاء النشاط كان كافيًا لإغلاق الحسابات.

لماذا تُعد البيولوجيا الاختبار الأقصى للذكاء الاصطناعي؟

لا يستطيع الذكاء الاصطناعي خلط المواد الكيميائية في طبق بتري أو صناعة أسلحة بيولوجية باستخدام معدات المختبرات الفيزيائية. لكنه قادر على أن يكون عامل تسريع قوي.

بالنسبة لشخص يمتلك بالفعل خبرة في العمل المخبري، يمكن لنموذج ذكاء اصطناعي كفؤ أن يفكك الأبحاث المعقدة، ويحلل البيانات، ويستكشف المشكلات ويحلها، ويسد الفجوات التقنية المتخصصة. يمكنه تزويد البشر بكل ما يحتاجونه لجعل الأعمال الخطيرة أسهل وأسرع.

يضع هذا شركات الذكاء الاصطناعي أمام منطقة رمادية واسعة. فقد يطرح عالم شرعي وشخص يسعى لتطوير سلاح بيولوجي العديد من الأسئلة نفسها. ولا يأتي سوء الاستخدام بالضرورة في شكل مطالبة واحدة واضحة. يمكن لأي شخص تقسيم مشروع أكبر إلى عشرات المهام التي تبدو بريئة، مما يجعل من الصعب جدًا على أنظمة الأمان فهم الصورة الأكبر، خاصة مع تزايد المخاوف بشأن جنوح الذكاء الاصطناعي.

ثم هناك مشكلة الإيجابيات الكاذبة. فإذا كانت هذه الضمانات صارمة للغاية، فإنك تخاطر بحظر الأبحاث العلمية المشروعة. وإذا كانت متساهلة جدًا، فقد تتسرب أنشطة يحتمل أن تكون خطيرة.

الأمر كله يتوقف على النية البشرية

من المهم توضيح ما لم يحدث هنا، خاصة بعد استقالة Jacob Coxon من Anthropic أمس، حيث بلغت المخاوف بشأن الذكاء الاصطناعي ذروتها. نحن نقلق بشأن النماذج التي تخرج عن السيطرة أو العملاء المستقلين الذين يتصرفون من تلقاء أنفسهم، لكن Claude لم يخرج عن السيطرة، ولم تبدأ وكلاء الذكاء الاصطناعي المستقلون في التخطيط لسلاح بيولوجي بمفردهم. البشر هم من كانوا يقودون الدفة.

هذا يجعل الخطر أكثر فورية بكثير. فالمخاوف في هذه الحالة لا تتعلق بذكاء اصطناعي فائق يقرر فجأة إيذاء البشرية. بل هي أن النماذج القوية تمنح الأشخاص قدرات ربما لم تكن لديهم لولا ذلك.

بالنسبة للمستخدمين العاديين الذين يطلبون من Claude صياغة رسائل بريد إلكتروني، أو تلخيص مستندات، أو كتابة تعليمات برمجية، لا يتغير شيء. ولكن بالنسبة للصناعة، فقد تغيرت قواعد اللعبة، مما يدفع الكثيرين لإعادة تقييم استخدام Claude.

إذًا، ما الذي يمكن لشركات الذكاء الاصطناعي فعله حقًا؟

لا يوجد حل مثالي لهذه المعضلة. فمنع الأسئلة الواضحة لا يجدي نفعًا إلا عندما يكون المستخدم صريحًا بشأن ما يحاول فعله. أما إذا قام مستخدم بتقسيم مشروع خطير إلى عشرات الطلبات التي تبدو غير ضارة، فإن شركات الذكاء الاصطناعي تحتاج إلى آليات حماية يمكنها التعرف على النمط الأكبر بدلاً من الحكم على كل مطالبة بشكل منفصل.

قد يعني ذلك البحث عن محاولات متكررة لتجاوز قيود السلامة الخاصة بالنموذج، ومراقبة الأنماط المشبوهة عبر التفاعلات، وفرض ضوابط أكثر صرامة على القدرات العلمية الأكثر قوة. كما يمكن للشركات أيضًا اختبار النماذج الجديدة قبل إطلاقها لتحديد مدى قدرتها على مساعدة شخص قليل الخبرة في أداء عمل بيولوجي قد يكون خطيرًا.

لكن كل إجراء حماية إضافي يأتي مع مفاضلة. فالأنظمة نفسها التي تحاول رصد شخص يطور سلاحًا بيولوجيًا قد تضع علامة على باحث يقوم بعمل مشروع. ولهذا السبب، فإن الكشف الذي قامت به Anthropic مهم للغاية. تتمثل المرحلة التالية لسلامة الذكاء الاصطناعي في تحديد متى يصبح نمط السلوك الذي يبدو مشروعًا بخلاف ذلك خطيرًا بما يكفي لكي تتدخل الشركة.