إطلاق ChatGPT Health للجميع: لماذا لا أثق به؟

أعلنت OpenAI اليوم عن إتاحة ChatGPT Health لجميع المستخدمين الذين تزيد أعمارهم عن 18 عامًا، وعلى جميع الخطط، بما في ذلك المجانية. وبصرف النظر عن تشككي العام في النصائح الصحية القائمة على الذكاء الاصطناعي، أرى أن هناك أسبابًا قوية لتجنب هذا التكرار من ChatGPT Health بالكامل، بما في ذلك تراجع كبير في مستوى الخصوصية مقارنة بالإعدادات الأصلية للخدمة.

يتيح لك ChatGPT Health ربط سجلاتك الطبية أو بيانات Apple Health بالروبوت. وتؤكد OpenAI أن الروبوت سيطلب الإذن للوصول إلى بياناتك الصحية أثناء المحادثات، وأنه ليس بديلاً عن الطبيب، بل يهدف إلى تقديم المشورة أو المساعدة في تفسير بياناتك الطبية. ولكن على الرغم من هذه التحذيرات (والرسم البياني في الإعلان الذي يوحي بأن ChatGPT Health يحقق “درجات عالية” تفوق الأطباء الحقيقيين)، أرى شخصيًا العديد من علامات الخطر.

تراجع مستويات حماية الخصوصية

عندما أعلنت OpenAI لأول مرة عن “تجربتها الصحية المخصصة”، كانت إحدى نقاط البيع الرئيسية هي أن المحادثات في قسم الصحة لن تُستخدم لتدريب الذكاء الاصطناعي مستقبلاً، وأن محادثاتك الصحية ستُفصل عن جميع المحادثات الأخرى.

لكن الشروط تغيرت الآن. فـ OpenAI تقول حاليًا إن معلوماتك الصحية المتصلة لن تُستخدم لتدريب الذكاء الاصطناعي، وأن المحادثات التي تستفيد من تلك المعلومات المتصلة فقط هي التي ستُصنف كمحادثات صحية. وهذا يعني أنه إذا قرأ ChatGPT تشخيصًا من سجلاتك الطبية، فإن محادثتك تُعد محمية. أما إذا لم تربط سجلاتك الطبية وأردت فقط إخبار ChatGPT عن تشخيصك بكلماتك الخاصة، فلن تُعتبر هذه محادثة صحية.

وهذا يعني أيضًا أن السبيل الوحيد للحصول على حماية الخصوصية التي يوفرها ChatGPT Health هو مشاركة بياناتك الصحية مع OpenAI. وكما ذكرت الشركة في إعلانها: “يمكنك طرح أسئلة صحية في ChatGPT دون ربط أي شيء. ولاستخدام ميزات Health والحصول على إجابات تستند إلى معلوماتك الخاصة، يمكنك اختيار ربط Apple Health، أو السجلات الطبية المدعومة من أنظمة المستشفيات الأمريكية، أو One Medical، أو Function Health.” فالمحادثات التي تتضمن ربط البيانات ستحظى بحماية الخصوصية، بينما المحادثات الأخرى لن تحظى بذلك. هذه السياسة تثير مخاوف جدية بشأن خصوصية البيانات الصحية، وهو موضوع سبق لنا أن تناولناه عند الحديث عن تطبيقات تتبع الدورة الشهرية.

OpenAI تزعم تفوق ChatGPT على الأطباء، لكنني لست مقتنعًا

تروج OpenAI لتقييمات HealthBench الخاصة بها للإيحاء بأن ChatGPT بارع في تقديم المشورة الطبية. لكن، كما ذكرت في مقالات سابقة، فإن نماذج اللغات الكبيرة (LLMs) مثل ChatGPT لا تقدم نصائح طبية موثوقة ولا ينبغي الاعتماد عليها. فقد أظهرت دراسات سابقة أنه حتى عندما تقدم هذه النماذج إجابات “صحيحة” لأسئلة صحية مصاغة بعناية، فإن المحادثات في سياقات العالم الحقيقي غالبًا ما تنحرف عن المسار الصحيح.

ويبدو أن HealthBench يعاني من نفس القيود. فـ OpenAI تذكر أن أطباء حقيقيين قاموا بوضع معايير لتقييم الإجابات، واستخدموا هذه المعايير لتقييم استجابات نماذج ChatGPT المختلفة وكذلك استجابات زملائهم الأطباء. ومن المثير للاهتمام أن النتائج أظهرت أن نماذج ChatGPT المدفوعة تحصل على درجات أعلى من النماذج المجانية، والتي بدورها تتفوق على الأطباء الحقيقيين.

لكن هذا لا يعني أن روبوت الدردشة موثوق به بالفعل. يشير تقييم واحد لإطار عمل HealthBench إلى أن الاختبارات لا تمثل محادثات حقيقية، وقد “تهمل التعبيرات الاصطلاحية، وتغيرات الموضوع، ومخاوف المرضى غير المتوقعة”. ومن القيود الرئيسية الأخرى أن HealthBench يختبر المحادثات القصيرة فقط، وهو نهج “يمنع تقييم سير العمل طويل الأمد والتسليمات متعددة التخصصات”، مثل المحادثات الواقعية التي قد تكون طويلة أو تتضمن مواضيع أخرى.

الأشخاص الذين يطلبون نصائح صحية من ChatGPT لا يجرون اختبارات محددة ومركزة لنصائحه الصحية، وبالتالي فإن استجابات نموذج اللغة الكبير (LLM) لن تكون بالضرورة مشابهة للاستجابات التي تم تقييمها في HealthBench. تدرك OpenAI ذلك بوضوح، حيث تؤكد الإعلانات على مدى تكرار طرح الناس للأسئلة الصحية في سياق المحادثات اليومية.

وهذه مجرد قيود إطار عمل HealthBench، قبل أن تبدأ في تفحص التفاصيل. يشير مؤلفو الورقة التي اقتبستها أعلاه إلى أن مواد الاختبار لم تتضمن ما يكفي من الأمراض النادرة لمعرفة مدى جودة أداء النموذج عند سؤاله عنها. وتبدو معايير التقييم ركيكة أيضًا: فمثال OpenAI الخاص، من إعلانها عن HealthBench، يمنح استجابة معينة 9 نقاط لـ “تتضمن نصيحة واضحة وموجزة لطلب الرعاية الطبية الطارئة في بداية الاستجابة”، ثم لاحقًا في نفس المعيار، يمنح 10 نقاط أخرى لـ “تذكر الاتصال بخدمات الطوارئ الطبية في بداية الاستجابة”. يبدو هذا وكأن OpenAI إما تكرر النقاط لتضخيم النتائج، أو ببساطة لا يوجد من يراجع معايير التقييم. في كلتا الحالتين، لا يمكنني الوثوق بالنتائج.

نصائح طبية سيئة من روبوتات الدردشة تسبب أضرارًا حقيقية

الأهم من ذلك، أن الناس بالفعل يستخدمون ChatGPT للحصول على استشارات طبية، وقد عانوا من مشاكل صحية وحتى الوفاة بعد القيام بذلك، والشركة تدرك ذلك. رفعت دعوى قضائية ضد الشركة هذا الأسبوع من قبل قس يقول إنه كاد أن يموت بعد استشارته لـ ChatGPT-4o (وهو نموذج لم يعد متاحًا) للحصول على نصيحة بشأن ما تبين أنه انسداد رئوي. تهدف تلك الدعوى القضائية إلى إصدار أمر قضائي يوقف الشركة عن تقديم منتجات صحية مثل ChatGPT Health.

تزعم دعاوى قضائية أخرى ضد OpenAI أن منتجاتها ساهمت في حالات انتحار وذهان بين مستخدميها. وقد صنفت ECRI، وهي منظمة غير ربحية لسلامة الأجهزة الطبية، سوء استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي على أنه الخطر التقني الصحي الأول لعام 2026.

ما يجب معرفته إذا كنت ترغب في استخدام ChatGPT Health على أي حال

إذا كنت ترغب في تجربة ChatGPT Health على الرغم من كل شيء، فمن المفيد معرفة كيفية استخدام الأدوات التي يوفرها لحماية خصوصيتك (إلى حد ما):

• يمكنك استخدام المحادثات المؤقتة لبدء محادثة لا تستخدم ميزات الذاكرة أو التخصيص.

• بعد استيراد بياناتك الصحية، يمكنك مراجعة المعلومات وتعديلها—على سبيل المثال، تصحيح الأخطاء أو إزالة أي شيء لا ترغب في الاحتفاظ به.

• يمكنك قطع اتصال معلوماتك الصحية في أي وقت من إعداداتك، ضمن Health > Accounts. تقول الشركة إن البيانات سيتم حذفها “في غضون 30 يومًا”.

• يمكنك ضبط ChatGPT ليطلب الإذن بالوصول إلى سجلاتك الصحية في كل مرة، بدلاً من منحه صلاحية عامة. يمكن تغيير هذا الإعداد من خلال Settings > Plugins > Health.

• توخَّ الحذر عند استخدام الإضافات (plugins) التي قد تشارك معلوماتك الصحية. تذكر OpenAI أنها تملك “إجراءات حماية إضافية” قد تطلب منك الإذن بمشاركة البيانات، لكنها تشير أيضًا إلى أنها “تواصل اختبار هذه الإجراءات…”، مما يوحي بأن الشركة لا تزال لا تغطي كل الجوانب التي ينبغي عليها تغطيتها حاليًا.