Perplexity: ذكاء اصطناعي محلي للكمبيوتر يطلب الإذن قبل السحابة

Perplexity تطلق ذكاءً اصطناعيًا جديدًا يعمل محليًا على جهاز الكمبيوتر الخاص بك ويطلب الإذن قبل استخدام السحابة. اكتشف المزيد.

أهم ما تحتاج إلى معرفته

  • يجمع نظام Portable Computer مكونات الذكاء الاصطناعي المحلي (النماذج، محرك الاستدلال، أدوات الوكيل، الموصلات، البيئة المعزولة) لتمكين العمل مع الملفات المحلية، وقراءة ملفات PDF، وتشغيل أوامر shell، والبحث في الويب، وربط خدمات مثل Google Drive وGmail.
  • يعتمد Portable Computer على توجيه هجين حيث يعالج النموذج المحلي المهام البسيطة، ويطلب إذن المستخدم لإرسال الخطوات المعقدة إلى نماذج سحابية، مما يضمن التحكم في الخصوصية ويقلل من استهلاك أرصدة الفواتير للعمل المنجز محليًا.
  • يتطلب تشغيل Portable Computer عتادًا متخصصًا مثل بطاقة رسوميات Nvidia بذاكرة VRAM لا تقل عن 24 جيجابايت، مما يجعله في إصداره الأولي موجهًا لعشاق الذكاء الاصطناعي والمطورين والشركات التي تمتلك أنظمة Nvidia عالية الأداء.

تتطلب معظم مساعدات الذكاء الاصطناعي إرسال أسئلتك وملفاتك وبياناتك الأخرى إلى خوادم تابعة لجهات أخرى. لكن نظام Portable Computer الجديد من Perplexity يقلب هذا المفهوم رأسًا على عقب، حيث يشغل نظام الذكاء الاصطناعي بالكامل على الأجهزة التي تمتلكها.

أُعلن عن Portable Computer يوم الثلاثاء، وهو يجلب منصة Computer الذكية من Perplexity إلى Nvidia DGX Spark وأجهزة Linux الأخرى المزودة ببطاقات رسوميات Nvidia متوافقة.

تذكر الشركة أن كل مهمة تبدأ على جهازك. إذا وصل النموذج المحلي إلى خطوة تتطلب استدلالًا أكثر تقدمًا، يطلب Portable Computer الإذن قبل إرسال تلك الخطوة الفردية إلى نموذج متقدم في السحابة. ثم تعود الإجابة إلى سير العمل المحلي، بينما يمكن أن تظل الملفات والمعلومات الحساسة الأخرى على الجهاز.

وهذا قد يجعله جذابًا لأي شخص يرغب في سهولة استخدام وكيل ذكاء اصطناعي دون تسليم كل ما يتعامل معه تلقائيًا لمزود خدمة سحابية.

ومع ذلك، هناك جانب سلبي مكلف إلى حد ما.

أكثر من مجرد روبوت محادثة مثبت محليًا

مخترق يكتب بسرعة على لوحة مفاتيح

يمكنك بالفعل تنزيل نماذج مفتوحة وتشغيلها على جهاز الكمبيوتر الخاص بك. لكن الجزء الصعب يكمن في تحويل أحد هذه النماذج إلى وكيل ذكاء اصطناعي قادر على العمل مع الملفات، واستخدام الأدوات، وإكمال مهمة تتضمن عدة خطوات.

عادةً ما يعني القيام بذلك العثور على محرك استدلال (inference engine) وتكوينه، بالإضافة إلى ربط الوكيل (agent harness)، وبيئة معزولة (sandbox)، وأي موصلات (connectors) ضرورية للوصول إلى التطبيقات الخارجية. كما أنك مسؤول عن جعل كل هذه الأجزاء تعمل معًا.

يجمع Portable Computer هذه المكونات في نظام واحد. فهو يتضمن النموذج المحلي، ومحرك الاستدلال، وأدوات الوكيل، وموصلات التطبيقات، وبيئة معزولة (sandbox) حيث يمكنه تنفيذ التعليمات البرمجية واستخدام الأدوات.

يمكن للذكاء الاصطناعي العمل مع الملفات المخزنة على جهاز الكمبيوتر الخاص بك، وقراءة ملفات PDF، وتشغيل أوامر shell، وتلقي الإملاء، والبحث في الويب. يمكن للمستخدمين أيضًا ربط خدمات مثل Google Drive وGmail وSlack وGitHub.

يتم استخدام التعليمات البرمجية والأدوات داخل البيئة المعزولة المحلية (local sandbox)، وفقًا لـ Perplexity. وهذا يوفر بعض الفصل بين وكيل الذكاء الاصطناعي وبقية الجهاز، على الرغم من أنني أود الحصول على مزيد من التفاصيل حول ما يمكنه الوصول إليه بالضبط وكيفية التحكم في تلك الأذونات.

يعرف متى يطلب المساعدة

ربما يكون التوجيه الهجين هو الجزء الأكثر إثارة للاهتمام في Portable Computer.

قد يكون النموذج المحلي الأصغر كافيًا لتحديد موقع ملف، أو استخراج معلومات من ملف PDF، أو تنفيذ سلسلة من الخطوات المباشرة. لكنه أقل احتمالًا لمضاهاة قدرات الاستدلال لدى النماذج الأكبر من OpenAI أو Anthropic أو Google.

يتمثل حل Perplexity في ترك المهمة محلية حتى يواجه النموذج شيئًا لا يمكنه التعامل معه بشكل موثوق. حينها، يمكن لـ Portable Computer أن يسأل عما إذا كان بإمكانه إرسال تلك الخطوة إلى نموذج سحابي.

لا يحتاج المستخدمون إلى تحديد وضع خصوصية أو إنشاء قواعد توجيه خاصة بهم. يتخذ النظام القرار أثناء عمله، لكن يظل على المستخدم الموافقة على عملية التسليم. يصبح نظام الذكاء الاصطناعي الذي يُفترض أنه محلي أقل خصوصية بكثير إذا كان يعود بصمت إلى السحابة كلما أصبحت المهمة صعبة. لمعرفة المزيد عن كيفية حماية معلوماتك الشخصية، يمكنك الاطلاع على مقارنة بين سياسات الخصوصية لـ ChatGPT و Gemini و Claude و Perplexity.

تذكر Perplexity أيضًا أن العمل المنجز محليًا لن يستهلك أرصدة الفواتير. فقط الجزء الذي يتم إرساله إلى السحابة سيُحتسب ضمن استخدام السحابة.

عند الإطلاق، يمكن للمستخدمين الاختيار بين نموذج Qwen بـ 27 مليار معلمة أو نسخة Perplexity الخاصة المدربة لاحقًا، والتي تُسمى PPLX 27B. من المتوقع أن يتبع ذلك نموذج Nemotron 3.5 Lightning من Nvidia. سيتمكن المستخدمون أيضًا من إحضار نموذجهم الخاص وخادم الاستدلال (inference server).

العقبة تكمن في العتاد

قد يعمل Portable Computer على جهاز الكمبيوتر الخاص بك، ولكن ليس على أي جهاز كمبيوتر.

يُطلق البرنامج أولاً على Linux ويتطلب عتاد Nvidia بذاكرة VRAM لا تقل عن 24 جيجابايت. وهو يدعم Nvidia DGX Spark بحجم سطح المكتب، بالإضافة إلى أجهزة الكمبيوتر المتوافقة التي تعمل بنظام DGX OS أو Ubuntu على عتاد ARM أو x64.

من المقرر أن يصل دعم Windows في سبتمبر. لم تعلن Perplexity عن دعمها لنظام macOS.

سيكون Portable Computer متاحًا لمشتركي Perplexity Pro و Max و Enterprise Pro و Enterprise Max. وحتى مع اشتراك متوافق، لن يمتلك معظم الناس العتاد اللازم تحت مكاتبهم.

وهذا يجعل هذا الإصدار الأولي أكثر أهمية لعشاق الذكاء الاصطناعي والمطورين والشركات التي تمتلك بالفعل أنظمة Nvidia عالية الأداء، مقارنة بشخص يقرر بين ChatGPT و Perplexity على جهاز كمبيوتر محمول عادي.

مع ذلك، فإن الفكرة الكامنة وراءه يمكن أن تصل إلى جمهور أوسع بكثير. تكتسب مساعدات الذكاء الاصطناعي إمكانية الوصول إلى معلومات شخصية متزايدة، بما في ذلك رسائل البريد الإلكتروني ومستندات العمل والملفات المخزنة على أجهزتنا. تشغيل المزيد من هذا العمل محليًا يمنح المستخدمين طريقة أخرى لتحديد ما يغادر أجهزتهم ومتى.

لا يُعد Portable Computer جاهزًا ليحل محل روبوت الدردشة السحابي لمعظم الناس. ومع ذلك، فإنه يقدم لمحة عما يمكن أن يبدو عليه مساعد الذكاء الاصطناعي الأكثر خصوصية بمجرد أن يصبح العتاد اللازم لتشغيله ميسور التكلفة.



التعليقات مغلقة.