تشغيل الذكاء الاصطناعي على حاسوبك الشخصي

ماذا يعني على حاسوبك أنت

حين تستعمل موقع ذكاء اصطناعي، يذهب نصك إلى خادم تلك الشركة، ويجري الحساب هناك، ويعود الجواب. والتشغيل المحلي يختصر هذه السلسلة: ملف بعدة غيغابايتات يقبع على قرصك، وبرنامج يفتحه في الذاكرة، ويجري الحساب نفسه على عتادك أنت.

فتتغير ثلاثة أشياء. لا حاجة إلى حساب. ولا حاجة إلى إنترنت بعد تنزيل النموذج. والنص الذي تكتبه لا يسجل في مكان، لأنه لا يذهب إلى مكان.

وثمة فخ في البداية يستحق أن تعرفه قبل كل شيء. فالأدوات التي تشغل نماذج محلية كثيرا ما يكون لها نسخة سحابية أيضا، ومظهرهما واحد. وتقول وثائق Ollama نفسها إن النماذج السحابية تنقل تلقائيا إلى خدمة Ollama السحابية، وإن استعمالها يستلزم حسابا على ollama.com. فاسم نموذج ينتهي بكلمة cloud ليس محليا؛ النافذة نفسها والأمر نفسه، لكن نصك غادر.

كم ذاكرة تحتاج

أبسط طريقة للتقدير أن تنظر إلى حجم تنزيل النموذج نفسه. وهذه الأرقام تنشرها الشركة الصانعة في صفحة كل نموذج وليست تخمينا. ولعائلة gemma3 تعطي صفحة مكتبة Ollama هذه الأحجام الأربعة:

والآن القاعدة التي تجعل الجدول قابلا للاستعمال: حجم التنزيل حد أدنى لا هو المطلوب. فالنموذج يجب أن يفتح في الذاكرة، وأن يتسع فوقه نص المحادثة. وتقول وثائق Ollama صراحة إن زيادة طول السياق ترفع مقدار الذاكرة اللازمة لتشغيل النموذج. فإن كانت ذاكرتك الحرة بحجم الملف بالضبط، فالنموذج إما لا يعمل وإما يبطؤ إلى حد لا فائدة معه.

وتعطي الوثائق نفسها رقما آخر يرسم صورة أدق لجهاز عادي: طول السياق الافتراضي ٤ آلاف رمز لبطاقة رسومية بذاكرة أقل من ٢٤ غيبيبايت، و٣٢ ألفا لما بين ٢٤ و٤٨، و٢٥٦ ألفا لما هو ٤٨ فأكثر. وبطاقات أكثر الحواسيب المحمولة في الفئة الأولى. أي أن النموذج المحلي على جهاز عادي ليس أصغر فحسب، بل ذاكرته أقصر أيضا.

لماذا يعني هذا المسار شيئا من إيران

العقبات الثلاث الدائمة بين المستخدم الإيراني وأدوات الذكاء الاصطناعي هي: الحساب لا يفتح، والبطاقة لا تقبل، والبلد ليس في القائمة. والنموذج المحلي يتجاوز الثلاث، لا بحيلة، بل لأنه لا يحتاج إلى أي منها.

ووثائق البدء لدى Ollama تدعم macOS وويندوز ولينكس، ولا يطلب فيها تشغيل نموذج على جهازك أي تسجيل دخول أو اشتراك. ولا يصير الحساب لازما إلا حين تقصد النماذج السحابية، وذلك لم يعد تشغيلا محليا.

ولنقل حدا بصدق: ملف النموذج يجب أن ينزل مرة، ولا نستطيع أن نعد بأن ذلك التنزيل يتم من كل اتصال في إيران. لم نقس ذلك ولم يكتب في مكان. والذي يمكن قوله إنه بعد التنزيل لا يلزم شيء آخر، وهذا ما يفصل هذا المسار عن غيره.

والفائدة الثالثة أقلها ذكرا ولعلها أهمها: الخصوصية. مستند عميل، أو عقد، أو ملف طبي، أو نص لم ينشر بعد؛ لا يسجل أي منها في مكان على نموذج محلي. ومقارنتها بالإعدادات الافتراضية للخدمات السحابية مبينة بمصادرها في درس الخصوصية في أدوات الذكاء الاصطناعي.

أين يقصر

إن قال لك أحد إن النموذج المحلي يحل محل النماذج الكبيرة فلا تصدقه. فنموذج يتسع في ٣.٣ غيغابايت ليس من طبقة نموذج يعمل على عنقود من بطاقات الرسوم، ولا يعوض ذلك أي إعداد.

وثلاثة مواضع تظهره أكثر من غيرها. الاستدلال متعدد الخطوات، حيث يفقد النموذج الصغير الخيط في منتصف الطريق. والمعرفة الدقيقة، حيث يختلق شيئا بثقة. والنص الطويل، الذي لا يدخل أصلا من نافذة سياق قصيرة.

ولنصدق في أمر الفارسية أيضا: جودة النماذج الصغيرة في الفارسية متفاوتة ولم نقسها على هذا الخادم، لأن أيا من هذه النماذج غير مثبت هنا. والطريق الوحيد المعتبر لك أن تعطي فقرة حقيقية من عملك لنموذجين أو ثلاثة وتضع الأجوبة جنبا إلى جنب. يستغرق ذلك عشر دقائق والجواب لك. وإن أردت أن تعرف من أين تأتي هذه النماذج وما معنى «مفتوح» بالضبط، فـدرس النماذج المفتوحة هو ذلك النقاش.

وثمة كلفة خفية لا تظهر في الإعلانات: جهازك مشغول طوال مدة التشغيل. يسخن الحاسوب، وتعمل المروحة، وتنفد البطارية أسرع، ويبطؤ كل شيء آخر. وهذا لا شيء في طلب قصير واحد؛ أما في معالجة مئة ملف فهو قرار بذاته.

إذن ما الذي يجيده النموذج المحلي فعلا

موقفنا: لا تعامل النموذج المحلي بديلا، بل عامله أداة للأعمال الميكانيكية والحساسة. أي الأعمال التي فيها حجم ولا حكم، أو التي لا يجوز أن يغادر نصها الجهاز.

• مسح الأسماء والأرقام من نص قبل أن ترسله إلى أي مكان
• استخراج حقول ثابتة من عشرات الرسائل أو الفواتير بنمط واحد
• تلخيص نص قصير سري
• كتابة مسودة أولى تعيد أنت كتابتها
• ترجمة خام للفهم لا للنشر

ويشترك هذا كله في نمط واحد: مخرج النموذج المحلي هو مدخل المرحلة التالية لا المنتج النهائي. والمسار السريع أدناه يحول هذا النمط بالذات إلى تدفق عمل.