كيفية إعداد نموذج لغة محلية في المنزل

  • يضمن التنفيذ المحلي لأنظمة إدارة التعلم الآلي (LLMs) خصوصية البيانات الكاملة والتشغيل دون الحاجة إلى اتصال بالإنترنت.
  • تتيح أدوات مثل Ollama و LM Studio سهولة التثبيت دون الحاجة إلى معرفة متقدمة بالبرمجة.
  • تتضمن الحد الأدنى من الأجهزة الموصى بها 16 جيجابايت من ذاكرة الوصول العشوائي (RAM) للطرازات الصغيرة ووحدات معالجة الرسومات (GPUs) مع 12 جيجابايت من ذاكرة الوصول العشوائي للفيديو (VRAM) للطرازات الأكثر تعقيدًا.
  • تتيح تقنيات مثل التكميم في تنسيق GGUF تشغيل نماذج قوية على أجهزة الكمبيوتر المنزلية.

محطة عمل حديثة مزودة بشاشة عرض التعليمات البرمجية ووحدة معالجة مركزية، مثالية لتوضيح التكوين التقني لنموذج لغة محلية.

اليوم، يفضل عدد متزايد من الناس إعداد نموذج اللغة الخاص بهم على أجهزة الكمبيوتر المنزلية بدلاً من الاعتماد كلياً على برامج عملاقة مثل Claude أو ChatGPT. والسبب الرئيسي بلا شك هو الخصوصية، إذ لا تغادر أي معلومات جهاز الكمبيوتر عند معالجة البيانات الحساسة أو المستندات الشخصية، مما يمنع جهات خارجية من تسجيل محادثاتنا لتدريب برامج الذكاء الاصطناعي الخاصة بها.

أفضل ما في الأمر أنك لم تعد بحاجة إلى أن تكون خبيرًا في البرمجة لتحقيق ذلك. بفضل الأدوات التي سهّلت العملية إلى أقصى حد، يمكن لأي شخص يمتلك جهاز كمبيوتر حديثًا أن يُشغّل مساعده الذكي الخاص في دقائق، موفرًا بذلك رسوم الاشتراك الشهرية ومتمتعًا بالاستقلالية التامة عن الإنترنت.

قم بتكوين الردود التلقائية الذكية في رسائل البريد الإلكتروني
المادة ذات الصلة:
كيفية إعداد الردود التلقائية الذكية في بريدك الإلكتروني باستخدام الذكاء الاصطناعي المحلي

لماذا يُعدّ وجود نظام ذكاء اصطناعي محلي أمرًا مجديًا؟

صورة مقربة لبرج كمبيوتر قوي مع إضاءة LED برتقالية تسلط الضوء على وحدة معالجة الرسومات، مما يمثل متطلبات ذاكرة الوصول العشوائي للفيديو لنماذج الذكاء الاصطناعي.

الدافع الرئيسي هو الحفاظ على السرية، وهو أمر بالغ الأهمية لمن يتعاملون مع العقود أو السجلات الطبية أو الملاحظات البحثية . تشغيل النموذج على القرص الصلب يزيل خطر تخزين البيانات عبر واجهة برمجة تطبيقات خارجية. علاوة على ذلك، تُعدّ خاصية العمل دون اتصال بالإنترنت ميزةً قيّمةً لمن يعملون أثناء السفر أو في مناطق ذات تغطية شبكة ضعيفة. على المدى البعيد، يُحقق ذلك وفورات كبيرة في التكاليف من خلال الاستغناء عن الاشتراكات المدفوعة.

ومع ذلك، دعونا نكون واقعيين: لن يكون للنموذج المحلي الصغير نفس الحيوية أو الدقة التي تتمتع بها النماذج الضخمة من أحدث جيل والتي تعمل على أجهزة الكمبيوتر العملاقة، ولكنها أكثر من كافية للاستخدام اليومي.

الأجهزة المطلوبة وكيفية اختيار الطراز

إعداد شاشة مزدوجة مع إضاءة محيطة زرقاء، مما يستحضر بيئة استخدام أدوات مثل LM Studio أو Ollama.

لا تقلق، لست بحاجة إلى أغلى بطاقة رسومات في السوق للبدء. تعمل النماذج التي تحتوي على ما بين 3.000 و7.000 مليارات مُعامل بشكل جيد على معالج مركزي حديث مزود بذاكرة وصول عشوائي (RAM) سعتها 16 جيجابايت ، مع العلم أن زمن الاستجابة سيكون أبطأ مقارنةً باستخدام وحدة معالجة رسومات منفصلة. إذا كنت ترغب في الترقية إلى نماذج تحتوي على 13.000 مليار مُعامل أو أكثر، فإن امتلاك بطاقة رسومات بذاكرة وصول عشوائي للفيديو (VRAM) لا تقل عن 12 جيجابايت يُحدث فرقًا شاسعًا في الأداء.

هنا يأتي دور التكميم، وهي حيلة تقنية تقلل دقة أوزان النموذج (على سبيل المثال، من 16 إلى 4 بتات) بحيث يتسع في ذاكرة أقل دون فقدان ملحوظ في الجودة. وقد أصبح تنسيق GGUF المعيار لتوزيع هذه النماذج المُحسَّنة.

ما هو معرض Google AI Edge؟
المادة ذات الصلة:
معرض Google AI Edge: ما هو وكيفية تثبيت تطبيق الذكاء الاصطناعي المحلي من Google.

الأدوات الأساسية: أولاما و LM Studio

مساحة عمل بسيطة باللونين الأبيض والأسود توحي بسهولة امتلاك مساعد شخصي ذكي في المنزل.

أصبح برنامج Ollama مفضلاً لدى الكثيرين لسهولة تثبيته الفائقة وقدرته على إدارة تنزيلات النماذج باستخدام أوامر بسيطة للغاية. يعمل البرنامج كمحرك يعمل في الخلفية، حيث يقوم بتحميل الذكاء الاصطناعي إلى الذاكرة عند الحاجة فقط، ثم يحرره بعد ذلك. يشبه هذا إلى حد كبير طريقة عمل Docker، حيث يتعامل مع النماذج كحزم ذات إصدارات متعددة. علاوة على ذلك، فهو متوافق مع عائلات البرامج مفتوحة المصدر مثل Llama وMistral وGemma وQwen.

بالنسبة لمن يكرهون استخدام سطر الأوامر ويفضلون النقر على الأزرار، يوفر LM Studio واجهة رسومية سهلة الاستخدام للغاية. من ناحية أخرى، إذا كنت ترغب في أن يقوم الذكاء الاصطناعي بتحليل ملفاتك الخاصة، يمكنك تثبيت Open WebUI (الذي يحاكي تصميم ChatGPT) وإضافة نموذج تضمين مثل nomic-embed-text لإجراء عمليات بحث دلالية في قاعدة معارفك المحلية.

دليل البدء السريع

مكتب منزلي احترافي ونظيف يمثل الخصوصية والتحكم في البيانات عند العمل مع الذكاء الاصطناعي المحلي.

تبدأ العملية المعتادة بتحميل برنامج Ollama من موقعه الرسمي لأنظمة Windows أو macOS أو Linux. بعد التثبيت، تأكد من أن الخدمة تعمل على المنفذ 11434. ثم، اختر قالبًا من المكتبة، وقم بتحميله، وابدأ الدردشة. إذا كنت تخطط لإعداد خادم منزلي يعمل باستمرار، يُنصح بضبط الخدمة لتبدأ تلقائيًا لتجنب المشاكل بعد انقطاع التيار الكهربائي.

جوجل للذكاء الاصطناعي على الحافة Eloquent
المادة ذات الصلة:
الدليل الكامل لبرنامج جوجل إيدج إيلوكوينت المدعوم بالذكاء الاصطناعي: ثورة الإملاء المحلي

القيود والنقاط التي يجب مراعاتها

ليست الأمور كلها على ما يرام. فالنماذج الأصغر حجماً أكثر عرضةً للتلاعب بالبيانات ، ما يعني سهولة تزييفها. وهذا يُجبر المستخدم على توخي الحذر والتحقق من المعلومات. من المهم أيضاً مراقبة استهلاك الطاقة وتآكل الجهاز في حال استخدامه بكثافة لفترات طويلة. علاوة على ذلك، لا يزال ضبط معايير مثل درجة الحرارة أو حجم السياق يتطلب بعض التعلم.

على الرغم من هذه التفاصيل، فإن إتاحة هذه التقنية للجميع أمرٌ مذهل. فما كان يُشكّل عبئًا كبيرًا بسبب تبعيات بايثون أصبح الآن مجرد برنامج تثبيت بسيط. والانتقال من الاعتماد على الحوسبة السحابية إلى التحكم الكامل في بياناتك يُعدّ خيارًا منطقيًا للغاية لكل من يُفضّل خصوصيته الرقمية على سهولة الاستخدام الفورية.


Surfshark Antivirus لنظام Android
قد تهمك:
كيفية إزالة الفيروسات من أجهزة أندرويد: دليل كامل ومحدث لتنظيف هاتفك
أضف كمصدر مفضل في جوجل