#

النقاط الرئيسية

• Llama Windows هو تطبيق Windows مجاني ومفتوح المصدر.

• يضيف واجهة llama.cpp إلى شريط مهام Windows 11.

• يمكن للمستخدمين اختيار النماذج وتنزيلها وتشغيلها محليًا.

• يمكن للتطبيق بدء خادم llama.cpp أو الاتصال به.

• تبقى المحادثات والاستدلال على جهاز المستخدم نفسه.

ما الذي أعلنته Hugging Face

أعلن مساهمون في Hugging Face عن Llama Windows في 13 أكتوبر. التطبيق مجاني ومفتوح المصدر. وهو يضع واجهة llama.cpp في شريط مهام Windows 11. يمكن للمستخدمين اختيار نموذج من Hugging Face Hub وتنزيله وتشغيله محليًا.

وتعرضه مقالة الإطلاق باعتباره النظير الخاص بـ Windows لتطبيق llama.app على macOS. كما تذكر أن Windows على Arm وNVIDIA RTX Spark مدعومان عند الإطلاق. وهذا يمنح التطبيق تركيزًا واضحًا على استخدام النماذج محليًا داخل بيئة Windows.

كيف يعمل التطبيق

تم تصميم Llama Windows لتقليل أعمال الإعداد. لا يحتاج المستخدمون إلى بناء محرك الاستدلال أو تهيئته يدويًا. يمكن للتطبيق تحميل النماذج أو إلغاء تحميلها من واجهته الخاصة. كما يمكنه فتح واجهة الويب الخاصة بـ llama.cpp للدردشة.

يمكن للتطبيق الاتصال بخادم llama.cpp موجود بالفعل. كما يمكنه بدء خادم يديره هو. وإذا لزم الأمر، فإنه يثبت llama.cpp باستخدام المثبت الرسمي الخاص به. وتذكر الإعلانات أن ذلك يمكن أن يحدث دون صلاحيات المسؤول. وهذا يقلل من العوائق أمام الاستخدام المحلي.

اختيار النماذج والتنزيلات

يتضمن التطبيق لوحة للنماذج الموصى بها. تعرض هذه اللوحة النماذج المكمّمة قبل التنزيل. كما تعرض عدد المعاملات، وحجم القرص، ودعم الرؤية. تساعد هذه التفاصيل المستخدمين على مقارنة الخيارات قبل الالتزام بالتنزيل.

تستخدم ملفات النماذج التي تم تنزيلها ذاكرة التخزين المؤقت القياسية الخاصة بـ Hugging Face. وهذا يعني أنه يمكن مشاركة الملفات مع أدوات أخرى تستخدم ذاكرة التخزين المؤقت نفسها. ولا تضيف المادة المصدرية مزيدًا من التفاصيل حول إدارة النماذج beyond هذا السلوك المشترك لذاكرة التخزين المؤقت.

الاستدلال المحلي والوصول إلى واجهة برمجة التطبيقات

يقول المؤلفون إن استدلال النماذج والمحادثات يبقيان على جهاز المستخدم نفسه. وهذه هي الرسالة الأساسية المتعلقة بالخصوصية والتحكم في الإعلان. ومع ذلك، فإن تنزيل النموذج نفسه يتطلب اتصالًا في البداية.

يعرّض الخادم المحلي واجهة برمجة تطبيقات متوافقة مع OpenAI على localhost المنفذ 9931. ويمكن للتطبيقات والبرامج النصية الأخرى استخدام هذه النقطة النهائية. وهذا يجعل التطبيق مفيدًا بما يتجاوز واجهة الدردشة المدمجة، لأن الأدوات المحلية يمكنها الاتصال بالخادم نفسه.

اعتبارات تشغيلية

تشير المادة المصدرية إلى نموذج تشغيلي بسيط. يحتاج المستخدمون إلى اتصال لتنزيل نموذج، لكن الاستدلال الفعلي يعمل محليًا بعد ذلك. ويمكن للتطبيق إما إدارة خادمه الخاص أو العمل مع خادم موجود بالفعل.

كما تسلط الإعلانات الضوء على استخدام النماذج المكمّمة في لوحة التوصيات. وهذا يشير إلى أن التطبيق مبني حول خيارات نشر محلية عملية. ولا تقدم المصدر معايير أداء أو حدودًا للأجهزة أو إرشادات أوسع للنشر.

الصلة بالمغرب

لا يورد المصدر أي حقائق خاصة بالمغرب. وبالنسبة للقراء في أي سوق، فإن الدرس العام هو أن تطبيقات النماذج المحلية يمكن أن تقلل من أعمال الإعداد مع إبقاء الاستدلال على الجهاز.

الخلاصة

توسّع Llama Windows سير عمل Hugging Face للنماذج المحلية إلى Windows 11. فهي تجمع اكتشاف النماذج والتنزيل والخدمة المحلية والدردشة في تطبيق واحد. كما تعرض واجهة برمجة تطبيقات محلية لبرامج أخرى. والنتيجة هي مسار أبسط للمستخدمين الذين يريدون تشغيل النماذج على أجهزتهم الخاصة دون إعداد يدوي للمحرك.