Llama 3 8B Instruct

ما هو النموذج

`meta-llama/Meta-Llama-3-8B-Instruct` نموذج تعليمات من Meta ضمن عائلة Llama 3.

ماذا يفعل

• مهام محادثة عامة عالية الجودة.
• مساعدات إنتاجية وعمليات.
• دعم جيد للإنجليزية مع قدرة متعددة اللغات.

مقارنة سريعة

• عادة أقوى من بعض نماذج 7B العامة في الاتساق.
• للعربية المتخصصة، قد تتفوق عليه نماذج `JAIS`/`ALLaM` في بعض السيناريوهات.

أفضل استخدام على DCP

• منتجات SaaS عامة.
• مساعدات معرفية ثنائية اللغة.

متطلبات العتاد

• الحد الأدنى العملي: `16 GB VRAM`.
• GPU مناسب: `RTX 3090` أو `RTX 4090`.

التشغيل على DCP

• قالب موصى به: `vllm-serve`
• معرف النموذج:

meta-llama/Meta-Llama-3-8B-Instruct

• مثال طلب API:

{
  "job_type": "vllm_serve",
  "params": {
    "model": "meta-llama/Meta-Llama--8B-Instruct",
    "max_model_len": ,
    "dtype": "float16"
  }
}

الترخيص والاستخدام التجاري

• الترخيص: `Llama 3 Community License`.
• الاستخدام التجاري: مسموح مع الالتزام بشروط Meta.