Qwen2 7B Instruct

ما هو النموذج

`Qwen/Qwen2-7B-Instruct` نموذج تعليمات 7B من Qwen يدعم سياقًا طويلًا نسبيًا وأداءً جيدًا متعدد اللغات.

ماذا يفعل

• محادثات طويلة نسبيًا.
• تلخيص الوثائق متعددة الصفحات.
• تطبيقات خدمة العملاء متعددة اللغات.

مقارنة سريعة

• مقابل `Mistral 7B`: غالبًا أفضل عند الحاجة لسياق أطول.
• مقابل `JAIS 13B`: أقل كلفة لكنه قد يكون أقل جودة بالعربية المتخصصة.

أفضل استخدام على DCP

• وكلاء محادثة متعددة اللغات.
• تطبيقات تعتمد على context window أكبر.

متطلبات العتاد

• الحد الأدنى العملي: `16 GB VRAM`.
• GPU مناسب: `RTX 3090` أو `RTX 4090`.

التشغيل على DCP

• قالب موصى به: `vllm-serve`
• معرف النموذج:

Qwen/Qwen2-7B-Instruct

• مثال طلب API:

{
  "job_type": "vllm_serve",
  "params": {
    "model": "Qwen/Qwen2-7B-Instruct",
    "max_model_len": ,
    "dtype": "float16"
  }
}

الترخيص والاستخدام التجاري

• الترخيص: `Apache 2.0`.
• الاستخدام التجاري: مسموح ضمن شروط الترخيص.