Mistral 7B Instruct v0.2

ما هو النموذج

`mistralai/Mistral-7B-Instruct-v0.2` نموذج تعليمات 7B يستخدم بكثرة في واجهات الإنتاج بسبب توازن الجودة/الكمون.

ماذا يفعل

• محادثة عامة.
• تلخيص وتوليد نصوص تشغيلية.
• مساعدين داخليين بتكلفة مناسبة.

مقارنة سريعة

• أقل تخصصًا للعربية من `ALLaM` و`JAIS`.
• غالبًا أفضل كخيار افتراضي عام منخفض المخاطر.

أفضل استخدام على DCP

• MVPs سريعة.
• مساعدين عامين غير متخصصين بمجال عربي عميق.

متطلبات العتاد

• الحد الأدنى العملي: `16 GB VRAM`.
• GPU مناسب: `RTX 3090` أو `RTX 4090`.

التشغيل على DCP

• قالب موصى به: `vllm-serve`
• معرف النموذج:

mistralai/Mistral-7B-Instruct-v0.2

• مثال طلب API:

{
  "job_type": "vllm_serve",
  "params": {
    "model": "mistralai/Mistral-7B-Instruct-v0.",
    "max_model_len": ,
    "dtype": "float16"
  }
}

الترخيص والاستخدام التجاري

• الترخيص: `Apache 2.0`.
• الاستخدام التجاري: مسموح ضمن شروط الترخيص.