Phi-2

نموذج Microsoft صغير نسبيًا بجودة منطقية جيدة لحجم 2.7B.

ما هو النموذج

`microsoft/phi-2` نموذج لغوي بحجم 2.7B معروف بنسبة جودة جيدة مقابل حجمه خصوصًا في المهام المنطقية والبرمجية.

ماذا يفعل

  • مهام reasoning قصيرة.
  • مساعدات برمجية خفيفة.
  • سيناريوهات ميزانية منخفضة.

مقارنة سريعة

  • أعلى جودة عادة من 1B-class وأقل كلفة من 7B-class.
  • ليس الأفضل للعربية مقارنة بـ `ALLaM` أو `JAIS`.

أفضل استخدام على DCP

  • وظائف داخلية تعتمد على المنطق النصي.
  • تجارب سريعة على أحمال إنجليزية أو مختلطة.

متطلبات العتاد

  • الحد الأدنى العملي: `8 GB VRAM`.
  • GPU مناسب: `RTX 3060` أو `RTX 3090`.

التشغيل على DCP

  • قالب موصى به: `vllm-serve`
  • معرف النموذج:
microsoft/phi-2
  • مثال طلب API:
{
  "job_type": "vllm_serve",
  "params": {
    "model": "microsoft/phi-",
    "max_model_len": ,
    "dtype": "float16"
  }
}

الترخيص والاستخدام التجاري

  • الترخيص: `MIT`.
  • الاستخدام التجاري: مسموح ضمن شروط الترخيص.