Phi-2
نموذج Microsoft صغير نسبيًا بجودة منطقية جيدة لحجم 2.7B.
ما هو النموذج
`microsoft/phi-2` نموذج لغوي بحجم 2.7B معروف بنسبة جودة جيدة مقابل حجمه خصوصًا في المهام المنطقية والبرمجية.
ماذا يفعل
- مهام reasoning قصيرة.
- مساعدات برمجية خفيفة.
- سيناريوهات ميزانية منخفضة.
مقارنة سريعة
- أعلى جودة عادة من 1B-class وأقل كلفة من 7B-class.
- ليس الأفضل للعربية مقارنة بـ `ALLaM` أو `JAIS`.
أفضل استخدام على DCP
- وظائف داخلية تعتمد على المنطق النصي.
- تجارب سريعة على أحمال إنجليزية أو مختلطة.
متطلبات العتاد
- الحد الأدنى العملي: `8 GB VRAM`.
- GPU مناسب: `RTX 3060` أو `RTX 3090`.
التشغيل على DCP
- قالب موصى به: `vllm-serve`
- معرف النموذج:
microsoft/phi-2- مثال طلب API:
{
"job_type": "vllm_serve",
"params": {
"model": "microsoft/phi-",
"max_model_len": ,
"dtype": "float16"
}
}الترخيص والاستخدام التجاري
- الترخيص: `MIT`.
- الاستخدام التجاري: مسموح ضمن شروط الترخيص.