رایگانموتور متنباز (MIT) اجرای مدلهای GGUF که خیلی از برنامههای محلی رویش ساخته شدهاند؛ llama serve یک سرور سازگار با OpenAI همراه رابط وب چت، روی هر سختافزاری از لپتاپ تا سرور، راه میاندازد.
راهاندازی API مدل روی سرور برای چند کاربردسترسی APIدستیار گفتگو
★★★★★★★★★★۴٫۲پشتیبانی فارسی ✓