KoboldCpp

کوبولد سی‌پی‌پی

KoboldCpp

محصول جامعهٔ کوبولد ای‌آی

★★★★★★★★★★۳٫۸
کاملاً رایگان و متن‌باز (AGPL-3.0)؛ پلن پولی ندارد. اگر آن را روی سرویس‌های ابری مثل RunPod اجرا کنید، هزینهٔ همان سرویس را می‌پردازید.

یک فایل اجرایی بدون نصب که مدل‌های GGUF را با رابط داستان‌نویسی و نقش‌آفرینی KoboldAI Lite اجرا می‌کند؛ ساخت تصویر، ویدئو و موسیقی، گفتار به متن و متن به گفتار هم در همان برنامه است.

معرفی: کوبولد سی‌پی‌پی

KoboldCpp برنامه‌ای متن‌باز (مجوز AGPL-3.0) است که روی llama.cpp ساخته شده و همه‌چیز را در یک فایل اجرایی جمع کرده؛ نه نصب می‌خواهد و نه وابستگی. فایل را اجرا می‌کنید، مدل GGUF را انتخاب می‌کنید و رابط وب KoboldAI Lite روی http://localhost:5001 باز می‌شود. توسعه‌دهندهٔ اصلی‌اش با نام Concedo (LostRuins در گیت‌هاب) شناخته می‌شود.

مخاطب اصلی‌اش داستان‌نویس‌ها و علاقه‌مندان نقش‌آفرینی (role-play) است: حالت‌های چت، ماجراجویی، دستورپذیر و داستان‌نویسی، حافظه، World Info، کارت شخصیت Tavern و ذخیرهٔ داستان دارد. کنار متن، ساخت و ویرایش تصویر (SDXL، Flux، Z-Image، Qwen Image)، ساخت ویدئو (Wan 2.2، LTX 2.3 و MiniMax H3)، موسیقی با ACE-Step 1.5، گفتار به متن با Whisper و متن به گفتار با Qwen3-TTS و Kokoro هم دارد. APIهای سازگار با OpenAI، Ollama، A1111 و ComfyUI هم می‌دهد تا برنامه‌هایی مثل SillyTavern به آن وصل شوند. از نسخهٔ 1.122 (سپتامبر ۲۰۲۶) یک «KoboldCpp Agent» داخلی هم دارد (با ‎--agent یا از تب Admin) با ۹ ابزار، اتصال MCP از راه فایل mcp.json، فایل AGENTS.md، فشرده‌سازی زمینه و سه حالت تأیید؛ دست‌کم ۲۸ هزار توکن زمینه می‌خواهد و حدود ۱۲ گیگابایت VRAM برایش پیشنهاد شده است.

سخت‌افزار: برای متن، طبق راهنمای رسمی مدل ۷ میلیاردی در Q4 دست‌کم ۸ گیگ رم و مدل ۳ میلیاردی ۴ گیگ می‌خواهد؛ کارت گرافیک اختیاری است ولی سرعت را خیلی بالا می‌برد. ساخت تصویر و ویدئو عملاً کارت گرافیک می‌خواهد: بستهٔ آمادهٔ Starter Pack V2 دست‌کم ۸ گیگ VRAM و ساخت موسیقی از حدود ۴ گیگ VRAM شروع می‌شود. نسخه‌های جدا برای کارت انویدیا، بدون CUDA و کامپیوترهای قدیمی منتشر می‌شود.

شروع: فایل koboldcpp.exe (یا نسخهٔ لینوکس و مک) را از گیت‌هاب بگیرید و اجرا کنید، در پنجرهٔ تنظیمات یک مدل GGUF انتخاب و Launch را بزنید. خود پروژه Qwen3-VL-8B را برای شروع پیشنهاد می‌کند.

نکته‌ها: رابط فارسی ندارد. به‌طور پیش‌فرض روی همهٔ کارت‌های شبکه گوش می‌دهد، پس روی شبکهٔ مشترک ‎--host 127.0.0.1 یا ‎--password بگذارید. به گفتهٔ سازنده سایت koboldcpp.com رسمی نیست و فیشینگ است؛ فقط از گیت‌هاب دانلود کنید.

بهترین کاربردها

  • •با هوش مصنوعی آفلاین داستان تعاملی بنویسم
  • •با کاراکترهای خودم نقش‌آفرینی کنم بدون اینکه متن‌ها به سرور کسی برود
  • •کارت شخصیت Tavern یا SillyTavern رو با مدل محلی اجرا کنم
  • •با یه برنامهٔ بدون نصب هم متن بنویسم هم عکس بسازم
  • •روی کامپیوتر خودم با Z-Image یا Flux تصویر بسازم
  • •بدون اینترنت آهنگ کوتاه با ACE-Step بسازم
  • •روی کامپیوتر خودم ویدئوی کوتاه با Wan 2.2 بسازم
  • •روی کامپیوتر قدیمی بدون کارت گرافیک یه سرور API سازگار با OpenAI راه بندازم

برای این کارها سراغش نروید

  • –روایت صوتی فارسی (متن به گفتار فارسی)
  • –کاربری که فقط یک برنامهٔ چت سادهٔ کاری می‌خواهد
  • –سرور چندکاربرهٔ شرکت با مدیریت کاربران

اجرا روی سیستم خودتان

این برنامه را روی سیستم خودتان نصب می‌کنید و هوش مصنوعی روی همان دستگاه اجرا می‌شود؛ متن و فایل‌هایتان از آن بیرون نمی‌رود.

  • کاملاً آفلاین
  • متن‌باز
  • AGPL-3.0 — استفادهٔ تجاری آزاد
  • برنامهٔ گرافیکی
  • رابط وب
  • API
  • خط فرمان

اگر فایل اجرایی و مدل‌ها را داشته باشید، از همان ابتدا بدون اینترنت کار می‌کند. قالب‌های kcppt و مدل‌هایی که با آدرس اینترنتی بار می‌شوند، جستجوی وب داخلی، تونل Cloudflare (‎--remotetunnel) و AI Horde اینترنت می‌خواهند.

استفادهٔ تجاری آزاد است. اگر کد را تغییر دهید و به‌صورت سرویس شبکه‌ای به دیگران ارائه کنید، باید کد تغییریافته را منتشر کنید. llama.cpp و stable-diffusion.cpp داخل آن مجوز MIT دارند.

سخت‌افزار لازم

  • حداقل رم: ۸ گیگابایت — پیشنهادی: ۱۶ گیگابایت
  • کارت گرافیک اختیاری است
  • طبق راهنمای رسمی (Q4 با زمینهٔ ۲۰۴۸): مدل 3B حدود ۴ گیگ، 7B حدود ۸ گیگ و 13B حدود ۱۶ گیگ رم. تصویر و ویدئو عملاً کارت گرافیک می‌خواهند (Starter Pack V2 دست‌کم ۸ گیگ VRAM؛ موسیقی از ۴ گیگ). فایل ویندوز با CUDA حدود ۶۳۴ مگ و بدون CUDA ۱۱۵ مگ است؛ مک فقط اپل‌سیلیکون (برای مک اینتل باید از سورس ساخت).

نصب و اجرا

  1. ۱

    فایل اجرایی را از گیت‌هاب بگیرید

    https://github.com/LostRuins/koboldcpp/releases/latest

    ویندوز: koboldcpp.exe (انویدیا)، koboldcpp-nocuda.exe یا koboldcpp-oldpc.exe؛ لینوکس: koboldcpp-linux-x64؛ مک: koboldcpp-mac-arm64.

  2. ۲

    روی لینوکس با یک دستور بگیریدلینوکس

    curl -fLo koboldcpp https://github.com/LostRuins/koboldcpp/releases/latest/download/koboldcpp-linux-x64-oldpc && chmod +x koboldcpp

    این دستور خود پروژه است و نسخهٔ سازگار با سیستم‌های قدیمی را می‌گیرد؛ برای کارت انویدیای جدید koboldcpp-linux-x64 را بگیرید.

  3. ۳

    با یک مدل GGUF اجرا کنیدویندوز

    koboldcpp.exe --model Qwen3.5-9B-Q4_K_M.gguf --usecuda --gpulayers 99 --contextsize 8192

    یا بدون آرگومان اجرا کنید تا پنجرهٔ تنظیمات باز شود. بعد http://localhost:5001 را باز کنید.

  4. ۴

    روی مک اجرا کنیدمک

    chmod +x koboldcpp-mac-arm64 && ./koboldcpp-mac-arm64

    اگر macOS اجازه نداد، از تنظیمات امنیتی اجازهٔ اجرا بدهید.

  5. ۵

    فقط روی همین کامپیوتر و با رمز اجرا کنیدلینوکس

    ./koboldcpp --model model.gguf --host 127.0.0.1 --password YOUR_KEY

    در ویندوز هم همین گزینه‌ها کار می‌کنند؛ پیش‌فرض روی همهٔ کارت‌های شبکه گوش می‌دهد.

دانلود

نکات امنیتی

  • به‌طور پیش‌فرض روی همهٔ کارت‌های شبکه گوش می‌دهد؛ روی شبکهٔ مشترک ‎--host 127.0.0.1 بگذارید یا با ‎--password محافظتش کنید.
  • ‎--password فقط endpointهای متن را قفل می‌کند و endpointهای تصویر محافظت نمی‌شوند.
  • ‎--remotetunnel سرور را از طریق Cloudflare روی اینترنت باز می‌کند؛ گزینهٔ ‎--admin را روی نسخهٔ عمومی به کار نبرید.
  • به گفتهٔ سازنده koboldcpp.com سایت فیشینگ است و یادداشت نسخهٔ 1.122.1 هم دربارهٔ سایت جعلی‌ای که خود را KoboldCpp جا می‌زند هشدار داده؛ فقط از github.com/LostRuins/koboldcpp دانلود کنید.
  • عامل داخلی (‎--agent) ابزار اجرا می‌کند؛ از سه حالت تأیید آن، حالتی را بگذارید که کارهای حساس را پیش از اجرا از شما بپرسد.

برای شرکت‌ها و سازمان‌ها

حالت چندکاربره (‎--multiuser) درخواست‌ها را صف می‌کند و rate limit و سقف طول پاسخ دارد، ولی مدیریت کاربر ندارد. برای سرور هوش مصنوعی شرکت، llama.cpp یا vLLM مناسب‌ترند.

آخرین بررسی: ۱۲ مهر ۱۴۰۵

تصاویر محیط ابزار

نقاط قوت

  • ✓یک فایل اجرایی بدون نصب و بدون وابستگی؛ روی ویندوز، لینوکس و مک
  • ✓رابط کامل داستان‌نویسی و نقش‌آفرینی با حافظه، World Info و کارت شخصیت
  • ✓متن، تصویر، ویدئو، موسیقی، گفتار به متن و متن به گفتار با شبیه‌سازی صدا در یک برنامه
  • ✓APIهای سازگار با OpenAI، Ollama، A1111 و ComfyUI برای وصل شدن برنامه‌های دیگر
  • ✓نسخهٔ جدا برای کامپیوترهای قدیمی و بدون CUDA، حالت چندکاربره و قالب‌های آماده (kcppt)
  • ✓به‌روزرسانی مرتب؛ نسخهٔ 1.122.1 (۲۶ سپتامبر ۲۰۲۶) یک عامل برنامه‌نویسی داخلی (‎--agent) با پشتیبانی MCP اضافه کرد

نقاط ضعف

  • ✗برای ساخت تصویر و ویدئو کارت گرافیک لازم است (بستهٔ آماده دست‌کم ۸ گیگ VRAM) و فایل نسخهٔ CUDA ویندوز حدود ۶۳۴ مگابایت است
  • ✗رابط فارسی ندارد و Qwen3-TTS، گزینهٔ اصلی متن به گفتار آن، فارسی را در ۱۰ زبان پشتیبانی‌شده‌اش ندارد
  • ✗به‌طور پیش‌فرض روی همهٔ کارت‌های شبکه گوش می‌دهد و ‎--password فقط endpointهای متن را قفل می‌کند، نه تصویر را
  • ✗مجوز AGPL: اگر نسخهٔ تغییریافته را به‌صورت سرویس شبکه‌ای ارائه کنید، باید کدش را منتشر کنید
  • ✗تنظیمات زیاد و مدل‌های چندفایلی (VAE، T5، CLIP) برای مبتدی گیج‌کننده است

پرسش‌های پرتکرار

KoboldCpp نصب لازم دارد؟

نه. فقط یک فایل اجرایی است (در ویندوز koboldcpp.exe). اگر کارت انویدیا ندارید koboldcpp-nocuda.exe و برای سیستم‌های قدیمی koboldcpp-oldpc.exe را بگیرید. برای مک اپل‌سیلیکون و لینوکس هم فایل آماده هست.

چه سخت‌افزاری لازم است؟

برای متن، طبق راهنمای رسمی مدل 3B حدود ۴ گیگ و مدل 7B حدود ۸ گیگ رم می‌خواهد (Q4 با زمینهٔ ۲۰۴۸ توکن). برای تصویر، ویدئو و موسیقی کارت گرافیک لازم است؛ بستهٔ Starter Pack V2 دست‌کم ۸ گیگ VRAM و ساخت موسیقی از حدود ۴ گیگ VRAM.

فارسی بلد است؟

رابط برنامه فارسی ندارد. متن فارسی به مدل بستگی دارد؛ Qwen3.5 فارسی را رسماً پشتیبانی می‌کند. Whisper برای گفتار به متن فارسی را می‌شناسد، اما Qwen3-TTS در فهرست ۱۰ زبانش فارسی ندارد.

برای کار تجاری آزاد است؟

بله، AGPL-3.0 استفادهٔ تجاری را آزاد می‌گذارد. فقط اگر کد را تغییر دهید و به‌صورت سرویس شبکه‌ای در اختیار دیگران بگذارید، باید کد تغییریافته را منتشر کنید. مجوز هر مدل را جدا بررسی کنید.

می‌شود از گوشی به آن وصل شد؟

بله. اگر در یک شبکه باشید، در مرورگر گوشی آدرس IP کامپیوتر و پورت ۵۰۰۱ را باز کنید. گزینهٔ ‎--remotetunnel هم تونل Cloudflare می‌سازد، ولی یعنی سرور روی اینترنت باز می‌شود؛ حتماً ‎--password بگذارید.

امتیاز و نظر شما

بدون نیاز به ثبت‌نام؛ نظر متنی پس از بررسی منتشر می‌شود.

نظرات کاربران

هنوز نظری ثبت نشده — اولین نفر باشید!

ابزارهای مشابه

مشاهده همه