نموترون ۳.۵ لایتنینگ (آفلاین)
Nemotron 3.5 Lightning (offline)مدل باز انویدیا (۱۱ اوت ۲۰۲۶) برای ایجنت‌های همیشه‌روشن: MoE با ۳۰ میلیارد پارامتر که فقط ۳ میلیاردش فعال است، پس روی پردازنده و مک اپل هم سریع است؛ حافظهٔ متنی تا ۱ میلیون توکن، فایل ۴ بیتی ۲۵ گیگابایتی برای سیستم ۳۲ گیگابایتی و مجوز OpenMDW که کار تجاری را آزاد می‌گذارد؛ فارسی در فهرست رسمی نیست.
اجرا روی سیستم خودتان
این مدل را یک بار دانلود می‌کنید و بعد بدون اینترنت روی لپ‌تاپ، کامپیوتر یا سرور خودتان اجرایش می‌کنید.
- بعد از نصب، بدون اینترنت
- وزن‌های باز
- OpenMDW-1.1 — استفادهٔ تجاری آزاد
- فارسی: نامعلوم
بعد از دانلود کاملاً بدون اینترنت کار میکند. برای سیستم آفلاین، مدل را روی سیستم متصل pull کنید و پوشهٔ مدل‌های Ollama را کپی کنید، یا فایل GGUF را منتقل و با Modelfile وارد کنید.
مجوز باز مخصوص مدل‌ها: استفاده (از جمله تجاری)، تغییر و بازنشر وزن‌ها آزاد است و برای خروجی‌های مدل شرطی ندارد. هنگام بازنشر، متن مجوز و اعلان‌های حق نشر و منشأ را همراه کنید. اگر دعوایی راه بیندازید که مدل حق اختراع یا کپی‌رایت شما را نقض کرده، حقوق شما از این مجوز لغو میشود، مگر در دفاع از دعوایی که اول علیه شما شده.
نسخه‌ها و سخت‌افزار لازم
- 30B-A3B۳۰B (فعال ۳B)طول متن ۱٬۰۰۰ هزار توکن
- حجم دانلود:
- ۲۵٫۳ گیگ
- حافظهٔ لازم:
- کارت گرافیک ۲۴ گیگ یا رم ۳۲ گیگ
ollama run nemotron-3.5-lightning۳۱٫۶ میلیارد پارامتر ذخیره‌شده. حجم ۴ بیتی از UD-Q4_K_M شرکت Unsloth است؛ Q8_0 در ggml-org ۳۳٫۶ و در Unsloth ۳۵ گیگابایت و BF16 بین ۶۳٫۲ تا ۶۵٫۹ گیگابایت. برچسب پیشفرض Ollama همان 30b-a3b-q4_K_M (۲۵ گیگابایت) است و nemotron-3.5-lightning:30b-a3b-q8_0 (۳۵ گیگابایت) و 30b-a3b-nvfp4 (۲۳ گیگابایت) هم هست. کارت ۲۴ گیگابایتی با انتقال بخشی از مدل به رم کار میکند.
- 30B-A3B MLX (Mac)۳۰B (فعال ۳B)طول متن ۱٬۰۰۰ هزار توکن
- حجم دانلود:
- ۲۳ گیگ
- حافظهٔ لازم:
- کارت گرافیک ۲۸ گیگ یا رم ۳۰ گیگ
ollama run nemotron-3.5-lightning:30b-a3b-mlxبرچسب MLX در Ollama برای مک‌های اپل سیلیکون، ۲۳ گیگابایت.
نصب و اجرا
- ۱
Ollama را روی ویندوز نصب کنیدویندوز
irm https://ollama.com/install.ps1 | iexاین دستور را در PowerShell بزنید (ویندوز ۱۰ به بعد). فایل نصبی OllamaSetup.exe هم در صفحهٔ دانلود Ollama و بخش Releases گیت‌هاب آن هست.
- ۲
Ollama را روی لینوکس یا مک نصب کنیدلینوکس
curl -fsSL https://ollama.com/install.sh | shهمین دستور روی مک (macOS 14 به بعد) هم کار میکند؛ روی مک می‌توانید فایل نصبی را هم از سایت Ollama بگیرید.
- ۳
مدل را دانلود و اجرا کنید
ollama run nemotron-3.5-lightningحدود ۲۵ گیگابایت دانلود میشود (۴ بیتی، حافظهٔ متنی تا ۱ میلیون توکن) و بعد آفلاین کار میکند.
- ۴
روی مک: برچسب MLXمک
ollama run nemotron-3.5-lightning:30b-a3b-mlx۲۳ گیگابایت، با موتور MLX برای مک‌های اپل سیلیکون.
- ۵
یا با LM Studio
LM Studio را از lmstudio.ai نصب کنید و Nemotron-3.5-Lightning را جست‌وجو کنید (فایل‌های GGUF از lmstudio-community).
- ۶
یا با llama.cpp
llama serve -hf unsloth/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF:UD-Q4_K_Mفایل UD-Q4_K_M حدود ۲۵٫۳ گیگابایت است. پشتیبانی MTP از ۱۰ اوت به llama.cpp اضافه شده؛ نسخهٔ Q8_0 تیم llama.cpp در مخزن ggml-org است.
- ۷
روی سرور با vLLMلینوکس
vllm serve nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4 --api-key CHANGE_MEنسخهٔ NVFP4 پیشنهاد انویدیا برای استقرار و مخصوص کارت‌های نسل Blackwell است. کارت مدل از vLLM نسخهٔ 0.27.1 استفاده کرده؛ SGLang هم پشتیبانی دارد.
دانلود
- Ollama: nemotron-3.5-lightning ↗رسمی
برچسب‌های q4_K_M، q8_0، mlx و nvfp4.
- nvidia BF16 (Hugging Face) ↗رسمی
نسخهٔ مرجع و کارت مدل؛ برای فاین‌تیون.
- nvidia NVFP4 (Hugging Face) ↗رسمی
نسخهٔ پیشنهادی انویدیا برای استقرار روی کارت‌های Blackwell.
- unsloth GGUF ↗غیررسمی
فایل‌های GGUF از UD-Q4_K_M (۲۵٫۳ گیگابایت) تا BF16.
- ggml-org GGUF ↗غیررسمی
از تیم llama.cpp؛ Q8_0 حدود ۳۳٫۶ گیگابایت.
- lmstudio-community GGUF ↗غیررسمی
فایل‌هایی که LM Studio دانلود میکند.
- متن مجوز OpenMDW-1.1 ↗رسمی
شرط‌های استفاده و بازنشر.
نکات امنیتی
- پورت 11434 را روی اینترنت باز نکنید: Ollama به‌طور پیشفرض فقط روی 127.0.0.1 گوش می‌دهد و API آن رمز ندارد. سرورهای llama.cpp و vLLM را هم بدون کلید دسترسی (--api-key) روی شبکه باز نکنید.
- فایل مدل را فقط از مخزن رسمی سازنده یا منبع شناخته‌شده بگیرید، GGUF یا safetensors را به فایل‌های pickle (.bin یا .pt) ترجیح دهید و هش SHA256 فایل را با صفحهٔ دانلود مقایسه کنید.
- این مدل برای ایجنت‌های همیشه‌روشن ساخته شده؛ اگر به آن دسترسی به فایل، ایمیل یا ابزار می‌دهید، کارهای برگشت‌ناپذیر مثل پاک‌کردن و ارسال را فقط با تأیید دستی انجام دهید.
برای شرکت‌ها و سازمان‌ها
برای سرور شرکت، انویدیا نسخهٔ NVFP4 را برای کارت‌های نسل Blackwell پیشنهاد میکند و نسخهٔ BF16 را برای فاین‌تیون. کارت مدل از vLLM نسخهٔ 0.27.1 استفاده کرده و SGLang هم پشتیبانی دارد. انویدیا حافظهٔ متنی ۲۵۶ هزار توکنی را روی یک کارت H100 آزموده است.
برنامه‌هایی که این مدل را اجرا می‌کنند
اولاما
ال‌ام استودیو
لاما سی‌پی‌پی
ویالالامهمسطح ابری
آخرین بررسی: ۱۲ مهر ۱۴۰۵ · انتشار: ۲۴ مرداد ۱۴۰۵
معرفی: نموترون ۳.۵ لایتنینگ (آفلاین)
Nemotron 3.5 Lightning مدل باز انویدیاست که ۱۱ اوت ۲۰۲۶ منتشر شد. معماری ترکیبی Mamba-2، MoE و attention دارد، با پیش‌بینی چندتوکنی (MTP) برای سرعت: ۳۰ میلیارد پارامتر که در هر توکن فقط ۳ میلیاردش فعال است. برای همین روی پردازنده یا مک اپل هم سریع جواب می‌دهد. فقط متن می‌گیرد و متن می‌دهد.
کاربرد اصلی: ایجنت‌هایی که همیشه روشن‌اند، استدلال، فراخوانی ابزار و کار با متن خیلی طولانی. حافظهٔ متنی تا ۱ میلیون توکن است و انویدیا ۲۵۶ هزار توکن را روی یک کارت H100 آزموده است.
سخت‌افزار: برچسب پیشفرض Ollama (۴ بیتی) ۲۵ گیگابایت است و ۳۲ گیگابایت رم یا کارت گرافیک ۲۴ گیگابایتی با انتقال بخشی از مدل به رم می‌خواهد. روی مک برچسب MLX در Ollama ۲۳ گیگابایت است. لپ‌تاپ ۱۶ گیگابایتی برایش کافی نیست.
شروع: بعد از نصب Ollama بزنید ollama run nemotron-3.5-lightning، یا در LM Studio نام Nemotron-3.5-Lightning را جست‌وجو کنید. llama.cpp (با پشتیبانی MTP)، vLLM و SGLang هم اجرایش می‌کنند.
مجوز و محدودیت: مجوز OpenMDW-1.1 استفاده (از جمله تجاری)، تغییر و بازنشر را آزاد می‌گذارد و برای خروجی‌های مدل شرطی ندارد؛ فقط باید متن مجوز و اعلان‌های منشأ را همراه نسخه‌ها نگه دارید. فارسی در فهرست رسمی زبان‌ها نیست (انگلیسی و کد، بهعلاوهٔ اسپانیایی، فرانسوی، آلمانی، ایتالیایی و ژاپنی) و آزموده نشده است.
بهترین کاربردها
- •روی کامپیوتر خودم با ۳۲ گیگابایت رم یک ایجنت همیشه‌روشن آفلاین اجرا کنم
- •سند خیلی طولانی انگلیسی را بدون اینترنت روی سیستم خودم با یک مدل باز بخوانم و از آن جواب بگیرم
- •یک مدل سریع MoE را روی مک یا کامپیوتر خودم بدون کارت گرافیک قوی اجرا کنم
- •مدل باز انویدیا را روی سرور شرکت برای ایجنت‌ها سرو کنم
- •آفلاین روی کامپیوتر خودم مدلی برای فراخوانی ابزار و استدلال داشته باشم
برای این کارها سراغش نروید
- –نوشتن یا ترجمهٔ متن فارسی
- –خواندن تصویر یا سند اسکن‌شده
- –لپ‌تاپ ۸ یا ۱۶ گیگابایتی
- –ساخت تصویر
تصاویر محیط ابزار
نقاط قوت
- ✓فقط ۳ میلیارد پارامتر فعال؛ سریع روی پردازنده و مک اپل
- ✓حافظهٔ متنی تا ۱ میلیون توکن (۲۵۶ هزار روی یک H100 آزموده‌شده)
- ✓ساخته‌شده برای ایجنت: استدلال و فراخوانی ابزار
- ✓برچسب‌های رسمی Ollama برای کامپیوتر و مک (MLX)
- ✓مجوز OpenMDW: تجاری، تغییر و بازنشر آزاد و خروجی بی‌شرط
- ✓پشتیبانی آماده در llama.cpp، vLLM، SGLang، LM Studio و Ollama
نقاط ضعف
- ✗فایل ۴ بیتی ۲۵ گیگابایت است و دستکم ۳۲ گیگابایت رم یا کارت ۲۴ گیگابایتی با انتقال بخشی به رم می‌خواهد؛ لپ‌تاپ ۱۶ گیگابایتی کافی نیست
- ✗فارسی در فهرست رسمی زبان‌ها نیست و آزموده نشده
- ✗فقط متن؛ تصویر و سند اسکن‌شده نمی‌خواند
- ✗نسخهٔ پیشنهادی انویدیا برای استقرار (NVFP4) کارت نسل Blackwell می‌خواهد و نسخهٔ BF16 فقط برای فاین‌تیون است
قیمت‌گذاری
رایگان (وزن‌های باز)
Free (open weights)رایگان
- • دانلود و اجرا روی سخت‌افزار خودتان
- • استفادهٔ تجاری آزاد با مجوز OpenMDW-1.1
قیمت‌ها تقریبی و بر اساس آخرین بازبینی است؛ برای قیمت دقیق به سایت رسمی مراجعه کنید.
پرسش‌های پرتکرار
با چه سیستمی اجرا میشود؟
برچسب پیشفرض Ollama (۴ بیتی) ۲۵ گیگابایت است: دستکم ۳۲ گیگابایت رم، یا کارت گرافیک ۲۴ گیگابایتی که بخشی از مدل را به رم منتقل میکند. چون فقط ۳ میلیارد پارامتر فعال دارد، روی پردازنده و مک اپل هم سریع است. روی مک برچسب MLX (۲۳ گیگابایت) را بگیرید.
فارسی بلد است؟
رسمی نه. فهرست زبانهای انویدیا انگلیسی و کد، بهعلاوهٔ اسپانیایی، فرانسوی، آلمانی، ایتالیایی و ژاپنی است و آزمون فارسی منتشر نشده. برای کار فارسی Qwen3.5 مطمئنتر است.
مجوز OpenMDW چه اجازه‌ای می‌دهد؟ برای کار تجاری آزاد است؟
بله. OpenMDW-1.1 استفاده از مدل، از جمله استفادهٔ تجاری، تغییر و بازنشر وزن‌ها را بدون هزینه آزاد می‌گذارد و برای خروجی‌های مدل هیچ شرطی ندارد. هنگام بازنشر باید متن مجوز و اعلان‌های حق نشر و منشأ را همراه کنید. اگر خودتان دعوایی راه بیندازید و ادعا کنید این مدل حق اختراع یا کپی‌رایت شما را نقض کرده، حقوق شما از این مجوز لغو میشود (مگر در دفاع از دعوایی که اول علیه شما شده).
چطور نصبش کنم؟
Ollama را نصب کنید و بزنید ollama run nemotron-3.5-lightning؛ روی مک nemotron-3.5-lightning:30b-a3b-mlx. در LM Studio هم Nemotron-3.5-Lightning را جست‌وجو کنید. برای سیستم بدون اینترنت، فایل GGUF را از مخزن unsloth یا ggml-org بگیرید و با Modelfile وارد کنید، یا پوشهٔ مدل‌های Ollama را کپی کنید.
حافظهٔ متنی ۱ میلیون توکنی روی سیستم من کار میکند؟
کارت مدل تا ۱ میلیون توکن را اعلام کرده، ولی انویدیا ۲۵۶ هزار توکن را روی یک کارت H100 آزموده است. هر چه متن طولانی‌تر باشد حافظهٔ بیشتری لازم است؛ روی سیستم ۳۲ گیگابایتی با متن کوتاه‌تر شروع کنید و کم‌کم بالا ببرید.
نظرات کاربران
هنوز نظری ثبت نشده — اولین نفر باشید!
ابزارهای مشابه
مشاهده همه
دیپ‌سیک ۴ فلش (آفلاین)
DeepSeek-V4-Flash (offline)
نسخهٔ متن‌باز DeepSeek-V4-Flash با ۲۸۴ میلیارد پارامتر و متن تا یک میلیون توکن، برای برنامه‌نویسی و کار ایجنتی؛ روی سرور چندکارته یا دستگاه ۱۲۸ گیگابایتی، با مجوز MIT.
اوپن وب‌یوآی
Open WebUI
رابطی شبیه ChatGPT که روی لپ‌تاپ یا سرور خودتان نصب میشود و به Ollama یا هر API سازگار با OpenAI وصل میشود؛ با گفت‌وگو با اسناد، مدیریت کاربران، LDAP و ورود یکپارچه (SSO).
کوئن ۳.۸ 27B (آفلاین)
Qwen3.8-27B (offline)
قوی‌ترین مدل ۲۷ میلیاردی Qwen (اوت ۲۰۲۶) برای کارت گرافیک ۲۴ گیگابایتی: کدنویسی ایجنتی، کار با سند و تصویر و استدلال، طبق جدول Qwen نزدیک به Qwen3.7-Plus آنلاین، با مجوز Apache 2.0.