Nemotron 3.5 Lightning

این مدل چیست؟

مدل وزن‌باز و سبک NVIDIA که ۱۱ اوت ۲۰۲۶ منتشر شد: ترکیب متخصصان با ۳۰ میلیارد پارامتر که فقط ۳ میلیارد آن برای هر توکن فعال است. برای کارهای ایجنتی پرحجم و کارهای تخصصی ساخته شده که سرعت و هزینهٔ کم در آن‌ها مهم است. با نسخه‌های کم‌حجم‌شده روی کامپیوتر شخصی قوی هم اجرا می‌شود.

کجا می‌شود از آن استفاده کرد؟

• نموترون ۳.۵ لایتنینگ (آفلاین)30B-A3B؛ ۴ بیتی ۲۵ گیگابایت در Ollama
• اولاماnemotron-3.5-lightning (۲۵ گیگابایت) و برچسب‌های q8_0، mlx و nvfp4
• ال‌ام استودیوGGUF از lmstudio-community
• لاما سی‌پی‌پیGGUF از ggml-org و Unsloth، با پشتیبانی MTP
• وی‌ال‌ال‌امنسخهٔ NVFP4 برای کارت‌های Blackwell؛ کارت مدل vLLM 0.27.1

جایگاه در جدول‌های مقایسه

• رتبه‌بندی متنی Arena (ترجیح انسانی)NVIDIA: Nemotron 3.5 Lightning (0807)
  شاخص هوش ۱۳رتبهٔ ۲۱۵Elo ۱٬۳۴۹رتبهٔ ۳۳ در مصرف هفتگی$۰٫۰۴۷ ورودی، برای ۱ میلیون توکنپنجرهٔ ۱M
• شاخص هوش Artificial AnalysisNemotron 3.5 Lightning
  شاخص هوش ۱۳رتبهٔ ۳۳ در مصرف هفتگی$۰٫۰۴۷ ورودی، برای ۱ میلیون توکنپنجرهٔ ۱M

مدل‌های دیگر انویدیا