کوئن ۳ امبدینگ (آفلاین)
Qwen3-Embedding (offline)مدل بردارساز متن علی‌بابا در سه اندازه (0.6B، 4B و 8B) برای جست‌وجوی معنایی و ساخت «از اسنادت بپرس» خصوصی؛ در بازیابی متن فارسی نتیجهٔ خوبی دارد و مجوزش Apache 2.0 است.
اجرا روی سیستم خودتان
این مدل را یک بار دانلود میکنید و بعد بدون اینترنت روی لپتاپ، کامپیوتر یا سرور خودتان اجرایش میکنید.
- بعد از نصب، بدون اینترنت
- وزن‌های باز
- Apache-2.0 — استفادهٔ تجاری آزاد
- فارسی: خوب
- API
فقط دانلود اول اینترنت می‌خواهد؛ بردارسازی و جست‌وجو کاملاً روی دستگاه خودتان انجام می‌شود.
استفادهٔ تجاری، تغییر و بازتوزیع آزاد است؛ فقط متن مجوز و اعلان‌ها را همراه نسخه‌ای که پخش میکنید نگه دارید.
نسخه‌ها و سخت‌افزار لازم
- 0.6B۶۰۰Mطول متن ۳۲ هزار توکن
- حافظهٔ لازم:
- کارت گرافیک ۱ گیگ یا رم ۳ گیگ
ollama run qwen3-embedding:0.6bبردار ۱۰۲۴ بعدی؛ روی هر لپ‌تاپی، حتی بدون کارت گرافیک. در آزمون فارسی MIRACL از BGE-M3 ضعیف‌تر است (۵۴٫۳ در برابر ۶۱٫۴). حداقل حافظه برآوردی است.
- 4B۴Bطول متن ۳۲ هزار توکن
- حجم دانلود:
- ۲٫۵ گیگ
- حافظهٔ لازم:
- کارت گرافیک ۳ گیگ یا رم ۵ گیگ
ollama run qwen3-embedding:4bبردار تا ۲۵۶۰ بعدی؛ امتیاز ۶۲٫۲ در آزمون فارسی MIRACL. حداقل حافظه برآوردی است.
- 8B۸Bطول متن ۳۲ هزار توکن
- حجم دانلود:
- ۴٫۷ گیگ
- حافظهٔ لازم:
- کارت گرافیک ۶ گیگ یا رم ۸ گیگ
ollama run qwen3-embedding:8bبردار تا ۴۰۹۶ بعدی؛ بهترین نتیجهٔ فارسی این خانواده (۶۲٫۶ در MIRACL). برچسب latest در Ollama همین نسخه است. حداقل حافظه برآوردی است.
نصب و اجرا
- ۱
Ollama را نصب کنیدلینوکس
curl -fsSL https://ollama.com/install.sh | shدر ویندوز و مک، برنامهٔ نصب را از ollama.com/download بگیرید.
- ۲
مدل را بگیرید
ollama pull qwen3-embedding:0.6bحدود ۶۴۰ مگابایت. برای دقت بیشتر در فارسی qwen3-embedding:4b یا :8b را بگیرید.
- ۳
آزمایش کنید که بردار برمی‌گرداند
curl http://localhost:11434/api/embed -d '{"model": "qwen3-embedding:0.6b", "input": "What is the capital of Iran?"}'خروجی یک فهرست عدد است. با پارامتر dimensions می‌توانید طول بردار را کوتاه کنید.
- ۴
روی سرور، سرویس TEI هاگینگ‌فیسلینوکس
docker run --gpus all -p 127.0.0.1:8080:80 -v hf_cache:/data --pull always ghcr.io/huggingface/text-embeddings-inference:1.7.2 --model-id Qwen/Qwen3-Embedding-8B --dtype float16دستور کارت رسمی مدل (پورت فقط روی همین سرور باز شده). ایمیج روی ghcr.io گیت‌هاب است، نه داکرهاب؛ برای سرور بدون کارت گرافیک، ایمیج cpu-1.7.2 را بدون --gpus all به کار ببرید.
دانلود
- Ollama ↗رسمی
هر سه اندازه، از ۶۴۰ مگابایت تا ۱۵ گیگابایت.
- Hugging Face (مخزن رسمی Qwen) ↗رسمی
نسخهٔ 8B؛ 0.6B و 4B و مدل‌های Reranker هم در همین حساب هستند.
- Hugging Face — GGUF رسمی ↗رسمی
برای llama.cpp یا وارد کردن دستی در Ollama.
- ModelScope (حساب رسمی Qwen) ↗رسمی
همان وزن‌ها روی ModelScope.
- GitHub (کد و راهنما) ↗رسمی
نمونه‌کد و نتایج ارزیابی.
نکات امنیتی
- پایگاه برداری را مثل خود اسناد محافظت کنید؛ از روی بردارها می‌شود بخشی از متن اصلی را بازسازی کرد.
- در سیستم RAG سطح دسترسی را رعایت کنید: کسی که به سندی دسترسی ندارد، نباید از راه جست‌وجو به محتوای آن برسد.
- پورت ۱۱۴۳۴ Ollama را به اینترنت باز نکنید؛ Ollama به‌طور پیش‌فرض فقط روی 127.0.0.1 گوش می‌دهد و بهتر است همین‌طور بماند.
- اگر مدل بردارساز را عوض کنید، همهٔ اسناد را دوباره بردارسازی کنید؛ بردارهای دو مدل با هم قابل مقایسه نیستند.
برای شرکت‌ها و سازمان‌ها
برای جست‌وجوی اسناد شرکت: نسخهٔ 0.6B روی سرور بدون کارت گرافیک هم کار میکند و 8B روی یک کارت معمولی. بردارسازی اولیهٔ اسناد زمان می‌برد ولی یک بار انجام می‌شود؛ بعد از آن هر جست‌وجو فقط یک پرسش کوتاه را بردار میکند. برای دقت بیشتر، Qwen3-Reranker را کنارش بگذارید تا نتایج را دوباره مرتب کند.
برنامه‌هایی که این مدل را اجرا می‌کنند
ال‌ام استودیو
اوپن وب‌یوآی
دیفای
انیتینگ‌ال‌ال‌ام
لاما سی‌پی‌پی
وی‌ال‌ال‌ام
رگ‌فلو (پرسش و پاسخ از اسناد)
لوکالایآیآخرین بررسی: ۱۲ مهر ۱۴۰۵ · انتشار: ۲۵ خرداد ۱۴۰۴
معرفی: کوئن ۳ امبدینگ (آفلاین)
Qwen3-Embedding مدل بردارساز (embedding) تیم Qwen در علی‌بابا است که ۵ ژوئن ۲۰۲۵ منتشر شد. این مدل متن نمینویسد؛ هر جمله یا پاراگراف را به یک فهرست عدد (بردار) تبدیل میکند، طوری که متنهای هممعنی بردارهای نزدیک به هم داشته باشند. بیش از ۱۰۰ زبان را پشتیبانی میکند و متن تا ۳۲ هزار توکن را می‌گیرد.
کاربرد اصلی‌اش ساختن یک «از اسنادت بپرس» خصوصی است: اسناد را تکهتکه و بردارسازی میکنید و در یک پایگاه برداری نگه میدارید؛ وقتی کسی سؤال میپرسد، مرتبطترین تکهها پیدا و به یک مدل چت آفلاین داده میشوند تا جواب بنویسد. به این روش RAG میگویند. برای جست‌وجوی معنایی، دسته‌بندی متن و پیدا کردن متنهای مشابه هم به کار می‌رود.
سه اندازه دارد. 0.6B حدود ۶۴۰ مگابایت است و روی هر لپ‌تاپی، حتی بدون کارت گرافیک، اجرا می‌شود. 4B و 8B (۲٫۵ و ۴٫۷ گیگابایت در Ollama) دقیق‌ترند و با کارت گرافیک سریع‌تر کار می‌کنند. در آزمون فارسی MIRACL، نسخه‌های 4B و 8B کمی از BGE-M3 بهتر بوده‌اند و 0.6B ضعیف‌تر.
برای شروع، ollama pull qwen3-embedding:0.6b را بزنید و در Open WebUI موتور بردارسازی را روی Ollama بگذارید، یا از مسیر /api/embed در API خود Ollama استفاده کنید. برای سرور، ایمیج TEI هاگینگ‌فیس هم آماده است.
نکته: این مدل به‌تنهایی جواب نمی‌دهد و باید کنار یک مدل چت و پایگاه برداری به کار برود. اگر بعداً مدل بردارساز را عوض کنید، همهٔ اسناد را باید دوباره بردارسازی کنید.
بهترین کاربردها
- •یک سیستم «از اسنادت بپرس» خصوصی برای اسناد فارسی شرکت بسازم
- •بدون اینترنت بین هزاران فایل فارسی بر اساس معنی جست‌وجو کنم
- •برای چت‌بات پشتیبانی، سؤال مشتری را به پاسخ‌های آمادهٔ مرتبط وصل کنم
- •در Open WebUI یک مدل بردارساز محلی به‌جای مدل پیش‌فرض بگذارم
- •متنهای تکراری یا خیلی شبیه به هم را در یک مجموعهٔ بزرگ پیدا کنم
- •کد و مستندات فنی را آفلاین بر اساس معنی جست‌وجو کنم
- •مقاله‌ها و یادداشت‌های پژوهشی را روی لپتاپ بر اساس موضوع دسته‌بندی کنم
برای این کارها سراغش نروید
- –نوشتن جواب یا چت (فقط بردار می‌سازد؛ برای جواب یک مدل چت لازم است)
- –خلاصه‌نویسی یا ترجمه
- –خواندن عکس و اسکن (اول با OCR متن را دربیاورید)
تصاویر محیط ابزار
نقاط قوت
- ✓مجوز Apache 2.0
- ✓نسخهٔ 8B در زمان انتشار (ژوئن ۲۰۲۵) رتبهٔ اول MTEB چندزبانه را داشت
- ✓در بازیابی فارسی (MIRACL) نسخه‌های 4B و 8B کمی از BGE-M3 بهترند
- ✓سه اندازه؛ 0.6B حتی روی لپتاپ بدون کارت گرافیک
- ✓طول بردار قابل تنظیم (از ۳۲ تا ۴۰۹۶) و متن تا ۳۲ هزار توکن
- ✓مدل‌های Reranker هم‌خانواده برای مرتب‌سازی دقیق‌تر نتایج
نقاط ضعف
- ✗نسخهٔ 8B حدود ۴٫۷ گیگابایت است و دست‌کم حدود ۶ گیگابایت حافظهٔ کارت گرافیک یا ۸ گیگابایت رم (برآورد) می‌خواهد؛ بردارسازی هزاران سند با آن روی پردازنده کند است
- ✗نسخهٔ 0.6B در فارسی از BGE-M3 ضعیف‌تر است
- ✗به‌تنهایی جواب نمی‌دهد؛ باید با پایگاه برداری و مدل چت ترکیب شود
- ✗برای بهترین نتیجه، هر پرسش باید با یک دستور کوتاه انگلیسی همراه باشد
- ✗بردار بزرگ (۴۰۹۶ بعدی در 8B) فضای بیشتری می‌گیرد، مگر آن را کوتاه کنید
پرسش‌های پرتکرار
مدل بردارساز (embedding) به چه دردی میخورد؟
مدل بردارساز (embedding) متن نمینویسد؛ هر جمله یا پاراگراف را به یک فهرست عدد (بردار) تبدیل میکند، طوری که متنهای هممعنی بردارهای نزدیک به هم داشته باشند. با آن یک «از اسنادت بپرس» خصوصی میسازید: اسناد را تکهتکه و بردارسازی میکنید و در یک پایگاه برداری نگه میدارید؛ وقتی کسی سؤال میپرسد، مرتبطترین تکهها پیدا و به یک مدل چت آفلاین داده میشوند تا جواب بنویسد. به این روش RAG میگویند.
کدام اندازه را انتخاب کنم؟
برای لپتاپ یا سرور بدون کارت گرافیک، 0.6B یا BGE-M3. برای بهترین دقت در فارسی، 4B یا 8B؛ در آزمون فارسی MIRACL این دو ۶۲٫۲ و ۶۲٫۶ گرفتهاند، در برابر ۶۱٫۴ برای BGE-M3 و ۵۴٫۳ برای 0.6B.
فارسی را خوب می‌فهمد؟
بله. در نتایج رسمی سنجهٔ MTEB برای بخش فارسی MIRACL (بازیابی متن فارسی) نسخه‌های 4B و 8B جزو بهترین‌ها هستند. Qwen توصیه میکند دستور همراه پرسش را انگلیسی بنویسید، حتی وقتی متن اسناد فارسی است.
با چه برنامه‌ای استفاده کنم؟
در Open WebUI، در تنظیمات مدیر بخش Documents، موتور بردارسازی را Ollama بگذارید و qwen3-embedding را انتخاب کنید. برنامه‌نویس‌ها از مسیر /api/embed در Ollama یا کتابخانهٔ sentence-transformers استفاده می‌کنند.
اگر بعداً مدل را عوض کنم چه می‌شود؟
بردارهای دو مدل با هم قابل مقایسه نیستند؛ باید همهٔ اسناد را با مدل جدید دوباره بردارسازی کنید.
استفادهٔ تجاری آزاد است؟
بله؛ مجوز Apache 2.0 است و فقط باید متن مجوز را همراه نسخه نگه دارید.
نظرات کاربران
هنوز نظری ثبت نشده — اولین نفر باشید!
ابزارهای مشابه
مشاهده همه
بی‌جی‌ای ام۳ (آفلاین)
BGE-M3 (offline)
مدل بردارساز سبک و پرکاربرد BAAI با ۵۶۸ میلیون پارامتر برای جست‌وجوی معنایی و «از اسنادت بپرس» خصوصی؛ در سنجه‌های فارسی نتیجهٔ خوبی دارد، بدون کارت گرافیک اجرا می‌شود و مجوز MIT دارد.
امبدینگ جما ۲ (آفلاین)
EmbeddingGemma 2 (offline)
مدل بردارساز (embedding) باز و چندرسانه‌ای گوگل دیپ‌مایند (۶ اکتبر ۲۰۲۶): متن، کد، تصویر، صدا و ویدئو را در یک فضای برداری مشترک می‌گذارد تا روی گوشی یا لپتاپ و بدون اینترنت، در اسناد، عکس‌ها و یادداشت‌های صوتی بر اساس معنی جست‌وجو کنید؛ از ۳۷۸ مگابایت، با مجوز Apache 2.0.
اولاما
Ollama
ابزار متن‌باز و رایگان برای اجرای مدل‌های باز مثل Qwen3.5 و Gemma 4 روی ویندوز، مک و لینوکس: با یک دستور مدل را می‌گیرد و اجرا میکند، برنامهٔ چت دارد و API محلی روی پورت ۱۱۴۳۴ می‌دهد.