زیرساخت استنتاج سرورلس برای مدل‌های AI با cold start بسیار سریع، API سازگار با OpenAI و پرداخت فقط برای زمان فعال GPU.
معرفی: اینفرکس
اینفرکس (inferx.net) پلتفرم Inference زیرساختی است: به‌جای نگه‌داشتن دائم GPU گرم، وضعیت اجراشدهٔ مدل (snapshot) را بازیابی می‌کند تا cold start در حد زیرثانیه تا چند ثانیه برای مدل‌های بزرگ ممکن شود و بین درخواست‌ها scale-to-zero شود. کلاینت OpenAI موجود را با عوض کردن base_url به endpoint اینفرکس وصل می‌کنید.
مسیرها: API میزبانی‌شدهٔ مدل‌های آماده، دیپلوی سرورلس مدل خودتان، و لایسنس پلتفرم روی Kubernetes/ابر خصوصی. قیمت‌گذاری ترکیبی از پلن Developer (ارزان + اعتبار ماهانه)، Pay-as-you-go با اعتبار پیش‌پرداخت، تعرفه‌های توکنی مدل‌های میزبانی‌شده، و GPU-hour برای endpoint اختصاصی. مخاطب اصلی تیم محصول/ML است نه کاربر نهایی چت.
وضعیت فعلی: مخزن عمومی گیت‌هاب inferx-net/inferx که سایت رسمی برای کد و نسخهٔ خودمیزبان به آن لینک می‌دهد، در ۴ اکتبر ۲۰۲۶ خطای 404 می‌داد و حساب inferx-net فقط چند فورک و مخزن کمکی خالی دارد. سایت و مستندات هم نسخه، فهرست تغییرات یا مجوزی منتشر نمی‌کنند. پس فعلاً نمی‌شود تأیید کرد که کد متن‌باز است یا نسخهٔ خودمیزبان هنوز در دسترس است؛ پیش از برنامه‌ریزی برای نصب روی سرور خودتان، از سازنده بپرسید.
بهترین کاربردها
- •API مدل هوش مصنوعی راه‌اندازی کن
- •مدل هوش مصنوعی را به‌صورت سرورلس میزبانی کن
- •مدل خودم را روی GPU ابری دیپلوی کن
- •مدل هوش مصنوعی را با API سازگار با OpenAI اجرا کن
- •استنتاج مدل هوش مصنوعی را روی GPU ابری اجرا کن
- •مدل هوش مصنوعی را روی Kubernetes میزبانی کن
- •چند API هوش مصنوعی را از یک درگاه استفاده کن
- •هزینه اجرای مدل هوش مصنوعی را با scale-to-zero کم کن
برای این کارها سراغش نروید
- –از یک چت‌بات آماده استفاده کن
- –برای یادگیری برنامه‌نویسی راهنمایی بگیر
اجرا روی سیستم خودتان
این برنامه را روی سیستم خودتان نصب می‌کنید و هوش مصنوعی روی همان دستگاه اجرا می‌شود؛ متن و فایل‌هایتان از آن بیرون نمی‌رود.
- بعد از نصب، بدون اینترنت
- متن‌باز
- Apache-2.0 (تأیید نشده) — استفادهٔ تجاری با شرط
- رابط وب
- API
بعد از نصب، پلتفرم روی سرور خودتان اجرا می‌شود؛ اما نصب به دانلود بستهٔ runtime از گیت‌هاب و ایمیج‌ها از Docker Hub و quay.io نیاز دارد و مدل‌ها را هم خودتان به‌صورت ایمیج داکر بارگذاری می‌کنید. InferX Endpoints (API آماده) سرویس ابری است.
مخزن گیت‌هاب inferx-net/inferx که سایت رسمی به آن لینک می‌دهد، در ۴ اکتبر ۲۰۲۶ در دسترس نبود (خطای 404) و سایت و مستندات هم نسخه، فهرست تغییرات یا مجوزی منتشر نمی‌کنند؛ پس متن‌باز بودن کد و مجوز Apache-2.0 که پیش‌تر اعلام شده بود فعلاً تأیید نمی‌شود. پیش از استفادهٔ تجاری شرایط را از خود سازنده بپرسید. نسخهٔ تجاری InferX Platform برای استقرار سازمانی جداگانه عرضه می‌شود و مجوز هر مدلی که سرو می‌کنید جداست.
سخت‌افزار لازم
- حداقل رم: ۶۴ گیگابایت
- کارت گرافیک لازم است
- طبق راهنمای استقرار (نسخهٔ ۰٫۱٫۰): لینوکس با کرنل بالاتر از 5.8 (آزموده روی اوبونتو ۲۰٫۰۴ و ۲۲٫۰۴)، پردازندهٔ x86-64، فعال بودن مجازی‌سازی در BIOS، دست‌کم ۶۴ گیگابایت رم، کارت انویدیا با CUDA 12.5 به بالا و Docker. حافظهٔ گرافیک لازم به مدلی بستگی دارد که سرو می‌کنید.
نصب و اجرا
- ۱
بستهٔ runtime را نصب کنیدلینوکس
cd /opt && sudo tar zxvf inferx.tar.gzفایل inferx.tar.gz از Releases گیت‌هاب گرفته می‌شد، ولی آن مخزن در ۴ اکتبر ۲۰۲۶ در دسترس نبود (خطای 404)؛ این مراحل فقط وقتی کاربرد دارد که بسته و کد را از قبل داشته باشید. بعد در /etc/docker/daemon.json یک runtime به نام inferx با مسیر /opt/inferx/bin/inferx اضافه کنید.
- ۲
داکر را دوباره راه‌اندازی کنیدلینوکس
sudo systemctl restart docker - ۳
سرویس‌ها را بالا بیاوریدلینوکس
git clone https://github.com/inferx-net/inferx.git && cd inferx && make runایمیج‌ها (inferx/*، postgres، keycloak و etcd) از Docker Hub و quay.io دانلود می‌شوند.
- ۴
Keycloak را تنظیم و داشبورد را باز کنیدلینوکس
طبق راهنما پایگاه‌دادهٔ آمادهٔ Keycloak را در /opt/inferx/data باز کنید یا آن را دستی تنظیم کنید، سرویس را با make stop و make run دوباره اجرا کنید و http://localhost:81 را باز کنید.
دانلود
- سایت رسمی InferX ↗رسمی
مخزن گیت‌هاب inferx-net/inferx که سایت برای کد و نسخه‌ها به آن لینک می‌دهد، در ۴ اکتبر ۲۰۲۶ خطای 404 می‌داد.
- مستندات InferX ↗رسمی
نسخه، فهرست تغییرات یا متن مجوز در آن منتشر نشده است.
نکات امنیتی
- اگر پایگاه‌دادهٔ آمادهٔ Keycloak را از Releases برداشتید، کاربرها و رمزهای پیش‌فرضش را عوض کنید و برای سرور واقعی برچسب نسخهٔ Keycloak را ثابت کنید (در compose با latest بارگذاری می‌شود).
- داشبورد (پورت ۸۱) و API را فقط در شبکهٔ داخلی یا پشت پراکسی با TLS باز کنید.
- راهنمای استقرار برای نسخهٔ 0.1.0 نوشته شده بود و نسخهٔ 0.4.0 که پیش‌تر ثبت شده بود دیگر تأییدپذیر نیست؛ پیش از نصب روی سرور اصلی، روی یک سرور آزمایشی امتحان کنید.
برای شرکت‌ها و سازمان‌ها
برای شرکت‌هایی ساخته شده که چند مدل را روی کارت‌های گرافیک مشترک سرو می‌کنند: چندمستأجری، برش GPU و راه‌اندازی سرد در چند ثانیه. برای یک کاربر تنها بیش از حد سنگین است.
مدل‌هایی که با این برنامه اجرا می‌شوند
کوئن ۳.۸ 27B (آفلاین)
جی‌ال‌ام ۵.۳ فلش (آفلاین)آخرین بررسی: ۱۲ مهر ۱۴۰۵
تصاویر محیط ابزار
نقاط قوت
- ✓cold start سریع با GPU snapshot restore
- ✓سازگاری OpenAI SDK — تغییر یک خط base_url
- ✓اقتصاد scale-to-zero در برابر GPU همیشه روشن
- ✓مسیر hosted + custom + on-prem/platform
نقاط ضعف
- ✗برای کاربر غیرفنی سنگین است — پنل چت ساده نیست
- ✗قیمت دقیق توکن/GPU بسته به مدل و منطقه فرق می‌کند
قیمت‌گذاری
Free Tier
Freeرایگان
- • مدل‌های رایگان تست
- • API سازگار OpenAI
- • بدون کارت برای شروع
Developer
Developer$1 در ماه
- • حدود ۱ دلار/ماه + اعتبار استفاده (مثلاً ۵ دلار طبق پیشنهاد روز سایت)
- • قیمت تخفیف‌خوردهٔ مدل‌ها
- • Zero data retention اعلام‌شده
Pay as you go
Pay as you goتماس / سفارشی
- • اعتبار پیش‌پرداخت
- • بدون تعهد ماهانه
- • مناسب دمو و بار گاه‌به‌گاه
Serverless GPU / Enterprise
Serverless / Enterpriseتماس / سفارشی
- • H100/H200 حدود ۳٫۹۵ دلار/ساعت GPU فعال
- • دیپلوی مدل سفارشی و ظرفیت اختصاصی
- • پلتفرم on-prem / sovereign
قیمت‌ها تقریبی و بر اساس آخرین بازبینی است؛ برای قیمت دقیق به سایت رسمی مراجعه کنید.
پرسش‌های پرتکرار
چطور به کد OpenAI وصلش کنم؟
همان SDK؛ فقط base_url را روی endpoint اینفرکس (مثلاً https://model.inferx.net/v1) و api_key خودتان بگذارید.
با OpenRouter چه فرقی دارد؟
OpenRouter بیشتر marketplace مدل است؛ InferX روی runtime سرورلس، snapshot و بهره‌وری GPU تمرکز دارد.
نظرات کاربران
هنوز نظری ثبت نشده — اولین نفر باشید!
ابزارهای مشابه
مشاهده همه
لیارا
Liara
پلتفرم ابری ایرانی (PaaS) برای دیپلوی اپ، دیتابیس و سرویس‌های مرتبط با هوش مصنوعی؛ پرداخت ریالی و مستندات فارسی.
هاگینگ فیس
Hugging Face
گیت‌هابِ دنیای هوش مصنوعی؛ بزرگ‌ترین مرجع مدل‌های متن‌باز، دیتاست‌ها و دموهای آنلاین (Spaces) که هر توسعه‌دهنده هوش مصنوعی دیر یا زود سر و کارش به آن می‌افتد.
اپن‌روتر
OpenRouter
درگاه یکپارچه API به صدها مدل زبانی؛ یک کلید، فرمت سازگار با OpenAI، و امکان شارژ با رمزارز — محبوب توسعه‌دهندگان.