K2 Horizon MoVA 36B A4B
مدل زبانی متنی از مؤسسهٔ مدل‌های پایهٔ MBZUAI
به فارسی:کی ۲ هورایزن موا ۳۶ بی
این مدل چیست؟
K2 Horizon MoVA 36B A4B عضو کم‌مصرف خانوادهٔ K2 Horizon از IFM دانشگاه MBZUAI است؛ مدلی Mixture-of-Experts با ۳۶ میلیارد پارامتر که در هر توکن فقط ۴ میلیارد پارامتر فعال دارد و از روش توجه تازه‌ای به نام MoVA استفاده می‌کند. برای اجرای محلی یا روی سرور شرکت مناسب است، پنجرهٔ زمینه‌اش ۵۱۲ هزار توکن است و وزن‌ها، داده و کد آموزش آن با مجوز Apache 2.0 روی Hugging Face منتشر شده است.
سازنده: مؤسسهٔ مدل‌های پایهٔ MBZUAI (Institute of Foundation Models (MBZUAI))
مؤسسهٔ مدل‌های پایه (IFM) بخش پژوهشی دانشگاه هوش مصنوعی محمد بن زاید (MBZUAI) در ابوظبی است که مدل‌های «کاملاً باز» K2 را همراه با داده و کد آموزش منتشر می‌کند.
کجا می‌شود از آن استفاده کرد؟
جایگاه در جدول‌های مقایسه
- شاخص هوش Artificial AnalysisK2 Horizon MoVA 36B A4Bشاخص هوش ۲۵پنجرهٔ ۵۲۴K