WizardLM-2 8x22B microsoft/wizardlm-2-8x22b

Модель WizardLM-2 8x22B от Microsoft (семейство wizardlm-2) доступна через единый OpenAI-совместимый API НейроГейт — без VPN, с оплатой в рублях, единым ключом для всех 353+ моделей платформы.
Phi — открытые компактные модели, эффективные на инференсе.

👁 Зрение 🧠 Рассуждение 🎨 Генерация изображений 🎙 Аудио-вход 🔊 Синтез речи 🆓 Бесплатно

66K

контекст, токенов

62 ₽

за 1 млн входных токенов

62 ₽

за 1 млн выходных токенов

возможностей

2024-04

база знаний до

Что такое WizardLM-2 8x22B

Мощная open-source MoE-модель для сложных инструкционных задач и работы с большими объёмами текста при необходимости самостоятельного развёртывания.

WizardLM-2 8x22B — флагманская модель серии WizardLM от Microsoft AI, построенная на архитектуре Mixture of Experts (MoE) с 8 экспертами по 22 миллиарда параметров каждый. Модель позиционируется как наиболее продвинутая в линейке WizardLM и демонстрирует конкурентоспособные результаты относительно ведущих проприетарных решений, при этом оставаясь open-source.

Контекстное окно в 65 535 токенов позволяет работать с объёмными документами, длинными диалогами и сложными многошаговыми задачами. Модель особенно хорошо справляется с задачами, требующими развёрнутых рассуждений, следования сложным инструкциям и генерации структурированного контента. Архитектура MoE обеспечивает высокую эффективность: при инференсе активируется только часть параметров, что даёт хороший баланс между качеством ответов и вычислительными затратами.

Модель принимает текстовый ввод и возвращает текстовый вывод — без встроенной поддержки изображений или специализированных режимов рассуждения. Это зрелое open-source решение для команд, которым нужна мощная языковая модель с возможностью самостоятельного развёртывания.

Когда брать эту модель

✓ Сложные задачи следования инструкциям и многошаговые агентные сценарии
✓ Генерация и ревью кода на различных языках программирования
✓ Работа с длинными документами: суммаризация, анализ, извлечение информации
✓ Построение чат-ботов и диалоговых систем с развёрнутыми ответами
✓ Self-hosted развёртывание там, где важны контроль над данными и open-source лицензия

Пример работы

Реальный сценарий, на котором модель проявляет себя:

Проанализируй следующий технический документ на 50 страниц и составь структурированный отчёт: выдели ключевые архитектурные решения, потенциальные риски и рекомендации по внедрению.

Использование WizardLM-2 8x22B через НейроГейт

OpenAI-совместимый эндпоинт https://api.neuralgate.ru/v1 — замени base_url в любом SDK и используй модель по её id.

# Chat completion
curl https://api.neuralgate.ru/v1/chat/completions \
  -H "Authorization: Bearer $NEURALGATE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "microsoft/wizardlm-2-8x22b",
    "messages": [{"role":"user","content":"Привет!"}]
  }'

from openai import OpenAI

client = OpenAI(
    api_key="sk-...your-neuralgate-key...",
    base_url="https://api.neuralgate.ru/v1",
)
response = client.chat.completions.create(
    model="microsoft/wizardlm-2-8x22b",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.NEURALGATE_API_KEY,
  baseURL: "https://api.neuralgate.ru/v1",
});
const resp = await client.chat.completions.create({
  model: "microsoft/wizardlm-2-8x22b",
  messages: [{ role: "user", content: "Привет!" }],
});
console.log(resp.choices[0].message.content);

Сравнить WizardLM-2 8x22B с другими

WizardLM-2 8x22B vs Microsoft: Phi 4 WizardLM-2 8x22B vs Microsoft: Phi 4 Mini Instruct Все сравнения →

Кейсы использования

Где WizardLM-2 8x22B часто применяется:

Чат-боты Генерация контента Перевод Поддержка клиентов

Подключить WizardLM-2 8x22B через единый API

Без VPN. Оплата в рублях. 30 минут до первого запроса. Один ключ — 353 модели.

Получить API-ключ →