Mistral: Mixtral 8x7B Instruct mistralai/mixtral-8x7b-instruct

Модель Mistral: Mixtral 8x7B Instruct от Mistral AI (семейство mixtral-8x7b) доступна через единый OpenAI-совместимый API НейроГейт — без VPN, с оплатой в рублях, единым ключом для всех 353+ моделей платформы.
Европейский AI-чемпион. Эффективные модели + сильная Mixtral-серия.

👁 Зрение 🧠 Рассуждение 🎨 Генерация изображений 🎙 Аудио-вход 🔊 Синтез речи 🆓 Бесплатно

33K

контекст, токенов

54 ₽

за 1 млн входных токенов

54 ₽

за 1 млн выходных токенов

возможностей

2023-12

база знаний до

Что такое Mistral: Mixtral 8x7B Instruct

Оптимальна для продакшн-задач, где нужен баланс между качеством ответов и стоимостью инференса, особенно в сценариях с кодом и длинным контекстом.

Mixtral 8x7B Instruct — инструктивная версия флагманской модели Mistral AI, построенная на архитектуре Sparse Mixture of Experts (SMoE). Модель объединяет 8 экспертных подсетей с суммарным числом параметров около 47 миллиардов, однако при обработке каждого токена активируется лишь часть из них — это позволяет сохранять высокое качество генерации при относительно низких вычислительных затратах по сравнению с плотными моделями сопоставимого размера.

Модель обучена следовать инструкциям и хорошо справляется с задачами в формате чата, генерации кода, анализа текста и структурированных ответов. Контекстное окно в 32 768 токенов позволяет работать с объёмными документами и многоходовыми диалогами. Mixtral 8x7B Instruct распространяется как open-source под лицензией Apache 2.0, что делает её привлекательной для команд, которым важна возможность самостоятельного развёртывания и аудита весов.

По соотношению производительности и стоимости инференса модели семейства Mixtral 8x7B традиционно конкурируют с решениями значительно большего размера, что делает их популярным выбором для продакшн-сценариев с умеренным бюджетом на API-запросы.

Когда брать эту модель

✓ Чат-боты и диалоговые ассистенты с многоходовым контекстом
✓ Генерация и ревью кода на популярных языках программирования
✓ Суммаризация и анализ объёмных документов
✓ RAG-пайплайны, где важна скорость и предсказуемость стоимости
✓ Прототипирование и эксперименты благодаря open-source доступности весов

Пример работы

Реальный сценарий, на котором модель проявляет себя:

Проанализируй следующий фрагмент Python-кода, найди потенциальные ошибки и предложи рефакторинг с объяснением каждого изменения.

Использование Mistral: Mixtral 8x7B Instruct через НейроГейт

OpenAI-совместимый эндпоинт https://api.neuralgate.ru/v1 — замени base_url в любом SDK и используй модель по её id.

# Chat completion
curl https://api.neuralgate.ru/v1/chat/completions \
  -H "Authorization: Bearer $NEURALGATE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistralai/mixtral-8x7b-instruct",
    "messages": [{"role":"user","content":"Привет!"}]
  }'

from openai import OpenAI

client = OpenAI(
    api_key="sk-...your-neuralgate-key...",
    base_url="https://api.neuralgate.ru/v1",
)
response = client.chat.completions.create(
    model="mistralai/mixtral-8x7b-instruct",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.NEURALGATE_API_KEY,
  baseURL: "https://api.neuralgate.ru/v1",
});
const resp = await client.chat.completions.create({
  model: "mistralai/mixtral-8x7b-instruct",
  messages: [{ role: "user", content: "Привет!" }],
});
console.log(resp.choices[0].message.content);