Qwen: Qwen2.5 7B Instruct qwen/qwen-2.5-7b-instruct

Модель Qwen: Qwen2.5 7B Instruct от Qwen (Alibaba) (семейство qwen) доступна через единый OpenAI-совместимый API НейроГейт — без VPN, с оплатой в рублях, единым ключом для всех 353+ моделей платформы.
Открытые модели Alibaba. Лучшие в open-source для китайского и кода.

👁 Зрение 🧠 Рассуждение 🎨 Генерация изображений 🎙 Аудио-вход 🔊 Синтез речи 🆓 Бесплатно

33K

контекст, токенов

4 ₽

за 1 млн входных токенов

10 ₽

за 1 млн выходных токенов

возможностей

2024-06

база знаний до

Что такое Qwen: Qwen2.5 7B Instruct

Эффективная open-source модель для задач программирования и работы с текстом там, где важны скорость, стоимость и возможность локального развёртывания.

Qwen2.5 7B Instruct — компактная языковая модель от Alibaba (команда Qwen), входящая в серию Qwen2.5. По сравнению с предыдущим поколением Qwen2, модели серии 2.5 получили расширенную базу знаний, улучшенные возможности в области программирования и более качественную работу с инструкциями. Модель распространяется как open-source, что позволяет разворачивать её на собственной инфраструктуре.

При размере в 7 миллиардов параметров модель демонстрирует хорошее соотношение качества и вычислительных затрат: она заметно быстрее и дешевле крупных флагманских моделей, при этом справляется с широким кругом задач — от написания и анализа кода до обработки текстов и ответов на вопросы. Контекстное окно в 32 768 токенов достаточно для работы с документами среднего объёма и многоходовых диалогов.

Модель ориентирована на следование инструкциям, что делает её удобной для интеграции в продуктовые пайплайны, чат-боты и автоматизированные рабочие процессы, где важна предсказуемость поведения при ограниченном бюджете на инференс.

Когда брать эту модель

✓ Генерация и ревью кода на популярных языках программирования
✓ Чат-боты и диалоговые ассистенты с ограниченным бюджетом на инференс
✓ Обработка и суммаризация текстовых документов
✓ Прототипирование AI-фич перед переходом на более крупную модель
✓ Self-hosted развёртывание в закрытом контуре благодаря open-source лицензии

Пример работы

Реальный сценарий, на котором модель проявляет себя:

Напиши функцию на Python, которая принимает список словарей с полями name и score, фильтрует записи с score выше 80 и возвращает отсортированный по убыванию результат. Добавь docstring и примеры использования.

Использование Qwen: Qwen2.5 7B Instruct через НейроГейт

OpenAI-совместимый эндпоинт https://api.neuralgate.ru/v1 — замени base_url в любом SDK и используй модель по её id.

# Chat completion
curl https://api.neuralgate.ru/v1/chat/completions \
  -H "Authorization: Bearer $NEURALGATE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen/qwen-2.5-7b-instruct",
    "messages": [{"role":"user","content":"Привет!"}]
  }'

from openai import OpenAI

client = OpenAI(
    api_key="sk-...your-neuralgate-key...",
    base_url="https://api.neuralgate.ru/v1",
)
response = client.chat.completions.create(
    model="qwen/qwen-2.5-7b-instruct",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.NEURALGATE_API_KEY,
  baseURL: "https://api.neuralgate.ru/v1",
});
const resp = await client.chat.completions.create({
  model: "qwen/qwen-2.5-7b-instruct",
  messages: [{ role: "user", content: "Привет!" }],
});
console.log(resp.choices[0].message.content);