Meta: Llama 3.2 3B Instruct (free) meta-llama/llama-3.2-3b-instruct:free

Модель Meta: Llama 3.2 3B Instruct (free) от Meta Llama (семейство llama-3) доступна через единый OpenAI-совместимый API НейроГейт — без VPN, с оплатой в рублях, единым ключом для всех 353+ моделей платформы.
Открытые модели Meta — основа большинства open-source проектов.

👁 Зрение 🧠 Рассуждение 🎨 Генерация изображений 🎙 Аудио-вход 🔊 Синтез речи 🆓 Бесплатно

131K

контекст, токенов

0 ₽

бесплатный тариф

возможностей

2023-12

база знаний до

Что такое Meta: Llama 3.2 3B Instruct (free)

Быстрые и бюджетные NLP-задачи — суммаризация, диалоги, классификация — особенно когда важны низкая латентность и большой контекст.

Llama 3.2 3B Instruct — компактная мультиязычная языковая модель от Meta с 3 миллиардами параметров, построенная на архитектуре семейства Llama 3. Несмотря на небольшой размер, модель ориентирована на широкий спектр задач: диалоговые системы, суммаризацию текстов, базовые рассуждения и обработку естественного языка. Контекстное окно в 131 072 токена позволяет работать с объёмными документами — это нетипично большой показатель для модели такого класса.

Модель распространяется как open-source и доступна бесплатно, что делает её привлекательной отправной точкой для прототипирования и экспериментов. Компактный размер обеспечивает низкую латентность и минимальные требования к ресурсам, однако по глубине рассуждений и точности на сложных задачах она уступает более крупным моделям семейства Llama 3. Оптимальна там, где важна скорость отклика и стоимость инференса, а не максимальное качество ответа.

Когда брать эту модель

✓ Прототипирование чат-ботов и диалоговых интерфейсов с минимальными затратами
✓ Суммаризация и извлечение ключевой информации из длинных документов
✓ Классификация текстов и базовая обработка NLP-задач в продакшне с ограниченным бюджетом
✓ Обучение и fine-tuning на собственных данных благодаря открытым весам
✓ Быстрые эксперименты и A/B-тесты, где критична скорость итерации

Пример работы

Реальный сценарий, на котором модель проявляет себя:

Прочитай следующий договор на 50 страниц и выдели ключевые обязательства сторон, сроки и штрафные санкции в виде структурированного списка.

Использование Meta: Llama 3.2 3B Instruct (free) через НейроГейт

OpenAI-совместимый эндпоинт https://api.neuralgate.ru/v1 — замени base_url в любом SDK и используй модель по её id.

# Chat completion
curl https://api.neuralgate.ru/v1/chat/completions \
  -H "Authorization: Bearer $NEURALGATE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.2-3b-instruct:free",
    "messages": [{"role":"user","content":"Привет!"}]
  }'

from openai import OpenAI

client = OpenAI(
    api_key="sk-...your-neuralgate-key...",
    base_url="https://api.neuralgate.ru/v1",
)
response = client.chat.completions.create(
    model="meta-llama/llama-3.2-3b-instruct:free",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.NEURALGATE_API_KEY,
  baseURL: "https://api.neuralgate.ru/v1",
});
const resp = await client.chat.completions.create({
  model: "meta-llama/llama-3.2-3b-instruct:free",
  messages: [{ role: "user", content: "Привет!" }],
});
console.log(resp.choices[0].message.content);