Goliath 120B alpindale/goliath-120b

Модель Goliath 120B от Alpindale (семейство goliath-120b) доступна через единый OpenAI-совместимый API НейроГейт — без VPN, с оплатой в рублях, единым ключом для всех 353+ моделей платформы.
Доступны через единый API НейроГейт: 1 модель Alpindale.

👁 Зрение 🧠 Рассуждение 🎨 Генерация изображений 🎙 Аудио-вход 🔊 Синтез речи 🆓 Бесплатно

контекст, токенов

375 ₽

за 1 млн входных токенов

750 ₽

за 1 млн выходных токенов

возможностей

2023-12

база знаний до

Что такое Goliath 120B

Творческая генерация текста и ролевые сценарии в open-source окружении без строгих content-ограничений.

Goliath 120B — это экспериментальная open-source модель, полученная путём слияния двух дообученных вариантов Llama 70B: Xwin и Euryale. Техника объединения весов двух крупных моделей в одну позволила получить архитектуру с примерно 120 миллиардами параметров без классического дообучения на новых данных. Фреймворк для слияния разработан участником сообщества @chargoddard, а сама модель опубликована под псевдонимом alpindale на Hugging Face.

Модель ориентирована прежде всего на генерацию текста в свободном формате: художественные нарративы, диалоги, ролевые сценарии — те задачи, где Xwin и Euryale традиционно сильны. Контекстное окно составляет 6144 токена, что достаточно для большинства задач генерации, но может быть ограничением при работе с длинными документами. Поддерживается только текстовый ввод и вывод, мультимодальные возможности отсутствуют.

Важно учитывать, что Goliath 120B — продукт сообщества, а не коммерческой лаборатории. Это означает отсутствие систематического RLHF-выравнивания и формальных safety-ограничений в той мере, в которой они присутствуют у коммерческих моделей. Для продакшн-сервисов с требованиями к безопасности контента это стоит принимать во внимание.

Когда брать эту модель

✓ Генерация художественных текстов, нарративов и диалогов
✓ Ролевые и интерактивные сценарии с персонажами
✓ Исследование техник model merging и экспериментальные проекты
✓ Локальный деплой крупной модели без лицензионных ограничений коммерческих решений
✓ Прототипирование творческих приложений, где важна выразительность языка

Пример работы

Реальный сценарий, на котором модель проявляет себя:

Напиши первую главу тёмного фэнтезийного романа от лица антагониста, который только что захватил власть в королевстве и размышляет о своём пути.

Использование Goliath 120B через НейроГейт

OpenAI-совместимый эндпоинт https://api.neuralgate.ru/v1 — замени base_url в любом SDK и используй модель по её id.

# Chat completion
curl https://api.neuralgate.ru/v1/chat/completions \
  -H "Authorization: Bearer $NEURALGATE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "alpindale/goliath-120b",
    "messages": [{"role":"user","content":"Привет!"}]
  }'

from openai import OpenAI

client = OpenAI(
    api_key="sk-...your-neuralgate-key...",
    base_url="https://api.neuralgate.ru/v1",
)
response = client.chat.completions.create(
    model="alpindale/goliath-120b",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.NEURALGATE_API_KEY,
  baseURL: "https://api.neuralgate.ru/v1",
});
const resp = await client.chat.completions.create({
  model: "alpindale/goliath-120b",
  messages: [{ role: "user", content: "Привет!" }],
});
console.log(resp.choices[0].message.content);

Кейсы использования

Где Goliath 120B часто применяется:

Чат-боты Генерация контента Перевод Поддержка клиентов

Подключить Goliath 120B через единый API

Без VPN. Оплата в рублях. 30 минут до первого запроса. Один ключ — 353 модели.

Получить API-ключ →