Sao10K: Llama 3.1 70B Hanami x1 sao10k/l3.1-70b-hanami-x1

Модель Sao10K: Llama 3.1 70B Hanami x1 от Sao10k (семейство gpt) доступна через единый OpenAI-совместимый API НейроГейт — без VPN, с оплатой в рублях, единым ключом для всех 353+ моделей платформы.
Доступны через единый API НейроГейт: 5 моделей Sao10k.

👁 Зрение 🧠 Рассуждение 🎨 Генерация изображений 🎙 Аудио-вход 🔊 Синтез речи 🆓 Бесплатно

16K

контекст, токенов

300 ₽

за 1 млн входных токенов

300 ₽

за 1 млн выходных токенов

возможностей

2023-12

база знаний до

Что такое Sao10K: Llama 3.1 70B Hanami x1

Творческий и нарративный контент для разработчиков, которым нужна экспериментальная вариация Euryale v2.2 на базе Llama 3.1 70B.

Llama 3.1 70B Hanami x1 — это экспериментальная модель от независимого разработчика Sao10K, построенная поверх Euryale v2.2 (которая, в свою очередь, основана на Meta Llama 3.1 70B). Модель является open-source-производной и представляет собой авторский эксперимент по дообучению или слиянию весов с целью улучшения определённых характеристик базовой Euryale.

Семейство Euryale от Sao10K традиционно ориентировано на задачи ролевых игр, творческого письма и генерации нарративного контента — Hanami x1 развивает эту линию. Контекстное окно составляет 16 000 токенов, что достаточно для большинства сценариев диалога и работы с текстами средней длины. Поскольку модель позиционируется как эксперимент, её поведение может отличаться от стабильных релизов, а независимых бенчмарков по ней практически нет.

Когда брать эту модель

✓ Ролевые игры и интерактивные нарративы
✓ Творческое письмо и генерация художественных текстов
✓ Эксперименты с fine-tuned вариантами Llama 3.1 70B
✓ Прототипирование персонажей и диалогов для игровых проектов

Пример работы

Реальный сценарий, на котором модель проявляет себя:

Напиши сцену встречи двух персонажей в жанре тёмного фэнтези: странник приходит в заброшенный портовый город и обнаруживает, что его старый союзник теперь служит противоборствующей фракции.

Использование Sao10K: Llama 3.1 70B Hanami x1 через НейроГейт

OpenAI-совместимый эндпоинт https://api.neuralgate.ru/v1 — замени base_url в любом SDK и используй модель по её id.

# Chat completion
curl https://api.neuralgate.ru/v1/chat/completions \
  -H "Authorization: Bearer $NEURALGATE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "sao10k/l3.1-70b-hanami-x1",
    "messages": [{"role":"user","content":"Привет!"}]
  }'

from openai import OpenAI

client = OpenAI(
    api_key="sk-...your-neuralgate-key...",
    base_url="https://api.neuralgate.ru/v1",
)
response = client.chat.completions.create(
    model="sao10k/l3.1-70b-hanami-x1",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.NEURALGATE_API_KEY,
  baseURL: "https://api.neuralgate.ru/v1",
});
const resp = await client.chat.completions.create({
  model: "sao10k/l3.1-70b-hanami-x1",
  messages: [{ role: "user", content: "Привет!" }],
});
console.log(resp.choices[0].message.content);