Aion-RP Llama 3.1 (8B)

нейросеть

Aion-RP-Llama-3.1-8B — донастроенная версия Llama 3.1 на 8 млрд параметров, оптимизированная под ролевые сцены и характерные голосовые особенности персонажей. Модель лидирует в части оценки персонажей в бенчмарке RPBench-Auto и хорошо сохраняет согласованность поведения и стиля реплик. Идеальна для создания NPC, мастеров кампаний, интерактивной фикции и тестирования диалогов в личном кабинете BotHub.

Характеристики

Входные данные
текст, изображения, документы
Результат
текст
Размер контекста
32 768 токенов
Макс. длина ответа
29 491 токен
86,84 ₽

Стоимость промпта

(за 1M токенов)

173,68 ₽

Стоимость ответа

(за 1M токенов)

*Указаны цены при использовании API через ECO-провайдеров.
bothub
BotHub: Попробуйте нейросети бесплатноbot

Осталось Caps: 0 CAPS
Пример кода и API для Aion-RP Llama 3.1 (8B)Мы предлагаем полный доступ к API OpenAI через наш сервис. Все наши конечные точки полностью соответствуют конечным точкам OpenAI, их можно использовать как с плагинами, так и при разработке собственного программного обеспечения через SDK.Создать API ключ
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'aion-rp-llama-3.1-8b',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'aion-rp-llama-3.1-8b',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Как работает Aion-RP Llama 3.1 (8B)?

Попробуйте Aion-RP на BotHub — тестируйте ролевые сценарии в личном кабинете.

Частые вопросы о Aion-RP Llama 3.1 (8B)

Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.

Aion RP Llama 3.1 8B работает с текстом и мультимодальными входами: текст, документы и изображения. Подходит для генерации и обработки текстов, извлечения информации из документов и изображений, диалоговых приложений, анализа контента и задач с текстовым выводом по контексту.

В наших данных указано, что модель может генерировать длинный вывод; максимальный объём вывода в токенах указан в характеристиках модели. На практике количество текста за один ответ зависит от токенизации и конкретного формата, учитывайте требования к длине в задаче.

В наших данных не отмечено, что модель выполняет явные рассуждения перед ответом. Это не исключает генерацию объяснений по запросу, но официальной пометки о поддержке chain-of-thought или встроенных стратегий рассуждения в данных нет.

В наших данных не отмечено наличие официальной поддержки вызова функций или прямой интеграции function calling. Формировать структурированный JSON как текстовую выдачу обычно можно инструкциями, но официальной отметки о встроенной функции вызова в данных нет.

Приём изображений и документов подтверждён: модель умеет работать с визуальными данными для извлечения текста и анализа. По аудио и видео в наших данных не отмечено подтверждения, поэтому их поддержку нельзя утверждать без дополнительной проверки.

В данных модели не указано явной оценки качества на русском языке. Модель работает с текстовым вводом и мультимодально, но конкретных гарантий по точности, стилю и качеству русскоязычных ответов в наших данных нет — проверяйте на примерах и тестовых задачах.

Служба поддержкиРаботаем с 10:00 до 18:00 по МСК