Aion-RP Llama 3.1 (8B)
нейросеть
Aion-RP-Llama-3.1-8B — донастроенная версия Llama 3.1 на 8 млрд параметров, оптимизированная под ролевые сцены и характерные голосовые особенности персонажей. Модель лидирует в части оценки персонажей в бенчмарке RPBench-Auto и хорошо сохраняет согласованность поведения и стиля реплик. Идеальна для создания NPC, мастеров кампаний, интерактивной фикции и тестирования диалогов в личном кабинете BotHub.
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 32 768 токенов
- Макс. длина ответа
- 29 491 токен
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'aion-rp-llama-3.1-8b',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'aion-rp-llama-3.1-8b',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Aion-RP Llama 3.1 (8B)?
Попробуйте Aion-RP на BotHub — тестируйте ролевые сценарии в личном кабинете.Частые вопросы о Aion-RP Llama 3.1 (8B)
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Aion RP Llama 3.1 8B работает с текстом и мультимодальными входами: текст, документы и изображения. Подходит для генерации и обработки текстов, извлечения информации из документов и изображений, диалоговых приложений, анализа контента и задач с текстовым выводом по контексту.
В наших данных указано, что модель может генерировать длинный вывод; максимальный объём вывода в токенах указан в характеристиках модели. На практике количество текста за один ответ зависит от токенизации и конкретного формата, учитывайте требования к длине в задаче.
В наших данных не отмечено, что модель выполняет явные рассуждения перед ответом. Это не исключает генерацию объяснений по запросу, но официальной пометки о поддержке chain-of-thought или встроенных стратегий рассуждения в данных нет.
В наших данных не отмечено наличие официальной поддержки вызова функций или прямой интеграции function calling. Формировать структурированный JSON как текстовую выдачу обычно можно инструкциями, но официальной отметки о встроенной функции вызова в данных нет.
Приём изображений и документов подтверждён: модель умеет работать с визуальными данными для извлечения текста и анализа. По аудио и видео в наших данных не отмечено подтверждения, поэтому их поддержку нельзя утверждать без дополнительной проверки.
В данных модели не указано явной оценки качества на русском языке. Модель работает с текстовым вводом и мультимодально, но конкретных гарантий по точности, стилю и качеству русскоязычных ответов в наших данных нет — проверяйте на примерах и тестовых задачах.