Aion-RP Llama 3.1 (8B)

нейрожелі

Aion-RP-Llama-3.1-8B — рөлдік көріністер мен кейіпкерлердің дауыстық ерекшеліктеріне бейімделген 8 млрд параметрлі Llama 3.1 моделінің бапталған нұсқасы. Модель RPBench-Auto бенчмаркінде кейіпкерлерді бағалау бөлігінде көшбасшы және мінез-құлық пен реплика стилінің үйлесімділігін жақсы сақтайды. NPC, кампания шеберлерін, интерактивті фикцияны жасауға және BotHub жеке кабинетінде диалогтарды тестілеуге өте ыңғайлы.

Сипаттамалары

Кіріс деректер
мәтін, кескіндер, құжаттар
Нәтиже
мәтін
Контекст өлшемі
32 768 токен
Жауап ұзындығы бойынша ең көп шек
29 491 токен
86,84 ₽

Промптың құны

(1М токенге қарай)

173,68 ₽

Жауаптың құны

(1М токенге қарай)

*Бағалар API-ді ECO-провайдерлер арқылы қолданғанда көрсетілген.
bothub
BotHub: Нейрожелілерді тегін қолданып көріңізbot

Caps қалды: 0 CAPS
Aion-RP Llama 3.1 (8B) үшін API және код үлгісіБіз OpenAI API-іне толық қолжетімділікті ұсынамыз. Біздің барлық соңғы нүктелер OpenAI-мен толық сәйкес келеді, оларды плагиндермен де, SDK арқылы өз бағдарламаңызды әзірлегенде де қолдануға болады.API кілтін жасау
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'aion-rp-llama-3.1-8b',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'aion-rp-llama-3.1-8b',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Қалай жұмыс істейді Aion-RP Llama 3.1 (8B)?

Aion-RP-ді BotHub-та қолданып көріңіз — жеке кабинетте рөлдік сценарийлерді тестілеңіз.

Aion-RP Llama 3.1 (8B) туралы жиі қойылатын сұрақтар

Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.

Aion RP Llama 3.1 8B мәтінмен және мультимодальды кірістермен жұмыс істейді: мәтін, құжаттар және кескіндер. Мәтіндерді генерациялау мен өңдеуге, құжаттар мен кескіндерден ақпарат алуға, диалогтық қосымшаларға, контентті талдауға және контекст бойынша мәтіндік шығысы бар тапсырмаларға сәйкес келеді.

Біздің деректерде модельдің ұзақ мәтін шығара алатыны көрсетілген; токендердегі максималды шығыс көлемі модель сипаттамаларында көрсетілген. Іс жүзінде бір жауаптағы мәтін көлемі токенизацияға және нақты форматқа байланысты, тапсырмадағы ұзындық талаптарын ескеріңіз.

Біздің деректерде модельдің жауап бермес бұрын айқын пайымдаулар жасайтыны белгіленбеген. Бұл сұраныс бойынша түсініктемелер генерациялауды жоққа шығармайды, бірақ деректерде chain-of-thought қолдауы немесе кіріктірілген пайымдау стратегиялары туралы ресми белгі жоқ.

Біздің деректерде функцияларды шақырудың немесе тікелей function calling интеграциясының ресми қолдауы белгіленбеген. Құрылымдалған JSON-ды мәтіндік шығыс ретінде нұсқаулар арқылы қалыптастыруға болады, бірақ деректерде кіріктірілген шақыру функциясы туралы ресми белгі жоқ.

Кескіндер мен құжаттарды қабылдау расталды: модель мәтін алу және талдау үшін визуалды деректермен жұмыс істей алады. Аудио мен видео бойынша біздің деректерде растау жоқ, сондықтан қосымша тексерусіз олардың қолдауын растауға болмайды.

Модель деректерінде орыс тіліндегі сапаға айқын баға берілмеген. Модель мәтіндік кіріспен және мультимодальды түрде жұмыс істейді, бірақ орыс тіліндегі жауаптардың дәлдігі, стилі мен сапасы бойынша біздің деректерде нақты кепілдіктер жоқ — мысалдар мен тест тапсырмаларында тексеріңіз.

Қолдау қызметі10:00-ден 18:00-ге дейін МСК жұмыс істейміз