Command R+ 08-2024

нейрожелі

Command R+ 08-2024 — Command R+ моделінің жаңартуы. Ол аппараттық ресурстарды сол күйінде сақтай отырып, өткізу қабілеттілігін шамамен 50%-ға арттырып, кідірісті 25%-ға дейін азайтады. Жылдамдық пен тиімділік маңызды болатын жоғары жүктемелі интерактивті сервистер, нақты уақыт режиміндегі тапсырмалар және жаппай пакеттік инференс үшін өте қолайлы. BotHub арқылы рубльмен төлеп, VPN-сіз қолдануға болады.

Сипаттамалары

Кіріс деректер
мәтін, кескіндер, құжаттар
Нәтиже
мәтін
Контекст өлшемі
128 000 токен
Жауап ұзындығы бойынша ең көп шек
4 000 токен
Мүмкіндіктер
функцияларды шақыру
271,38 ₽

Промптың құны

(1М токенге қарай)

1 085,53 ₽

Жауаптың құны

(1М токенге қарай)

*Бағалар API-ді ECO-провайдерлер арқылы қолданғанда көрсетілген.
bothub
BotHub: Нейрожелілерді тегін қолданып көріңізbot

Caps қалды: 0 CAPS
Command R+ 08-2024 үшін API және код үлгісіБіз OpenAI API-іне толық қолжетімділікті ұсынамыз. Біздің барлық соңғы нүктелер OpenAI-мен толық сәйкес келеді, оларды плагиндермен де, SDK арқылы өз бағдарламаңызды әзірлегенде де қолдануға болады.API кілтін жасау
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'command-r-plus-08-2024',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'command-r-plus-08-2024',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Қалай жұмыс істейді Command R+ 08-2024?

Command R+ 08-2024 моделін BotHub-та қолданып көріңіз — бұрынғы жабдықта жоғары жылдамдық.

Command R+ 08-2024 туралы жиі қойылатын сұрақтар

Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.

Command R Plus 08-2024 мәтінмен, құжаттармен және кескіндермен жұмыс істейді, құралдарды шақырып, құрылымдалған жауаптар қалыптастыра алады. Ол үлкен контексте ақпаратты қорытындылау, іздеу және шығарып алу, құжаттарды өңдеу және function calling арқылы сыртқы сервистермен интеграциялау үшін жарамды.

Бір жауапта модель спецификацияда көрсетілген максималды шекке дейін, яғни ең көбі 4000 токенге дейін генерациялай алады. Таңбалармен есептегендегі нақты ұзындығы токенизация мен мазмұнға байланысты, сондықтан ұзақ мәтіндерді бөліктерге бөлген жөн.

Ұсынылған деректерде ішкі кезеңдік ойлау (chain-of-thought) мүмкіндігі нақты көрсетілмеген, сондықтан оның бар екендігі туралы сенімді айта алмаймыз. Дегенмен, түсініктемелер мен логикалық қадамдарды алу үшін промпт арқылы толық кезеңдік жауап сұрай аласыз.

Иә, модель функцияларды шақыруды және JSON форматында құрылымдалған жауаптарды қолдайды. Бұл сервистермен және автоматтандырылған тапсырмалармен интеграциялау үшін өте ыңғайлы: машиналық өңдеуге жарамды болжамды жауаптар алу үшін tools/function calling механизмін пайдаланыңыз.

Модель мәтінді, құжаттарды және кескіндерді қабылдай алады, бұл ақпаратты шығарып алу және мазмұнды талдау үшін қолданылады. Деректерде аудио немесе видеоны қолдауы нақтыланбаған, сондықтан олардың өңделуін жеке тексерген немесе арнайы модельдерді пайдаланған жөн.

Бұл модельдің орыс тілін түсіну сапасы туралы нақты ақпарат жоқ. Ол мәтінмен және құжаттармен жұмыс істейді, бірақ орыс тіліндегі дәлдігі мен стилін өз мысалдарыңызбен тексергеніңіз жөн; қажет болса, BotHub терезесінде модельдерді салыстырып көре аласыз.

Қолдау қызметі10:00-ден 18:00-ге дейін МСК жұмыс істейміз