Inkling Small (12B MoE)

нейрожелі

Thinking Machines Lab ұсынған Inkling Small — 276B пулдан 12B белсенді параметрін қолданатын ашық мультимодальды MoE-модель. BotHub-та қолжетімді.

Сипаттамалары

Кіріс деректер
мәтін, кескіндер, құжаттар
Нәтиже
мәтін
Контекст өлшемі
524 288 токен
Жауап ұзындығы бойынша ең көп шек
262 144 токен
Пайымдау деңгейлері
пайымдаусыз, минималды, төмен, орташа, жоғары, max
Мүмкіндіктер
пайымдау, функцияларды шақыру
39,08 ₽

Промптың құны

(1М токенге қарай)

104,21 ₽

Жауаптың құны

(1М токенге қарай)

*Бағалар API-ді ECO-провайдерлер арқылы қолданғанда көрсетілген.
bothub
BotHub: Нейрожелілерді тегін қолданып көріңізbot

Caps қалды: 0 CAPS
Inkling Small (12B MoE) үшін API және код үлгісіБіз OpenAI API-іне толық қолжетімділікті ұсынамыз. Біздің барлық соңғы нүктелер OpenAI-мен толық сәйкес келеді, оларды плагиндермен де, SDK арқылы өз бағдарламаңызды әзірлегенде де қолдануға болады.API кілтін жасау
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'inkling-small:batch',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'inkling-small:batch',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Қалай жұмыс істейді Inkling Small (12B MoE)?

Inkling Small-ті BotHub-та қолданып көріңіз — мультимодальды модельге жылдам әрі үнемді қолжетімділік.

Inkling Small (12B MoE) туралы жиі қойылатын сұрақтар

Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.

Бұл құжаттар мен image-to-text, ішкі пайымдау және құралдарды қолдайтын мультитапсырмалы мәтіндік модель: құжаттардан ақпарат алуға, суммаризацияға, сипаттамасы бар кескіндерді талдауға, жұмыс процестерін автоматтандыруға және пакеттік өңдеуге өте қолайлы.

Модель өте үлкен көлемдегі мәтінді генерациялай алады: шығыс ұзындығы 262144 токенге дейін, ал жалпы контекст 524288 токенге дейін жетеді. Бұл ұзақ жауаптар, құжаттар және күрделі тізбекті өңдеу үшін қолайлы.

Иә. Модельде жауап берер алдында пайымдау мүмкіндігі бар, сондықтан ол кезең-кезеңімен талдау жасап, қорытындыларды негіздей алады. Жауаптарды түзету және тексеру үшін түсініктемелер сұрап, аралық пайымдауларды көре аласыз.

Иә. Inkling Small (Batch) функцияларды шақыруды және JSON форматында құрылымдалған шығысты қолдайды, бұл модельді автоматтандырылған жүйелерге біріктіруге және құралдар мен сервистер арқылы одан әрі өңдеу үшін машина оқи алатын жауаптар алуға мүмкіндік береді.

Біздің деректерде модельдің кескіндер мен құжаттарды қабылдайтыны көрсетілген, яғни оларды мәтінге айналдыру және талдау үшін жүктей аласыз. Аудио мен видео туралы мәліметтер жоқ, сондықтан олардың қолдауы нақты расталмаған.

Орыс тілін түсіну сапасы туралы нақты деректер жоқ. Модель мәтінмен және құжаттармен жұмыс істейді, сондықтан оны орыс тіліндегі мысалдарыңызда сынап көріп, жауаптардың барабарлығын, стилистикалық дұрыстығын және терминологиялық дәлдігін бағалай аласыз.

Қолдау қызметі10:00-ден 18:00-ге дейін МСК жұмыс істейміз