Inkling Small (12B MoE)
нейрожелі
Thinking Machines Lab ұсынған Inkling Small — 276B пулдан 12B белсенді параметрін қолданатын ашық мультимодальды MoE-модель. BotHub-та қолжетімді.
Сипаттамалары
- Кіріс деректер
- мәтін, кескіндер, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 524 288 токен
- Жауап ұзындығы бойынша ең көп шек
- 262 144 токен
- Пайымдау деңгейлері
- пайымдаусыз, минималды, төмен, орташа, жоғары, max
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-small:batch',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-small:batch',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Inkling Small (12B MoE)?
Inkling Small-ті BotHub-та қолданып көріңіз — мультимодальды модельге жылдам әрі үнемді қолжетімділік.Inkling Small (12B MoE) туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
Бұл құжаттар мен image-to-text, ішкі пайымдау және құралдарды қолдайтын мультитапсырмалы мәтіндік модель: құжаттардан ақпарат алуға, суммаризацияға, сипаттамасы бар кескіндерді талдауға, жұмыс процестерін автоматтандыруға және пакеттік өңдеуге өте қолайлы.
Модель өте үлкен көлемдегі мәтінді генерациялай алады: шығыс ұзындығы 262144 токенге дейін, ал жалпы контекст 524288 токенге дейін жетеді. Бұл ұзақ жауаптар, құжаттар және күрделі тізбекті өңдеу үшін қолайлы.
Иә. Модельде жауап берер алдында пайымдау мүмкіндігі бар, сондықтан ол кезең-кезеңімен талдау жасап, қорытындыларды негіздей алады. Жауаптарды түзету және тексеру үшін түсініктемелер сұрап, аралық пайымдауларды көре аласыз.
Иә. Inkling Small (Batch) функцияларды шақыруды және JSON форматында құрылымдалған шығысты қолдайды, бұл модельді автоматтандырылған жүйелерге біріктіруге және құралдар мен сервистер арқылы одан әрі өңдеу үшін машина оқи алатын жауаптар алуға мүмкіндік береді.
Біздің деректерде модельдің кескіндер мен құжаттарды қабылдайтыны көрсетілген, яғни оларды мәтінге айналдыру және талдау үшін жүктей аласыз. Аудио мен видео туралы мәліметтер жоқ, сондықтан олардың қолдауы нақты расталмаған.
Орыс тілін түсіну сапасы туралы нақты деректер жоқ. Модель мәтінмен және құжаттармен жұмыс істейді, сондықтан оны орыс тіліндегі мысалдарыңызда сынап көріп, жауаптардың барабарлығын, стилистикалық дұрыстығын және терминологиялық дәлдігін бағалай аласыз.