Inkling 2 Small
нейрожелі
Thinking Machines Lab ұсынған Inkling 2 Small — күрделі пайымдаулар мен әртүрлі кіріс деректерін біріктіруге арналған мультимодальды модель
Сипаттамалары
- Кіріс деректер
- мәтін, кескіндер, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 1 048 576 токен
- Жауап ұзындығы бойынша ең көп шек
- 943 718 токен
- Пайымдау деңгейлері
- минималды, төмен, орташа, жоғары, max
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Inkling 2 Small?
Inkling 2 Small — Thinking Machines Lab ұсынған, терең пайымдауға бағытталған, ашық салмақтары бар мультимодальды mixture-of-experts моделі; оның жалпы архитектурасындағы 594B параметрдің 17B-сы белсенді. Модель логикалық қорытынды жасау және мәтіндік немесе басқа кіріс деректерін біріктіру маңызды болатын тапсырмаларға жарамды. BotHub арқылы сіз Ресейден VPN-сіз және шетелдік картасыз, рубльмен төлей отырып, токендердің жанып кетуінсіз қол жеткізе аласыз. Бірыңғай терезеде 250-ден астам модель арасында жылдам ауысуға және мультимодальды жүйелерге арналған OpenAI-үйлесімді API арқылы жұмыс істеуге болады. Тасымалданатын деректер AES-GCM шифрлауымен қорғалады, деректер сақталмайды, ал компаниялар үшін келісімшарт, шот-фактура, ЭҚА, әкімшілік панель және лимиттер қолжетімді. Қолдану сценарийлеріне мультимодальды жүйелерді зерттеу және прототиптеу, күрделі жағдайлар мен біріктірілген деректерді талдау, шешім қабылдауды қолдауға арналған ассистенттерді құру, R&D және өнім процестеріне интеграциялау кіреді.Inkling 2 Small туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
Inkling-2-small — құжаттар мен кескіндерді танитын, кезең-кезеңімен пайымдауды және құралдарды қосуды қолдайтын мультитапсырмалы мәтіндік модель. Құжаттардан ақпарат алуға, сұрақтарға жауап беруге, мәтіндік контекстегі визуалды кірістерді жинақтауға және талдауға жарамды.
Модель өте үлкен жауаптарды генерациялай алады: техникалық деректер бойынша шығыс көлемі 943718 токенге дейін жетеді. Іс жүзінде пайдалы мәтіннің ұзындығы тапсырмалар мен токенизацияға байланысты, сондықтан қажетті құрылым мен шығыс сапасына назар аударыңыз.
Иә. Біздің деректерде модельдің жауап берер алдында пайымдай алатыны, яғни кезең-кезеңімен пайымдауларды қалыптастырып, аралық қорытындыларды сақтай алатыны көрсетілген. Бұл күрделі логикалық тапсырмаларды және көп сатылы нұсқауларды шешуге көмектеседі.
Иә, inkling-2-small функцияларды шақыруды және қолданбалармен интеграциялауға және автоматтандырылған өңдеуге ыңғайлы JSON форматында құрылымдалған шығысты қолдайды. Бұл мүмкіндікті стандартталған жауаптар мен құрылымдалған деректерді беру үшін пайдаланыңыз.
Деректерге сәйкес, модель мәтінді, құжаттарды және кескіндерді қабылдайды — бұл түрлер анық қолдау табады. Аудио мен видеоны қабылдау туралы берілген деректерде айтылмаған, сондықтан олардың қолдауы расталмаған және провайдерден нақтылауды талап етеді.
Біздің деректерде тілдік мамандану немесе орыс тіліндегі дәлдік туралы нақты ақпарат жоқ. Модель мәтін мен пайымдауларды өңдейді, бірақ орыс тіліндегі тапсырмаларыңыз үшін нақты жарамдылығын мысалдар мен сапаны бағалау арқылы тәжірибе жүзінде тексерген жөн.