Inkling 2 Small
нейрожелі
Inkling 2 Small — Thinking Machines Lab компаниясының пайымдау мен кешенді талдауға арналған көпмодальды моделі.
Сипаттамалары
- Кіріс деректер
- мәтін, кескіндер, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 1 048 576 токен
- Жауап ұзындығы бойынша ең көп шек
- 131 072 токен
- Пайымдау деңгейлері
- минималды, төмен, орташа, жоғары, max
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small:free',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small:free',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Inkling 2 Small?
Inkling 2 Small — Thinking Machines Lab компаниясының 594 млрд параметрлік архитектура құрамындағы 17 млрд белсенді параметрі бар, пайымдау мен контекстті терең талдауға бағытталған көпмодальды mixture-of-experts моделі. BotHub арқылы сіз Ресейден VPN-сіз және шетелдік картасыз ыңғайлы қол жеткізе аласыз, рубльмен нақты пайдаланылған токендер үшін төлем жасайсыз (қаражат жойылмайды), бір терезеде модельдерді салыстырып, ауыстыра аласыз және бірыңғай OpenAI-үйлесімді API арқылы интеграциялай аласыз. Байланыстар AES-GCM арқылы қорғалған және деректер сақталмайды, бизнес үшін шарт, шот-фактура, ЭҚҚ және лимиттері бар әкімшілік панель қолжетімді. Ғылыми және инженерлік зерттеулерге, күрделі семантикалық және логикалық талдауға, контентті көпформатты өңдеуге және шешім қабылдау жүйелерін прототиптеуге жарамды.Inkling 2 Small туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
Inkling-2-small:free мәтінді генерациялайды және түрлендіреді, құжаттар мен кескіндерден ақпарат алады, логикалық пайымдауларды орындайды және құралдармен жұмыс істейді. Суммаризациялауға, фактілерді шығарып алуға, сұрақтарға жауап беруге, құжаттарды талдауға және құрылымдық нәтижені талап ететін тапсырмаларға жарамды.
Шығарудың максималды көлемі модельдің токен лимитімен анықталады: inkling-2-small:free-де токендер бойынша шығыс шегі көрсетілген. Іс жүзінде бұл үлкен, көп беттік жауаптарды генерациялауға мүмкіндік береді; таңбалардағы нақты көлем токенизацияға және мәтін құрылымына байланысты.
Иә, модель жауапты шығару алдында пайымдауларды генерациялауды қолдайды. Күрделі тапсырмалар үшін қадамдық түсініктеме немесе аралық қорытындыларды сұрай аласыз — бұл көп сатылы есептеулерге, логиканы тексеруге және түпкілікті жауап алдында қорытындыларды негіздеуге көмектеседі.
Иә, inkling-2-small:free функцияларды шақыруды және JSON-ды қоса алғанда, құрылымдық нәтижені қолдайды. Бұл модельді автоматты процестерге біріктіруге, қатаң схемаларды қайтаруға және қосымшалардағы және бэкенд-логикадағы нәтижелерді кейіннен өңдеуді жеңілдетуге мүмкіндік береді.
Кіріс деректерін қабылдау мүмкіндігі кескіндер мен құжаттар үшін расталған — талдау үшін визуалды файлдар мен мәтіндік құжаттарды жүктеуге болады. Аудио мен видеоны қабылдау біздің деректерде көрсетілмеген, сондықтан олар туралы интеграция алдында бөлек нақтылаған жөн.
Модель деректерінде орыс тілінің сапасы бойынша нақты метрикалар көрсетілмеген. Түсінуге сұраныстағы мысалдар мен контекст әсер етеді. Жауаптардың адекваттылығы мен тұжырымдау стилін бағалау үшін модельді өздеріңіздің типтік тапсырмаларыңыз бен промпттарыңызда тексеруді ұсынамыз.