Inkling Small

нейрожелі

Inkling Small — Thinking Machines Lab ұсынған, жалпы 276B ішінен 12B белсенді параметрі бар ашық мультимодальді mixture-of-experts моделі. Ол мультимодальді сценарийлерде (мәтін+кескін) үнемді инференс үшін жасалған, отбасының ықшам әрі энергияны үнемдейтін өкілі. BotHub арқылы VPN-сіз тестілеуге және интеграциялауға қолжетімді.

Сипаттамалары

Кіріс деректер
мәтін, кескіндер, құжаттар
Нәтиже
мәтін
Контекст өлшемі
524 288 токен
Жауап ұзындығы бойынша ең көп шек
262 144 токен
Пайымдау деңгейлері
пайымдаусыз, минималды, төмен, орташа, жоғары, max
Мүмкіндіктер
пайымдау, функцияларды шақыру
48,85 ₽

Промптың құны

(1М токенге қарай)

130,26 ₽

Жауаптың құны

(1М токенге қарай)

*Бағалар API-ді ECO-провайдерлер арқылы қолданғанда көрсетілген.
bothub
BotHub: Нейрожелілерді тегін қолданып көріңізbot

Caps қалды: 0 CAPS
Inkling Small үшін API және код үлгісіБіз OpenAI API-іне толық қолжетімділікті ұсынамыз. Біздің барлық соңғы нүктелер OpenAI-мен толық сәйкес келеді, оларды плагиндермен де, SDK арқылы өз бағдарламаңызды әзірлегенде де қолдануға болады.API кілтін жасау
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'inkling-small',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'inkling-small',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Қалай жұмыс істейді Inkling Small?

Inkling Small моделін BotHub-та қолданып көріңіз — бұл үнемді мультимодальді шешім.

Inkling Small туралы жиі қойылатын сұрақтар

Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.

Бұл құжаттар мен кескіндерді байланысты мәтінге айналдыратын, аналитикалық және логикалық тапсырмаларды орындайтын, сұраныстарға жауап беретін және сыртқы құралдармен интеграцияланатын мәтіндік модель. Егер сіз ақпаратты шығарып алып, жұмыс процестерін автоматтандырғыңыз келсе, модель осы тапсырмаларға жарамды.

Модель өте үлкен жауаптарды генерациялай алады — шығару лимитіне дейін. Біздің деректерде максималды шығыс токендері 262144 деп көрсетілген; жалпы контекст пен қызмет шектеулерін ескерген жөн.

Иә, модель жауап алдында ойлауды қолдайды және сіздің сұранысыңыз бойынша қадамдық түсініктеме бере алады, бұл күрделі тапсырмалар мен логиканы тексеру үшін пайдалы.

Иә. Inkling Small функцияларды шақыруды және JSON форматында құрылымдық шығаруды қолдайды, бұл сыртқы құралдармен интеграцияны және автоматтандыруды жеңілдетеді. Нәтижелерді тұрақты парсингтеу үшін шығару схемасын орнатуға болады.

Кескіндер мен құжаттарды жүктеуге болады — модель мәтінді шығарып алуға және визуалды контент бойынша қорытынды жасауға қабілетті. Аудио немесе видеоны қолдау туралы деректер жоқ, сондықтан техникалық қолдау қызметінен нақтылаңыз немесе өз мысалдарыңызда тексеріп көріңіз.

Модель туралы деректерде орыс тілінің сапасына қатысты нақты бағалау жоқ. Егер сіз үшін орыс тіліндегі жауаптың сапасы маңызды болса, модельді өз мысалдарыңызда сынап көріңіз және қажет болған жағдайда салыстыру үшін BotHub арқылы басқа модельге ауысыңыз.

Қолдау қызметі10:00-ден 18:00-ге дейін МСК жұмыс істейміз