Inkling 2 Small

нейрожелі

Thinking Machines Lab ұсынған Inkling 2 Small — күрделі пайымдаулар мен әртүрлі кіріс деректерін біріктіруге арналған мультимодальды модель

Сипаттамалары

Кіріс деректер
мәтін, кескіндер, құжаттар
Нәтиже
мәтін
Контекст өлшемі
1 048 576 токен
Жауап ұзындығы бойынша ең көп шек
943 718 токен
Пайымдау деңгейлері
минималды, төмен, орташа, жоғары, max
Мүмкіндіктер
пайымдау, функцияларды шақыру
32,57 ₽

Промптың құны

(1М токенге қарай)

108,55 ₽

Жауаптың құны

(1М токенге қарай)

*Бағалар API-ді ECO-провайдерлер арқылы қолданғанда көрсетілген.
bothub
BotHub: Попробуйте нейросети бесплатноbot

Осталось Caps: 0 CAPS
Пример кода и API для Inkling 2 SmallМы предлагаем полный доступ к API OpenAI через наш сервис. Все наши конечные точки полностью соответствуют конечным точкам OpenAI, их можно использовать как с плагинами, так и при разработке собственного программного обеспечения через SDK.Создать API ключ
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'inkling-2-small',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'inkling-2-small',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Қалай жұмыс істейді Inkling 2 Small?

Inkling 2 Small — Thinking Machines Lab ұсынған, терең пайымдауға бағытталған, ашық салмақтары бар мультимодальды mixture-of-experts моделі; оның жалпы архитектурасындағы 594B параметрдің 17B-сы белсенді. Модель логикалық қорытынды жасау және мәтіндік немесе басқа кіріс деректерін біріктіру маңызды болатын тапсырмаларға жарамды. BotHub арқылы сіз Ресейден VPN-сіз және шетелдік картасыз, рубльмен төлей отырып, токендердің жанып кетуінсіз қол жеткізе аласыз. Бірыңғай терезеде 250-ден астам модель арасында жылдам ауысуға және мультимодальды жүйелерге арналған OpenAI-үйлесімді API арқылы жұмыс істеуге болады. Тасымалданатын деректер AES-GCM шифрлауымен қорғалады, деректер сақталмайды, ал компаниялар үшін келісімшарт, шот-фактура, ЭҚА, әкімшілік панель және лимиттер қолжетімді. Қолдану сценарийлеріне мультимодальды жүйелерді зерттеу және прототиптеу, күрделі жағдайлар мен біріктірілген деректерді талдау, шешім қабылдауды қолдауға арналған ассистенттерді құру, R&D және өнім процестеріне интеграциялау кіреді.

Inkling 2 Small туралы жиі қойылатын сұрақтар

Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.

Inkling-2-small — құжаттар мен кескіндерді танитын, кезең-кезеңімен пайымдауды және құралдарды қосуды қолдайтын мультитапсырмалы мәтіндік модель. Құжаттардан ақпарат алуға, сұрақтарға жауап беруге, мәтіндік контекстегі визуалды кірістерді жинақтауға және талдауға жарамды.

Модель өте үлкен жауаптарды генерациялай алады: техникалық деректер бойынша шығыс көлемі 943718 токенге дейін жетеді. Іс жүзінде пайдалы мәтіннің ұзындығы тапсырмалар мен токенизацияға байланысты, сондықтан қажетті құрылым мен шығыс сапасына назар аударыңыз.

Иә. Біздің деректерде модельдің жауап берер алдында пайымдай алатыны, яғни кезең-кезеңімен пайымдауларды қалыптастырып, аралық қорытындыларды сақтай алатыны көрсетілген. Бұл күрделі логикалық тапсырмаларды және көп сатылы нұсқауларды шешуге көмектеседі.

Иә, inkling-2-small функцияларды шақыруды және қолданбалармен интеграциялауға және автоматтандырылған өңдеуге ыңғайлы JSON форматында құрылымдалған шығысты қолдайды. Бұл мүмкіндікті стандартталған жауаптар мен құрылымдалған деректерді беру үшін пайдаланыңыз.

Деректерге сәйкес, модель мәтінді, құжаттарды және кескіндерді қабылдайды — бұл түрлер анық қолдау табады. Аудио мен видеоны қабылдау туралы берілген деректерде айтылмаған, сондықтан олардың қолдауы расталмаған және провайдерден нақтылауды талап етеді.

Біздің деректерде тілдік мамандану немесе орыс тіліндегі дәлдік туралы нақты ақпарат жоқ. Модель мәтін мен пайымдауларды өңдейді, бірақ орыс тіліндегі тапсырмаларыңыз үшін нақты жарамдылығын мысалдар мен сапаны бағалау арқылы тәжірибе жүзінде тексерген жөн.

Служба поддержкиРаботаем с 10:00 до 18:00 по МСК