Ternary Bonsai 2 9B
нейрожелі
PrismML-дің Ternary Bonsai 2 9B моделі — сөйлесу, пайымдау және құралдарды пайдалану тапсырмаларына арналған ықшам модель.
Сипаттамалары
- Кіріс деректер
- мәтін, кескіндер, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 262 144 токен
- Жауап ұзындығы бойынша ең көп шек
- 65 536 токен
- Пайымдау деңгейлері
- төмен, орташа, жоғары
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ternary-bonsai-2-9b',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ternary-bonsai-2-9b',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Ternary Bonsai 2 9B?
Ternary Bonsai 2 9B — Qwen3.5 негізінде құрылған және 2 биттік тернарлық салмақтармен оңтайландырылған PrismML-дің ықшам open-weight моделі. Ол сөйлесу AI, пайымдау және құралдарды шақыру тапсырмаларында тиімді жұмыс істейді. BotHub арқылы сіз модельге VPN-сіз және шетелдік картасыз қол жеткізе аласыз, пайдаланылған токендер үшін рубльмен төлейсіз. Сондай-ақ, бір терезеде 250-ден астам модель арасында ауысуға, AES-GCM шифрлауымен қорғалған байланысқа және пайдаланушы деректерін сақтамау саясатына ие боласыз. Модель сыртқы қызметтерді қосу арқылы чат-агенттерді әзірлеуге, зияткерлік көмекшілерді прототиптеуге, логика мен пайымдауды қажет ететін сценарийлерді автоматтандыруға, аналитикалық жұмысқа, интерактивті диалогтық интерфейстерге, сондай-ақ бірдей сұраныс кезінде модельдердің мінез-құлқын тексеруге және салыстыруға жарамды.Ternary Bonsai 2 9B туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
ternary-bonsai-2-9b — мәтінмен және құжаттармен жұмыс істеуге арналған мультимодальды модель. Ол мәтін мен кескіндерден ақпаратты шығарып, қорытындылап, түрлендіре алады, күрделі пайымдауларды орындайды және құралдармен әрекеттеседі. Аналитикаға, құжаттарды өңдеуге және контекстік тапсырмаларға жарамды.
Бір жауаптың максималды көлемі шығыс токендерінің шектеуімен анықталады: модель 65536 шығыс токеніне дейін генерациялай алады, ал жалпы контекст үлкен көлемдерді қолдайды. Жауаптың нақты ұзындығы пішімге және мазмұнның күрделілігіне байланысты.
Иә, модельде жауап берер алдында пайымдауды қолдау бар: ол кезең-кезеңімен логика құрып, қорытындыларды түсіндіре алады. Сіз егжей-тегжейлі пайымдауды немесе қысқаша түсініктемені сұрай аласыз — модель екі пішімді де қалыптастыра алады.
Иә, біздің деректерде функцияларды шақыру және JSON-ды қоса алғанда, құрылымдық шығыс қолдауы көрсетілген. Бұл қызметтермен және құралдармен интеграциялау үшін ыңғайлы: модель бағдарламалық түрде өңдеуге оңай машина оқи алатын құрылымдарды қайтара алады.
Модель кіріс ретінде кескіндер мен құжаттарды қабылдайды, сондықтан мәтін мен контекстті шығару үшін визуалды материалдар мен файлдарды жүктей аласыз. Біздің деректерде аудио немесе видеоны қабылдау туралы тікелей белгі жоқ, бұл мүмкіндікті бөлек тексерген жөн.
Модельдің орыс тілін түсіну сапасы туралы ресми деректер жоқ. Ол мәтінмен және құжаттармен жұмыс істейді, бірақ орыс тіліндегі тапсырмалар үшін нақты нәтижелерді BotHub-тағы тест сұраулары арқылы эксперименталды түрде бағалап, басқа модельдермен салыстырған жөн.