Mistral Small 24B (Instruct)
нейрожелі
Mistral Small 24B — төмен кідіріске және әдеттегі NLP-тапсырмаларға жылдам жауап беруге оңтайландырылған 24 миллиардтық тілдік модель. Мәтін генерациялау, сұрақтарға жауап беру және мазмұндама жасауға арналған алдын ала оқытылған және instruction‑tuned нұсқалары бар. Модель Apache 2.0 лицензиясымен таратылады және BotHub арқылы рубльмен төлеп, VPN-сіз қолдануға болады.
Сипаттамалары
- Кіріс деректер
- мәтін, кескіндер, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 32 768 токен
- Жауап ұзындығы бойынша ең көп шек
- 16 384 токен
- Мүмкіндіктер
- функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-small-24b-instruct-2501',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-small-24b-instruct-2501',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Mistral Small 24B (Instruct)?
Mistral Small 24B-ді BotHub-та сынап көріңіз — жылдам жауап беру және ыңғайлы қолжетімділік.Mistral Small 24B (Instruct) туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
Mistral Small 24B Instruct 2501 — мәтінді генерациялау мен өңдеуге, құжаттармен жұмыс істеуге және кескіндерден деректерді алуға арналған нұсқаулық негізіндегі мәтіндік модель. Ол жазу, редакциялау, қысқаша мазмұндау, құжаттарды талдау және қосылатын құралдар арқылы жұмыс процестеріне интеграциялау үшін жарамды.
Модельдің максималды шығыс көлемі 16384 токенді құрайды, ал өңдеу кезіндегі жалпы мәтінмәні 32768 токенге жетеді. Бұл ұзақ жауаптарды генерациялауға және үлкен көлемді мәтінмәндермен жұмыс істеуге мүмкіндік береді, бірақ нақты ұзындығы сіздің тапсырмаңыз бен интеграцияңызға байланысты.
Біздің деректерде модель жауап берер алдында ресми түрде айқын пайымдаулар жасайды деген ақпарат жоқ. Бұл мұндай режимдердің мүмкін еместігін білдірмейді; егер сіз үшін кезең-кезеңімен ойлау маңызды болса, модельдің сіздің промпттарыңыздағы әрекетін тексеріңіз немесе түсініктемелерді ынталандыратын тәсілдерді қолданыңыз.
Иә, модель функцияларды шақыруды және құрылымдалған JSON пішіміндегі шығысты қолдайды, бұл құралдармен интеграциялау және автоматтандыру үшін ыңғайлы. Сіз JSON-жауабын күтетін сұраныстарды қалыптастырып, функция шақыру механизмдері арқылы сыртқы өңдегіштерді қоса аласыз.
Біздің деректерде модельдің кіріс ретінде кескіндер мен құжаттарды қабылдайтыны көрсетілген, сондықтан мәтінді алу немесе талдау үшін кескіндерді жүктеуге болады. Аудио мен видеоны қабылдау туралы нақты ақпарат жоқ, сондықтан мұндай форматтар үшін модельді жұмыс сценарийінде тексеру ұсынылады.
Орыс тілін түсіну сапасы туралы ақпарат біздің деректерде көрсетілмеген. Модельді өзіңіздің типтік тапсырмаларыңыз бен корпусыңызда тексеруге кеңес береміз: бұл оның нақты қолдану сценарийлерінде морфологиямен, стильмен және терминологиямен қалай жұмыс істейтінін көрсетеді.