Mistral Small 3.1 24B Instruct
нейрожелі
Нұсқауларды дәл орындауға арналған Instruct режимінде үйретілген, 24 миллиард параметрі бар Mistral Small 3 (3.1) жетілдірілген нұсқасы.
Сипаттамалары
- Кіріс деректер
- мәтін, кескіндер, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 128 000 токен
- Жауап ұзындығы бойынша ең көп шек
- 102 400 токен
- Мүмкіндіктер
- функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-small-3.1-24b-instruct',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-small-3.1-24b-instruct',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Mistral Small 3.1 24B Instruct?
Mistral Small 3.1 24B Instruct моделін BotHub-та көріңіз — VPN-сіз қолжетімді және рубльмен төлеу мүмкіндігі барMistral Small 3.1 24B Instruct туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
Mistral Small 3.1 24B Instruct мәтіндік тапсырмаларға арналған: генерация және қайта құру, құжаттармен жұмыс, кескіндерден ақпарат алу және құралдармен интеграция. Нұсқаулар, құжаттарды өңдеу және ұзын контексттегі мультимодальді сұраныстар үшін жарамды.
Модель өз шектеулерін ескере отырып, бір жауапта 102400 токенге дейін генерациялай алады, ал жалпы контекст 128000 токенге дейін қолдайды. Тәжірибеде шығыс ұзындығы сұранысқа, промптқа және сіз жұмыс істейтін интерфейс шектеулеріне байланысты.
Біздің деректерде модельдің жауап берер алдында айқын пайымдаулар жасайтыны байқалмаған; бұл олардың жоқтығын білдірмейді. Егер сізге кезең-кезеңімен талдау қажет болса, сұраныстарды аралық қадамдарды сұрау арқылы құрыңыз немесе пайымдауларды айқын шығару үшін жүйелік нұсқауларды пайдаланыңыз.
Иә, модель функцияларды шақыруды және JSON қоса алғанда, құрылымдалған пішімдерде шығаруды қолдайды. Сіз парсинг пен сыртқы құралдармен интеграциялау үшін жауаптарды формализациялай аласыз: модель құрылымдалған JSON қайтаруға және аспаптық интерфейстер арқылы жұмыс істеуге қабілетті.
Кіріс деректеріне мәтін, құжаттар мен суреттер кіреді: модель құжаттардан ақпарат алуға және image-to-text жасауға қабілетті. Біздің деректерде аудио мен видеоны қабылдау белгіленбеген, сондықтан оларға қолдау көрсетілетіні расталмаған және нақты интерфейске байланысты.
Біздің деректерде модельдің орыс тілін түсіну сапасы туралы нақты ақпарат жоқ. Сондықтан нақты баға бере алмаймыз; модельдің мінез-құлқын және сіздің талаптарыңызға сәйкестігін түсіну үшін оны өз нақты мысалдарыңыз бен промпттарыңызбен тексеруге кеңес береміз.