Mistral Small 24B (Instruct)
нейросеть
Mistral Small 24B — 24‑миллиардная языковая модель, оптимизированная для низкой задержки и быстрого отклика на типичные NLP‑задачи. Имеются как предобученная, так и instruction‑tuned версии, подходящие для генерации текста, ответов на вопросы и суммаризации. Модель распространяется под Apache 2.0 и доступна через BotHub с оплатой в рублях и без VPN.
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 32 768 токенов
- Макс. длина ответа
- 16 384 токена
- Возможности
- вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-small-24b-instruct-2501',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-small-24b-instruct-2501',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Mistral Small 24B (Instruct)?
Попробуйте Mistral Small 24B на BotHub — быстрый отклик и удобный доступ.Частые вопросы о Mistral Small 24B (Instruct)
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Mistral Small 24B Instruct 2501 — инструктивная текстовая модель для генерации и обработки текста, работы с документами и извлечения данных из изображений. Подходит для написания, редактирования, суммирования, анализа документов и интеграции в рабочие процессы через подключаемые инструменты.
Максимальный объём вывода у модели составляет 16384 токенов, а общий контекст при обработке достигает 32768 токенов. Это означает, что вы можете генерировать длинные ответы и работать с большим входным контекстом, но практические длины зависят от вашей задачи и интеграции.
В наших данных не отмечено, что модель официально выполняет явные рассуждения перед выводом ответа. Это не исключает возможности таких режимов; если вам важно пошаговое рассуждение, проверьте поведение модели на ваших промптах или используйте подходы, стимулирующие объяснения.
Да, модель поддерживает вызов функций и структурированный вывод в формате JSON, что удобно для интеграции с инструментами и автоматизации. Вы можете формировать запросы с ожиданием JSON-ответа и подключать внешние обработчики через механизмы function calling.
В наших данных указано, что модель принимает изображения и документы на вход, поэтому можно загружать изображения для извлечения текста или анализа. Про приём аудио и видео точной информации нет, так что для таких форматов рекомендуется проверять модель в рабочем сценарии.
Информация о качестве понимания русского языка в наших данных не указана. Рекомендуем протестировать модель на ваших типичных задачах и корпусе: это покажет, как она справляется с морфологией, стилем и терминологией в конкретных сценариях применения.