Mistral Small 24B (Instruct)

нейросеть

Mistral Small 24B — 24‑миллиардная языковая модель, оптимизированная для низкой задержки и быстрого отклика на типичные NLP‑задачи. Имеются как предобученная, так и instruction‑tuned версии, подходящие для генерации текста, ответов на вопросы и суммаризации. Модель распространяется под Apache 2.0 и доступна через BotHub с оплатой в рублях и без VPN.

Характеристики

Входные данные
текст, изображения, документы
Результат
текст
Размер контекста
32 768 токенов
Макс. длина ответа
16 384 токена
Возможности
вызов функций
5,43 ₽

Стоимость промпта

(за 1M токенов)

8,68 ₽

Стоимость ответа

(за 1M токенов)

*Указаны цены при использовании API через ECO-провайдеров.
bothub
BotHub: Нейрожелілерді тегін қолданып көріңізbot

Caps қалды: 0 CAPS
Mistral Small 24B (Instruct) үшін API және код үлгісіБіз OpenAI API-іне толық қолжетімділікті ұсынамыз. Біздің барлық соңғы нүктелер OpenAI-мен толық сәйкес келеді, оларды плагиндермен де, SDK арқылы өз бағдарламаңызды әзірлегенде де қолдануға болады.API кілтін жасау
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'mistral-small-24b-instruct-2501',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'mistral-small-24b-instruct-2501',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Как работает Mistral Small 24B (Instruct)?

Попробуйте Mistral Small 24B на BotHub — быстрый отклик и удобный доступ.

Частые вопросы о Mistral Small 24B (Instruct)

Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.

Mistral Small 24B Instruct 2501 — инструктивная текстовая модель для генерации и обработки текста, работы с документами и извлечения данных из изображений. Подходит для написания, редактирования, суммирования, анализа документов и интеграции в рабочие процессы через подключаемые инструменты.

Максимальный объём вывода у модели составляет 16384 токенов, а общий контекст при обработке достигает 32768 токенов. Это означает, что вы можете генерировать длинные ответы и работать с большим входным контекстом, но практические длины зависят от вашей задачи и интеграции.

В наших данных не отмечено, что модель официально выполняет явные рассуждения перед выводом ответа. Это не исключает возможности таких режимов; если вам важно пошаговое рассуждение, проверьте поведение модели на ваших промптах или используйте подходы, стимулирующие объяснения.

Да, модель поддерживает вызов функций и структурированный вывод в формате JSON, что удобно для интеграции с инструментами и автоматизации. Вы можете формировать запросы с ожиданием JSON-ответа и подключать внешние обработчики через механизмы function calling.

В наших данных указано, что модель принимает изображения и документы на вход, поэтому можно загружать изображения для извлечения текста или анализа. Про приём аудио и видео точной информации нет, так что для таких форматов рекомендуется проверять модель в рабочем сценарии.

Информация о качестве понимания русского языка в наших данных не указана. Рекомендуем протестировать модель на ваших типичных задачах и корпусе: это покажет, как она справляется с морфологией, стилем и терминологией в конкретных сценариях применения.

Служба поддержкиРаботаем с 10:00 до 18:00 по МСК