Command R+ 08-2024
нейросеть
Command R+ 08-2024 — обновление модели Command R+, обеспечивающее примерно на 50% большую пропускную способность и на 25% меньшие задержки по сравнению с предыдущей версией при сохранении того же аппаратного следа. Идеально подходит для высоконагруженных интерактивных сервисов, реального времени и массового пакетного инференса, где важны скорость и эффективность развёртывания. Доступна через BotHub с оплатой в рублях и без необходимости VPN.
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 128 000 токенов
- Макс. длина ответа
- 4 000 токенов
- Возможности
- вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'command-r-plus-08-2024',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'command-r-plus-08-2024',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Command R+ 08-2024?
Попробуйте Command R+ 08-2024 на BotHub — больше скорости при том же железе.Частые вопросы о Command R+ 08-2024
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Command R Plus 08-2024 работает с текстом, документами и изображениями, умеет вызывать инструменты и формировать структурированные ответы. Подходит для суммаризации, поиска и извлечения информации в большом контексте, обработки документов и интеграции с внешними сервисами через function calling.
За один ответ модель может сгенерировать до установленного максимума вывода, указанного в спецификации — максимум выходных токенов составляет 4000. Фактическая длина в символах зависит от токенизации и содержания, поэтому длинные тексты лучше разбивать на фрагменты.
В предоставленных данных явная поддержка внутреннего пошагового рассуждения не отмечена, поэтому нельзя уверенно утверждать о наличии chain‑of‑thought. Тем не менее вы можете запросить подробный пошаговый ответ в промпте, чтобы модель вернула разъяснения и логические шаги.
Да, модель поддерживает вызов функций и формирование структурированного вывода в формате JSON. Это удобно для интеграции с сервисами и автозадач: используйте механизм tools/function calling, чтобы получать предсказуемые машинно‑читаемые ответы для дальнейшей обработки.
Модель принимает на вход текст, документы и изображения, что используется для извлечения информации и анализа содержимого. В данных не отмечена явная поддержка аудио или видео, поэтому их обработку следует проверять отдельно или использовать специализированные модели.
В данных нет однозначной информации о качестве понимания русского языка этой модели. Она работает с текстом и документами, но точность и стиль на русском лучше проверить на ваших примерах; при необходимости вы можете сравнить модели в одном окне BotHub.