Jev Router
нейросеть
Jev Router — роутер запросов на основе Jev от TypeSafe, автоматически подбирает модель и уровень рассуждений для баланса качества и скорости
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 1 000 000 токенов
- Макс. длина ответа
- 64 000 токенов
- Уровни рассуждений
- низкий, средний, высокий
- Возможности
- рассуждения, вызов функций
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'jev-router',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'jev-router',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Jev Router?
Jev Router — маршрутизатор запросов, построенный на Jev от TypeSafe, который для каждого запроса подбирает оптимальную модель и необходимое усилие рассуждений, учитывая баланс качества, скорости и затрат. Модель удобна там, где требуется автоматически выбирать между вариантами вывода и добиваться компромисса между точностью и временем отклика. Через BotHub вы получаете доступ к Jev Router без VPN и зарубежной карты с оплатой в рублях по факту и возможностью использовать его рядом с другими моделями в одном окне; платформа также предоставляет единый OpenAI‑совместимый API для мультимодельных систем и корпоративные условия с договором и админ‑панелью. Сценарии применения: повышение эффективности чат‑ассистентов за счёт автоматического выбора модели, оптимизация расходов API‑запросов, распределение запросов в продуктивных сервисах для ускорения отклика, интеграция в мультимодельные пайплайны с единым интерфейсомЧастые вопросы о Jev Router
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
jev-router преобразует текст, документы и изображения в текст: суммирование, извлечение данных, поиск по большим документам и составление длинных ответов. Большой контекст и высокий лимит вывода делают его удобным для работы с объёмными документами, длинными отчётами и цепочками запросов.
В наших данных указан максимум вывода — 330000 токенов, что позволяет генерировать очень большие документы и выдавать очень длинные ответы в одном вызове. Учтите, что длина в словах зависит от токенизации и структуры запроса.
В наших данных не отмечено, что jev-router выводит рассуждения перед ответом. При необходимости вы можете запросить пошаговое рассуждение в промпте — большой контекст позволяет формировать последовательные рассуждения, но конкретное поведение лучше проверить в реальных запросах.
В наших данных не отмечено, поддерживает ли jev-router вызов функций и структурированный вывод в JSON. Это можно выяснить экспериментально через API или уточнить у владельца. Также часто достигают структурированного вывода с помощью промптинга и постобработки ответов.
Можно загружать изображения и документы — jev-router поддерживает IMAGE_TO_TEXT и работу с документами. Поддержка аудио или видео в наших данных не отмечена. Если вам нужны мультимедийные входы помимо изображения, проверьте это в тестовом запросе.
В наших данных нет прямой информации о качестве понимания русского языка. Модель работает с текстом и документами, поэтому понимание русского лучше проверить на ваших тестовых задачах. Рекомендуем прогнать реальные примеры и оценить стиль, точность и сохранение контекста.