Jev Router

нейросеть

Jev Router — роутер запросов на основе Jev от TypeSafe, автоматически подбирает модель и уровень рассуждений для баланса качества и скорости

Характеристики

Входные данные
текст, изображения, документы
Результат
текст
Размер контекста
1 000 000 токенов
Макс. длина ответа
64 000 токенов
Уровни рассуждений
низкий, средний, высокий
Возможности
рассуждения, вызов функций
bothub
BotHub: Попробуйте нейросети бесплатноbot

Осталось Caps: 0 CAPS
Пример кода и API для Jev RouterМы предлагаем полный доступ к API OpenAI через наш сервис. Все наши конечные точки полностью соответствуют конечным точкам OpenAI, их можно использовать как с плагинами, так и при разработке собственного программного обеспечения через SDK.Создать API ключ
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'jev-router',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'jev-router',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Как работает Jev Router?

Jev Router — маршрутизатор запросов, построенный на Jev от TypeSafe, который для каждого запроса подбирает оптимальную модель и необходимое усилие рассуждений, учитывая баланс качества, скорости и затрат. Модель удобна там, где требуется автоматически выбирать между вариантами вывода и добиваться компромисса между точностью и временем отклика. Через BotHub вы получаете доступ к Jev Router без VPN и зарубежной карты с оплатой в рублях по факту и возможностью использовать его рядом с другими моделями в одном окне; платформа также предоставляет единый OpenAI‑совместимый API для мультимодельных систем и корпоративные условия с договором и админ‑панелью. Сценарии применения: повышение эффективности чат‑ассистентов за счёт автоматического выбора модели, оптимизация расходов API‑запросов, распределение запросов в продуктивных сервисах для ускорения отклика, интеграция в мультимодельные пайплайны с единым интерфейсом

Частые вопросы о Jev Router

Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.

jev-router преобразует текст, документы и изображения в текст: суммирование, извлечение данных, поиск по большим документам и составление длинных ответов. Большой контекст и высокий лимит вывода делают его удобным для работы с объёмными документами, длинными отчётами и цепочками запросов.

В наших данных указан максимум вывода — 330000 токенов, что позволяет генерировать очень большие документы и выдавать очень длинные ответы в одном вызове. Учтите, что длина в словах зависит от токенизации и структуры запроса.

В наших данных не отмечено, что jev-router выводит рассуждения перед ответом. При необходимости вы можете запросить пошаговое рассуждение в промпте — большой контекст позволяет формировать последовательные рассуждения, но конкретное поведение лучше проверить в реальных запросах.

В наших данных не отмечено, поддерживает ли jev-router вызов функций и структурированный вывод в JSON. Это можно выяснить экспериментально через API или уточнить у владельца. Также часто достигают структурированного вывода с помощью промптинга и постобработки ответов.

Можно загружать изображения и документы — jev-router поддерживает IMAGE_TO_TEXT и работу с документами. Поддержка аудио или видео в наших данных не отмечена. Если вам нужны мультимедийные входы помимо изображения, проверьте это в тестовом запросе.

В наших данных нет прямой информации о качестве понимания русского языка. Модель работает с текстом и документами, поэтому понимание русского лучше проверить на ваших тестовых задачах. Рекомендуем прогнать реальные примеры и оценить стиль, точность и сохранение контекста.

Служба поддержкиРаботаем с 10:00 до 18:00 по МСК