NVIDIA Nemotron 3.5 Lightning (MoE, 3B активных)
нейросеть
Открытая mixture‑of‑experts модель от NVIDIA с 3B активных параметров из общего размера 30B. Предназначена для высокопроизводительных agent‑style рабочих нагрузок и узкоспециализированных задач, где важна пропускная способность и эффективное распределение вычислений между экспертами. Подходит для масштабируемых агентов, параллельных пайплайнов и сценариев с большим числом одновременных запросов; доступна через BotHub без VPN и с оплатой в рублях.
Характеристики
- Входные данные
- текст, документы
- Результат
- текст
- Размер контекста
- 1 048 576 токенов
- Макс. длина ответа
- 235 929 токенов
- Уровни рассуждений
- низкий, средний, высокий
- Возможности
- рассуждения, вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'nemotron-3.5-lightning',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'nemotron-3.5-lightning',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает NVIDIA Nemotron 3.5 Lightning (MoE, 3B активных)?
Запустите Nemotron 3.5 Lightning на BotHub — быстрый доступ и оплата в рублях.Частые вопросы о NVIDIA Nemotron 3.5 Lightning (MoE, 3B активных)
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Nemotron 3.5 Lightning — текстовая модель для преобразования и генерации текста: суммаризация и извлечение из документов, развёрнутые ответы и рассуждения, автоматизация через инструменты и вызов функций. Подходит для аналитики документов, помощников и задач, требующих логики и структурированного вывода.
Модель способна генерировать большие объёмы текста в рамках одной сессии, достаточно для развёрнутых документов и подробных объяснений. Конкретный объём одного ответа зависит от настроек интеграции и сервиса, который вы используете, включая параметры BotHub.
Да, Nemotron 3.5 Lightning умеет вести внутренние рассуждения перед формулировкой ответа, что помогает решать логические и сложные задачи. Вы можете опираться на эти промежуточные рассуждения при настройке поведения модели и при создании объяснений для пользователей.
Да, модель поддерживает вызов функций и структурированный вывод в формате JSON, что упрощает интеграцию с внешними сервисами и автоматизацию. Вы можете настроить передачу данных в инструменты и получать предсказуемые машинно-читаемые ответы для дальнейшей обработки.
В наших данных официально отмечен приём документов помимо текста, который удобно использовать для анализа и суммаризации. Про загрузку изображений, аудио или видео в наших данных не отмечено; для мультимодальности уточняйте варианты интеграции или конвертируйте контент в текст.
Nemotron 3.5 Lightning обладает развитой способностью к рассуждениям и обычно корректно обрабатывает текстовые запросы на разных языках. Конкретная степень понимания русского зависит от формулировки и предметной области, поэтому тестируйте модель на ваших типичных примерах.