Nemotron 3.5 Lightning (NVIDIA)
нейросеть
Nemotron 3.5 Lightning — открытая mixture-of-experts (MoE) модель NVIDIA, где из 30B параметров активно используются около 3B, что обеспечивает высокую пропускную способность. Подходит для масштабных agentic и специализированных задач, требующих параллельного обслуживания запросов и маршрутизации по экспертам. Модель доступна через личный кабинет BotHub с оплатой в рублях и без необходимости VPN.
Характеристики
- Входные данные
- текст, документы
- Результат
- текст
- Размер контекста
- 1 000 000 токенов
- Макс. длина ответа
- 65 536 токенов
- Уровни рассуждений
- низкий, средний, высокий
- Возможности
- рассуждения, вызов функций
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'nemotron-3.5-lightning:free',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'nemotron-3.5-lightning:free',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Nemotron 3.5 Lightning (NVIDIA)?
Запустите Nemotron 3.5 Lightning на BotHub для масштабных и быстрых агентных решений.Частые вопросы о Nemotron 3.5 Lightning (NVIDIA)
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Nemotron 3.5 Lightning (Free) генерирует и редактирует текст, обрабатывает документы, выполняет сложные рассуждения и работает с подключаемыми инструментами. Подходит для написания и рефакторинга текста, извлечения информации из документов, аналитики и интеграции в приложения через вызов функций.
За один ответ Nemotron 3.5 Lightning (Free) может вывести до 65536 токенов; контекстная память модели позволяет работать с очень длинными контекстами. На практике длина выходного текста зависит от формата и платформенных ограничений интерфейса BotHub.
Да — модель поддерживает рассуждения перед выводом. Nemotron 3.5 Lightning (Free) может проговаривать пошаговые рассуждения и объяснять ход мысли, когда это нужно, чтобы обосновать ответ или выполнить сложную аналитическую задачу.
Да — модель поддерживает вызов функций и структурированный вывод в формате JSON. Это удобно для интеграции с внешними сервисами, построения мультимодельных пайплайнов и передачи строго структурированных ответов в вашем приложении через OpenAI-совместимый API.
Модель принимает документы помимо текста, что полезно для извлечения информации и рефакторинга содержимого. Поддержка загрузки изображений, аудио или видео в наших данных не отмечена; если вам нужно мультимедиа, проверьте доступные модели в интерфейсе BotHub или спросите техподдержку.
В наших данных нет явной информации о языковой специализации, поэтому точность понимания русского зависит от корпуса и примеров. Рекомендуем протестировать типичные для вас запросы в интерфейсе BotHub и при необходимости адаптировать промпты или предобучающие документы для улучшения результата.