NVIDIA Nemotron 3.5 Lightning (MoE, 3B белсенді)
нейрожелі
Жалпы 30B көлемінен 3B белсенді параметрлері бар NVIDIA-ның ашық mixture-of-experts моделі. Өткізу қабілеті мен есептеулерді сарапшылар арасында тиімді бөлу маңызды болатын жоғары өнімді agent-style жұмыс жүктемелері мен тар мамандандырылған тапсырмалар үшін жасалған.
Сипаттамалары
- Кіріс деректер
- мәтін, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 1 048 576 токен
- Жауап ұзындығы бойынша ең көп шек
- 235 929 токен
- Пайымдау деңгейлері
- төмен, орташа, жоғары
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'nemotron-3.5-lightning',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'nemotron-3.5-lightning',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді NVIDIA Nemotron 3.5 Lightning (MoE, 3B белсенді)?
Nemotron 3.5 Lightning-ті BotHub арқылы іске қосыңыз — жылдам қол жеткізу және рубльмен төлеу мүмкіндігі.NVIDIA Nemotron 3.5 Lightning (MoE, 3B белсенді) туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
Nemotron 3.5 Lightning — мәтінді түрлендіруге және генерациялауға арналған мәтіндік модель: құжаттарды қорытындылау және олардан ақпарат алу, кеңейтілген жауаптар мен ой қорыту, құралдар мен функцияларды шақыру арқылы автоматтандыру. Құжаттарды талдау, көмекшілер және логика мен құрылымды нәтижені талап ететін тапсырмалар үшін қолайлы.
Модель бір сессия аясында үлкен көлемдегі мәтінді генерациялай алады, бұл кеңейтілген құжаттар мен егжей-тегжейлі түсініктемелер үшін жеткілікті. Бір жауаптың нақты көлемі сіз қолданып жатқан интеграция баптауларына және BotHub параметрлеріне байланысты.
Иә, Nemotron 3.5 Lightning жауапты қалыптастырмас бұрын ішкі ойлау процесін жүргізе алады, бұл логикалық және күрделі тапсырмаларды шешуге көмектеседі. Модельдің мінез-құлқын баптау және пайдаланушылар үшін түсініктемелер жасау кезінде осы аралық ой қорытуларға сүйенуге болады.
Иә, модель функцияларды шақыруды және JSON форматында құрылымды нәтижені қолдайды, бұл сыртқы сервистермен интеграцияны және автоматтандыруды жеңілдетеді. Деректерді құралдарға жіберуді баптап, кейінгі өңдеу үшін болжамды, машина оқи алатын жауаптар алуға болады.
Біздің деректерде ресми түрде мәтіннен бөлек құжаттарды қабылдау мүмкіндігі көрсетілген, оны талдау және қорытындылау үшін ыңғайлы пайдалануға болады. Суреттерді, аудио немесе бейнелерді жүктеу туралы мәлімет жоқ; мультимодальділік үшін интеграция нұсқаларын нақтылаңыз немесе контентті мәтінге айналдырыңыз.
Nemotron 3.5 Lightning ой қорыту қабілетіне ие және әдетте әртүрлі тілдердегі мәтіндік сұрауларды дұрыс өңдейді. Орыс тілін түсінудің нақты дәрежесі тұжырымдауға және пәндік салаға байланысты, сондықтан модельді өз мысалдарыңызда тексеріп көріңіз.