Nemotron 3.5 Lightning (NVIDIA)

нейрожелі

Nemotron 3.5 Lightning — NVIDIA-ның ашық mixture-of-experts (MoE) моделі, онда 30B параметрдің шамамен 3B-ы белсенді қолданылады, бұл жоғары өткізу қабілетін қамтамасыз етеді. Сұраныстарды параллельді өңдеуді және сарапшылар арқылы маршруттауды талап ететін ауқымды агенттік және мамандандырылған тапсырмаларға жарамды. Модель BotHub жеке кабинеті арқылы рубльмен төлеу мүмкіндігімен және VPN қажеттілігінсіз қолжетімді.

Сипаттамалары

Кіріс деректер
мәтін, құжаттар
Нәтиже
мәтін
Контекст өлшемі
1 000 000 токен
Жауап ұзындығы бойынша ең көп шек
65 536 токен
Пайымдау деңгейлері
төмен, орташа, жоғары
Мүмкіндіктер
пайымдау, функцияларды шақыру
bothub
BotHub: Нейрожелілерді тегін қолданып көріңізbot

Caps қалды: 0 CAPS
Nemotron 3.5 Lightning (NVIDIA) үшін API және код үлгісіБіз OpenAI API-іне толық қолжетімділікті ұсынамыз. Біздің барлық соңғы нүктелер OpenAI-мен толық сәйкес келеді, оларды плагиндермен де, SDK арқылы өз бағдарламаңызды әзірлегенде де қолдануға болады.API кілтін жасау
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'nemotron-3.5-lightning:free',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'nemotron-3.5-lightning:free',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Қалай жұмыс істейді Nemotron 3.5 Lightning (NVIDIA)?

Ауқымды және жылдам агенттік шешімдер үшін BotHub-та Nemotron 3.5 Lightning іске қосыңыз.

Nemotron 3.5 Lightning (NVIDIA) туралы жиі қойылатын сұрақтар

Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.

Nemotron 3.5 Lightning (Free) мәтінді генерациялайды және өңдейді, құжаттарды талдайды, күрделі логикалық есептеулерді орындайды және қосылатын құралдармен жұмыс істейді. Мәтін жазу мен рефакторингке, құжаттардан ақпарат алуға, аналитикаға және функцияларды шақыру арқылы қолданбаларға біріктіруге жарамды.

Бір жауапта Nemotron 3.5 Lightning (Free) 65536 токенге дейін шығара алады; модельдің контекстік жады өте ұзын контексттермен жұмыс істеуге мүмкіндік береді. Іс жүзінде шығыс мәтіннің ұзындығы BotHub интерфейсінің пішімі мен шектеулеріне байланысты.

Иә, модель жауап шығарар алдында логикалық пайымдауды қолдайды. Nemotron 3.5 Lightning (Free) жауапты негіздеу немесе күрделі аналитикалық тапсырманы орындау қажет болғанда, қадамдық ойлау процесін түсіндіре алады.

Иә, модель функцияларды шақыруды және JSON пішімінде құрылымдалған түрде жауап беруді қолдайды. Бұл сыртқы сервистермен интеграциялауға, мультимодельді пайплайндарды құруға және OpenAI-үйлесімді API арқылы қолданбаңызда қатаң құрылымдалған жауаптарды беруге ыңғайлы.

Модель мәтіннен бөлек құжаттарды қабылдайды, бұл ақпарат алу және мазмұнды рефакторингтеу үшін пайдалы. Біздің деректерде суреттерді, аудио немесе бейнелерді жүктеу қолдауы туралы ақпарат жоқ; егер сізге мультимедиа қажет болса, BotHub интерфейсінде қолжетімді модельдерді тексеріңіз немесе техникалық қолдау қызметіне хабарласыңыз.

Біздің деректерде тілдік мамандану туралы нақты ақпарат жоқ, сондықтан орыс тілін түсіну дәлдігі корпус пен мысалдарға байланысты. BotHub интерфейсінде өзіңізге тән сұраныстарды сынап көруді және нәтижені жақсарту үшін промпттарды немесе алдын ала оқыту құжаттарын бейімдеуді ұсынамыз.

Служба поддержкиРаботаем с 10:00 до 18:00 по МСК