Llama 3.3 70B (instruction-tuned)

нейрожелі

Llama 3.3 70B — Meta ұсынған, алдын ала оқытылған және нұсқаулар бойынша бапталған үлкен көптілді мәтіндік модель. Бұл диалогтар құруға, мазмұнды генерациялауға және өңдеуге, түйіндеме мен аударма жасауға жарамды text-in/text-out моделі.

Сипаттамалары

Кіріс деректер
мәтін, кескіндер, құжаттар
Нәтиже
мәтін
Контекст өлшемі
131 072 токен
Жауап ұзындығы бойынша ең көп шек
115 200 токен
Мүмкіндіктер
функцияларды шақыру
77,07 ₽

Промптың құны

(1М токенге қарай)

77,07 ₽

Жауаптың құны

(1М токенге қарай)

*Бағалар API-ді ECO-провайдерлер арқылы қолданғанда көрсетілген.
bothub
BotHub: Нейрожелілерді тегін қолданып көріңізbot

Caps қалды: 0 CAPS
Llama 3.3 70B (instruction-tuned) үшін API және код үлгісіБіз OpenAI API-іне толық қолжетімділікті ұсынамыз. Біздің барлық соңғы нүктелер OpenAI-мен толық сәйкес келеді, оларды плагиндермен де, SDK арқылы өз бағдарламаңызды әзірлегенде де қолдануға болады.API кілтін жасау
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'llama-3.3-70b-instruct',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'llama-3.3-70b-instruct',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Қалай жұмыс істейді Llama 3.3 70B (instruction-tuned)?

Llama 3.3 70B-ны BotHub-та қолданып көріңіз — жеке кабинетте модельді іске қосыңыз.

Llama 3.3 70B (instruction-tuned) туралы жиі қойылатын сұрақтар

Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.

Llama 3.3 70B Instruct мәтін мен құжаттарды өңдеуге, кескіндердің мазмұнын тануға және сыртқы құралдармен жұмыс істеуге қабілетті. Сұрақтарға жауап беруге, түйіндеме жасауға, нұсқаулықтар құруға, кодпен көмектесуге және қолданбалы жүйелерге интеграциялауға жарайды.

Модель максималды шығыс шегінде ұзақ жауаптар жасай алады: ол 16384 шығыс токенін және 128000 токенге дейінгі контекст ұзындығын қолдайды. Пайдалы мәтіннің нақты көлемі шығыс пішіміне және жауап құрылымына қойылатын талаптарға байланысты.

Біздің деректерде модельдің жауап алдында ішкі пайымдау тізбегін жүргізетіні туралы ақпарат жоқ, бірақ сіз одан кезең-кезеңімен түсініктеме беруді немесе пайымдауды ашық түрде сұрай аласыз. Нәтиже тапсырманың күрделілігіне байланысты болады.

Иә, модель функцияларды шақыруды және JSON-ды қоса алғанда, құрылымдық шығысты қолдайды, бұл автоматтандырылған сценарийлер мен интеграция үшін ыңғайлы. Бұл нәтижелерді сервистерге беруді және API мен сыртқы құралдар арқылы бағдарламалық түрде өңдеуді жеңілдетеді.

Модель кіріс ретінде мәтінді қабылдайды, сондай-ақ суреттер мен құжаттарды жүктеуді қолдайды. Аудио немесе видео қолдауы туралы біздің деректерде ақпарат жоқ; егер мультимодальды мүмкіндіктер қажет болса, талаптарды нақтылап, тапсырмаңыз бойынша сынақтар өткізіңіз.

Ресми деректерде орыс тілін түсінудің нақты метрикасы жоқ, бірақ модель әртүрлі тілдердегі мәтіндермен жұмыс істеу қабілетін көрсетеді. Орыс тіліндегі жауап сапасы тұжырымдауға, пәндік салаға және сұраудың күрделілігіне байланысты өзгеруі мүмкін.

Қолдау қызметі10:00-ден 18:00-ге дейін МСК жұмыс істейміз