Llama 3.2 (3B) — Instruct
нейрожелі
Llama 3.2 3B — диалог, пайымдау және мазмұндауға арналған 3 миллиардтық көптілді модель. Чат-боттарға, сұрақ-жауапқа, қысқа және толық түйіндемелер дайындауға және мәнмәтінге тәуелді мәтіндерді генерациялауға жарамды. BotHub арқылы VPN-сіз және рубльмен төлем жасау мүмкіндігімен қолжетімді.
Сипаттамалары
- Кіріс деректер
- мәтін, кескіндер, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 131 072 токен
- Жауап ұзындығы бойынша ең көп шек
- 72 000 токен
- Мүмкіндіктер
- функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'llama-3.2-3b-instruct',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'llama-3.2-3b-instruct',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Llama 3.2 (3B) — Instruct?
Llama 3.2 3B-ны BotHub-та қолданып көріңіз — VPN-сіз қолжетімділік және рубльмен төлем.Llama 3.2 (3B) — Instruct туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
Llama 3.2 3B Instruct мәтінді түрлендіреді, құжаттардан ақпаратты шығарып, қорытындылайды, суреттерді қабылдайды және қосылатын құралдармен жұмыс істей алады. Нұсқаулар бойынша жауап беруге, түйіндеме жасауға, құжаттарды өңдеуге және қолданбалы шешімдерге интеграциялауға жарамды.
Модель мәнмәтін көлемі мен максималды шығыспен шектелген: мәнмәтін көлемі 131072 токен және максималды шығыс 117964 токен. Тәжірибеде интерфейс немесе API қосымша шектеулер қоюы мүмкін, сондықтан жауаптың нақты ұзындығын өз ортаңызда тексерген жөн.
Берілген деректерде «жауап алдында пайымдаудың» айқын қолдауы көрсетілмеген; бұл қадамдық пайымдауларды алу мүмкіндігін жоққа шығармайды. Сіз модельді промпттар арқылы ойлануға ынталандыра аласыз, бірақ мінез-құлқын нақты мысалдар арқылы тексерген дұрыс.
Иә, модель функцияларды шақыруды және сыртқы сервистермен интеграциялауға әрі жауаптарды автоматты түрде өңдеуге ыңғайлы JSON форматындағы құрылымды шығысты қолдайды. Болжамды нәтижелер алу үшін шығыс пішімін сұраныста нақты көрсеткен жөн.
Llama 3.2 3B Instruct файлдар мен суреттерден мәтін мен мәнмәтінді алуға мүмкіндік беретін суреттер мен құжаттарды кіріс дерек ретінде қабылдайды. Берілген деректерде аудио немесе видеоны қабылдау туралы мәлімет жоқ, сондықтан мұндай сценарийлерді тестілеу немесе құжаттама арқылы нақтылау керек.
Деректерде орыс тілін түсіну сапасы туралы нақты мәліметтер жоқ. Тілді түсіну жаттығу деректері мен мысалдарға байланысты, сондықтан модельдің орыс тіліне жарамдылығын анықтау үшін типтік сұраныстарды орындап, нәтижелерін бағалауды ұсынамыз.