Llama Guard 4 (12B)
нейрожелі
Llama Guard 4 — Llama 4 Scout негізінде құрылған және мазмұнды қауіпсіздік тұрғысынан жіктеу міндеттері үшін қайта оқытылған мультимодальды модель. Мәтіндік және визуалды деректердегі қауіпті, жарамсыз немесе ереже бұзатын материалдарды тиімді анықтайды. Пайдаланушы мазмұнын сүзуге және BotHub арқылы өнімдерге модерацияны біріктіруге жарамды.
Сипаттамалары
- Кіріс деректер
- мәтін, кескіндер, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 163 840 токен
- Жауап ұзындығы бойынша ең көп шек
- 16 384 токен
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'llama-guard-4-12b',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'llama-guard-4-12b',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Llama Guard 4 (12B)?
Мазмұнды жылдам әрі сенімді модерациялау үшін BotHub-та Llama Guard 4-ті қосыңыз.Llama Guard 4 (12B) туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
Llama Guard 4 12B — мультимодальды мәтінге бағытталған модель: мәтінмен, құжаттармен және суреттермен жұмыс істейді, қорытынды жасауға, құжаттар бойынша сұрақтарға жауап беруге, ақпаратты алуға, жобалар мен аналитикалық жазбалар дайындауға, сондай-ақ үлкен контекст қажет болатын міндеттерге жарамды.
Модель бір жауапта 16384 токенге дейін генерациялай алады; мәтіннің нақты мөлшері токенизация мен қызмет баптауларына байланысты. Бұл бөліктерге бөлмей ұзақ жауап алу қажет болғанда үлкен мәтін фрагменттерін алуға мүмкіндік береді.
Біздің деректерде модельдің «жауап бермес бұрын пайымдаудың» арнайы режимі бар екені көрсетілмеген. Дегенмен, ол негізделген және жүйелі жауаптар бере алады, бірақ кіріктірілген пайымдау тізбегінің немесе айқын кезеңдік логиканың бар екені расталмаған.
Біздің деректерде функцияларды шақырудың нативті қолдауы көрсетілмеген. Модель сіздің үлгіңіз бойынша JSON форматында мәтін шығара алады, бірақ сыртқы шақырулармен автоматты интеграция немесе функцияны шақырудың арнайы механизмі расталмаған.
Модель суреттерді қабылдауды және құжаттармен жұмыс істеуді қолдайды, сондықтан талдау үшін суреттер мен құжаттарды жүктей аласыз. Аудио немесе видеоны қабылдау біздің деректерде көрсетілмеген, оларды өңдеу расталмаған.
Деректерде көрсетілмеген. Модель мәтіндік міндеттермен және құжаттармен жұмыс істейді, сондықтан әртүрлі тілдердегі енгізуді қабылдай алады, бірақ орыс тілін түсіну сапасы оқыту деректеріне байланысты және оны өз мысалдарыңызда тексеріп көруіңіз керек.