LFM 2.5 24B A2B
нейрожелі
Liquid AI ұсынған LFM 2.5 24B A2B — кезең-кезеңімен пайымдауға және құралдарды шақыруға арналған mixture-of-experts моделі
Сипаттамалары
- Кіріс деректер
- мәтін, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 128 000 токен
- Жауап ұзындығы бойынша ең көп шек
- 8 192 токен
- Пайымдау деңгейлері
- төмен, орташа, жоғары
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'lfm-2.5-24b-a2b',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'lfm-2.5-24b-a2b',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді LFM 2.5 24B A2B?
LFM 2.5 24B A2B — бұл Liquid AI компаниясының жалпы көлемі 24B және шығару кезінде 2.45B белсенді параметрі бар mixture-of-experts моделі. Модель әрқашан жауап бермес бұрын пайымдау жасап шығады және сыртқы құралдарды шақыратын агенттік жүйелер үшін жасалған, сондықтан кезеңдік логика мен шақыруларды оркестрлеуге жарамды. BotHub арқылы сіз мультимодельді шешімдер үшін бірыңғай OpenAI-үйлесімді API, бір терезеде модельдер арасында оңай ауысу, Ресейден VPN-сыз қолжетімділік және токенттердің жанып кетпей сақталуымен рубльмен факт бойынша төлем аласыз; деректер AES-GCM көмегімен шифрланады және сақталмайды. Қолдану мысалдары: сыртқы API шақыру арқылы агенттік көмекшілерді әзірлеу, күрделі жұмыс процестерін автоматтандыру, шешім қабылдауға арналған көп қадамды шешімдер, құралдарды оркестрлеуді тестілеу және модельді корпоративті басқару панелі бар гибридті жүйелерге біріктіруLFM 2.5 24B A2B туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
lfm-2.5-24b-a2b — мәтіндерді түрлендіруге, генерациялауға және құжаттармен жұмыс істеуге арналған мәтіндік модель. Қадамдық пайымдауларды, құралдар арқылы интеграцияны және function calling қолдайды, үлкен контекст береді, жинақтауға, сұрақтарға жауап беруге және көмекшілерді құруға жарамды.
Деректер бойынша, модель шығысының максималды көлемі — бір жауапта 8192 токен. Бұл қатаң түрде сөздер емес, токендер саны; токенизацияға байланысты бұл бірнеше мың сөздерге сәйкес келеді, бірақ нақты мәтін көлемі әртүрлі болуы мүмкін.
Иә, деректерде модельдің жауап бермес бұрын пайымдай алатыны көрсетілген. Ол қадамдық қорытынды жүргізіп, күрделі тапсырмалар, түсіндірмелер мен аналитика үшін пайдалы шешім логикасын түсіндіре алады.
Иә, модель функцияларды шақыруды және JSON қоса алғанда, құрылымдық шығаруды қолдайды. Бұл қызметтерге біріктіру үшін ыңғайлы: модель машина оқи алатын жауаптар қалыптастырып, деректерді function calling арқылы сіздің өңдеушілеріңізге бере алады.
Біздің деректерде модельдің құжаттарды қабылдайтыны көрсетілген. Деректерде суреттерді, аудио немесе видео қабылдау туралы ақпарат жоқ, сондықтан қосымша тексерусіз мультимодальді қолдау туралы айту мүмкін емес.
Деректерде бұл модельдің орыс тілін түсіну сапасына тікелей баға берілмеген. Модель мәтінмен жұмыс істейді, бірақ орыс тілі үшін дәлдік пен стилистика бойынша нақтылық көрсетілмеген — өндірісте қолданар алдында өз тесттік мысалдарыңызда тексерген жөн.