Ling 3.0 Tiny
нейрожелі
InclusionAI-ден Ling 3.0 Tiny — көп айналымды диалогтар мен интерактивті агенттерге арналған жеңіл MoE моделі
Сипаттамалары
- Кіріс деректер
- мәтін, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 262 144 токен
- Жауап ұзындығы бойынша ең көп шек
- 250 000 токен
- Пайымдау деңгейлері
- төмен, орташа, жоғары
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ling-3.0-tiny',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ling-3.0-tiny',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Ling 3.0 Tiny?
Ling 3.0 Tiny — InclusionAI-дің 7.9B параметрінің ішінен 1.3B белсенді параметрі бар mixture-of-experts моделі. Ол жауапты агенттерге, нұсқауларды орындауға және көп айналымды әңгімелерге арналған. BotHub арқылы сіз модельге Ресейден VPN-сіз және шетелдік картасыз тікелей қол жеткізе аласыз, төлем рубльмен жүзеге асырылады, барлық модельдер бір терезеде және біріктіру үшін бірыңғай OpenAI-үйлесімді API бар. Деректерді беру AES-GCM арқылы қорғалған және деректер платформада сақталмайды. Модель техникалық қолдау көрсету чат-ассистенттеріне, интерактивті қызмет көрсету агенттеріне, диалогтық сценарийлерді прототиптеуге, жауаптарды автоматтандыруға және көп айналымды агенттердің мінез-құлқын тестілеуге жарамдыLing 3.0 Tiny туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
ling-3.0-tiny — құжаттарды түрлендіру мен талдауға, мәтін генерациялауға және кодпен жұмыс істеуге арналған ықшам мәтіндік модель. Құжаттарды өңдеу, мәтін бойынша сұрақтарға жауап беру, ықшам ассистенттер және қосылатын құралдар арқылы автоматтандыру тапсырмаларына жарамды. Ресурстарды үнемдеу маңызды жерлерде тиімді.
Спецификация бойынша ling-3.0-tiny бір жауапта 250 000-ға дейін шығыс токенін генерациялай алады. Іс жүзінде жауаптың қолжетімді ұзындығы интерфейспен, платформа параметрлерімен немесе сессия параметрлерімен шектелуі мүмкін, сондықтан нақты көлемді өз ортаңызда тексерген жөн.
Иә, ling-3.0-tiny түпкілікті жауап алдында аралық пайымдаулар мен логикалық қадамдарды қалыптастыра алады. Сіз нақты түсініктемелерді, кезең-кезеңімен қорытындыларды немесе қысқаша түйінді сұрай аласыз — модель нақты пайымдауларды жауаптың бөлігі ретінде немесе жеке блок ретінде қолдайды.
Иә, модель функцияларды шақыруды және JSON форматында құрылымдалған шығысты қолдайды. Бұл оны сыртқы құралдармен және сервистермен біріктіруге мүмкіндік береді: модель машина оқи алатын нысандарды қайтара алады және автоматтандырылған жұмыс процестері үшін алдын ала сипатталған функцияларды шақыра алады.
Модельдің негізгі кірісі — мәтін мен құжаттар; деректерде құжаттарды қабылдау көрсетілген. Ұсынылған ақпаратта суреттерді, аудио немесе видеоны жүктеуге қолдау көрсетілмеген, сондықтан мультимедиялық енгізу мүмкіндіктерін интеграцияңызда немесе провайдерден нақтылаңыз.
Орыс тілін түсіну сапасы оқыту деректеріне және промттардың тұжырымдалуына байланысты. Спецификацияда тілдік мамандану туралы нақты нұсқау жоқ, сондықтан орыс тіліндегі нақты дәлдікті өз тапсырмаларыңызда тексерген жөн: мысалдар беріңіз және жауаптардың тұрақтылығын бағалаңыз.