Auto Router — Авто‑роутер
нейрожелі
Auto Router сұранысты OpenRouter қауымдастығы ұқсас тапсырмалар үшін жиі таңдайтын модельге шығындар мен таңдау статистикасына негізделе отырып автоматты түрде бағыттайды. Егер модельді қолмен таңдағыңыз келмесе, сынақ және жұмыс үшін қолайлы нұсқаны жылдам табуға көмектеседі. Ыңғайлы және жылдам іске қосу үшін жеке кабинеттегі BotHub арқылы қолжетімді.
Сипаттамалары
- Кіріс деректер
- мәтін, кескіндер, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 2 000 000 токен
- Жауап ұзындығы бойынша ең көп шек
- 660 000 токен
- Пайымдау деңгейлері
- төмен, орташа, жоғары
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'auto',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'auto',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Auto Router — Авто‑роутер?
BotHub-та Auto Router-ді қолданып көріңіз — платформа сұранысыңызға қарай модельді өзі таңдасын.Auto Router — Авто‑роутер туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
Auto — мәтіндік және құжаттық тапсырмаларға арналған мультимодальды модель: құжаттарды мәтінге айналдыру, кескіндер бойынша жауап беру, күрделі пайымдаулар және құралдармен интеграция. Суммаризация, келісімшарттарды талдау, құжаттардан фактілерді шығарып алу және сыртқы функцияларды шақыру арқылы автоматтандыру үшін қолайлы.
Біздің деректерде өте үлкен максималды шығыс көрсетілген — 660 000 токен, бұл бір жауапта ұзын құжаттар мен мәтіннің үлкен бөліктерін генерациялауға мүмкіндік береді. Нақты көлемі контекстпен байланысқа және параметрлерге байланысты болады.
Иә, Auto жауапты тұжырымдамас бұрын пайымдауларды генерациялауды қолдайды; бұл күрделі тапсырмалар мен логикалық қорытынды жасау кезінде көмектеседі. Сіз егжей-тегжейлі пайымдауларды сұрай аласыз немесе оларды шешім қадамдарын түсіндіру және құралдармен интеграциялау кезінде нәтижелерді жөндеу үшін пайдалана аласыз.
Иә, біздің деректерде function calling және JSON форматындағы құрылымдық шығысты қолдау белгіленген. Бұл қызметтерге интеграциялау және API арқылы жауаптарды автоматтандырылған өңдеу, парсинг және деректерді сыртқы функцияларға одан әрі беру үшін ыңғайлы.
Біздің деректерде визуалды контентті талдауға және файлдардан мәтінді шығарып алуға мүмкіндік беретін кескіндер мен құжаттарды қабылдау көрсетілген. Аудио мен бейнені қолдау туралы берілген деректерде ештеңе айтылмаған, сондықтан нақты сценарийді тест арқылы тексерген жөн.
Модель туралы деректерде орыс тілін түсіну деңгейі анық көрсетілмеген. Сондықтан маңызды тапсырмалар үшін нақты мысалдарды тексеріп, шығыс сапасын бағалауға кеңес береміз. Қажет болса, интеграцияны қайта жазбастан BotHub арқылы промпттарды немесе басқа модельді таңдай аласыз.