gpt-oss-20b (MoE, 21B, ашық)
нейрожелі
gpt-oss-20b — Apache 2.0 лицензиясымен шығарылған 21 млрд параметрі бар ашық модель. Mixture-of-Experts архитектурасының арқасында әрбір өту кезінде шамамен 3.6 млрд параметр іске қосылады, бұл мәнерлілік пен инференс үнемділігі арасындағы тепе-теңдікті қамтамасыз етеді. Мәтін генерациялау, NLU тапсырмалары және жылдам прототиптеу үшін қолайлы; BotHub-та VPN-сіз және рубльмен төлеу мүмкіндігімен қолжетімді.
Сипаттамалары
- Кіріс деректер
- мәтін, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 131 072 токен
- Жауап ұзындығы бойынша ең көп шек
- 117 964 токен
- Пайымдау деңгейлері
- төмен, орташа, жоғары
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gpt-oss-20b:batch',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gpt-oss-20b:batch',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді gpt-oss-20b (MoE, 21B, ашық)?
gpt-oss-20b-ті BotHub-та іске қосыңыз — жылдам, рубльмен және VPN-сіз.gpt-oss-20b (MoE, 21B, ашық) туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
GPT OSS 20B (Batch) мәтінді түрлендіруді, құжаттардан ақпарат алуды, пайымдауды және құралдармен интеграцияны орындайды. Ұзын мәтіндерді генерациялауға, құжаттарды талдауға, логикалық тапсырмаларға және function calling арқылы автоматтандыруға жарамды; промпттарды тексеруге және салыстыруға ыңғайлы.
Модель өте ұзын жауаптар генерациялай алады: үлкен контекст терезесінде бір жауапта 117964-ке дейін шығыс токен қолжетімді. Іс жүзінде пайдалы нәтиженің ұзындығы кіріс деректерге және промптты қалай қалыптастырып, контекстті қалай басқаратыныңызға байланысты.
Иә, модель жауап бермес бұрын пайымдауды қолдайды: деректерде оның күрделі логикалық және STEM тапсырмаларын шешуге көмектесетін ішкі пайымдау тізбектерін жүргізе алатыны көрсетілген. Нәтиже сұраныстың тұжырымдалуына және нұсқаулықтың құрылымына байланысты.
Иә, GPT OSS 20B (Batch) функцияларды шақыруды және JSON пішімінде құрылымдалған нәтижені қолдайды. Бұл деректерде расталған: модель function calling мүмкіндігіне ие және сыртқы құралдармен және машина оқи алатын жауап қажет конвейерлермен интеграциялауға жарамды.
Модель кіріс ретінде құжаттарды қабылдайды, бірақ деректерде суреттерді, аудио немесе видеоны жүктеу туралы тікелей белгі жоқ. Егер сізге мультимодальды мүмкіндіктер қажет болса, BotHub платформасындағы қолдауды тексеріңіз немесе мәтіндік сипаттамалар мен қоса берілген құжаттарды пайдаланыңыз.
Нақты деректерде орыс тілін түсінуге баға берілмеген. Әдетте сапа оқыту деректері мен промпттарға байланысты, сондықтан модельді нақты мысалдарыңызда сынап көруді және қажет болса, промпттарды түзетуді немесе BotHub арқылы басқа модельді таңдауды ұсынамыз.