gpt-oss-120b — 117B MoE
нейрожелі
gpt-oss-120b — 117 млрд параметрлі ашық Mixture-of-Experts (MoE) тілдік моделі, ол бір жолда шамамен 5.1 млрд параметрді іске қосады. Модель көп сатылы логика мен агентті басқаруды қажет ететін жоғары деңгейлі пайымдау тапсырмаларына, агенттік сценарийлерге және жалпы production-қолданыстарға бағытталған. VPN-сіз және рубльмен төлеу мүмкіндігімен ыңғайлы тестілеу мен интеграция үшін BotHub арқылы қолжетімді.
Сипаттамалары
- Кіріс деректер
- мәтін, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 131 072 токен
- Жауап ұзындығы бойынша ең көп шек
- 117 964 токен
- Пайымдау деңгейлері
- төмен, орташа, жоғары
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gpt-oss-120b:batch',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gpt-oss-120b:batch',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді gpt-oss-120b — 117B MoE?
gpt-oss-120b моделін BotHub-та көріңіз — жеке кабинетте тестілеңіз және интеграциялаңыз.gpt-oss-120b — 117B MoE туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
GPT OSS 120B (Batch) мәтіннің үлкен көлемін генерациялайды және түрлендіреді, құжаттардан ақпаратты шығарып, қорытындылайды, аналитикалық пайымдауларды орындайды және сыртқы құралдармен жұмыс істей алады. Күрделі мәтіндік тапсырмаларға, ұзын есептерді дайындауға, аналитикаға және құжаттарды өңдеуге жарайды.
Модель өте ұзын жауаптар бере алады: біздің деректерде шығыс мәліметтердің максимумы 117964 токен, ал контекст 131072 токенге дейін екені көрсетілген. Бұл егжей-тегжейлі көп беттік мәтіндерді қалыптастыруға және бір сұраныста үлкен фрагменттерді өңдеуге мүмкіндік береді.
Иә, деректерде модельдің жауап алдында пайымдауды қолдайтыны көрсетілген. Бұл логикалық және күрделі аналитикалық тапсырмаларды шешуге, қорытындыларды түсіндіруге және жауап сапасын арттыруға көмектеседі. Сіз қадамдық талдауды және аралық пайымдауларды тексеруді қолдана аласыз.
Иә, модель функцияларды шақыруды және JSON-ды қоса алғанда, құрылымдық шығысты қолдайды. Бұл сыртқы сервистермен және құралдармен интеграцияны жеңілдетеді: сіз машина оқи алатын пішімдерді сұрап, нәтижелерді қолданбаңызда автоматты түрде өңдей аласыз.
Біздің деректерде модельдің кіріс ретінде құжаттарды қабылдайтыны көрсетілген. Берілген деректерде суреттерді, аудио немесе видео файлдарды жүктеуді қолдау туралы айтылмаған. Егер мультимодальды кіріс қажет болса, BotHub-та медиамен жұмыс істейтін басқа модельдер бар.
Деректерде орыс тілін түсіну сапасы туралы тікелей мәлімет жоқ. Үлкен контексті және пайымдау мүмкіндігі бар тілдік модель ретінде ол мәтіндік сұраныстарды өңдейді, бірақ нақты жарамдылығын тәжірибелік тест арқылы тексеріп, BotHub-тағы модельдерді салыстырған жөн.