GPT-3.5 Turbo (16K)
нейросеть
GPT-3.5 Turbo (16K) предоставляет увеличенный контекст — примерно 16 000 токенов, что позволяет отправлять в одном запросе около 20 страниц текста. Хорошо подходит для суммаризации длинных документов, работы с большими диалогами и аналитики контекста; запросы обычно дороже базовой версии. Модель доступна через BotHub с оплатой в рублях и без необходимости VPN.
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 16 385 токенов
- Макс. длина ответа
- 4 096 токенов
- Возможности
- вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gpt-3.5-turbo-16k',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gpt-3.5-turbo-16k',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает GPT-3.5 Turbo (16K)?
Попробуйте GPT-3.5 Turbo 16K на BotHub — длинные запросы без VPN и оплата в рублях.Частые вопросы о GPT-3.5 Turbo (16K)
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
GPT 3.5 Turbo 16K — текстовая модель с увеличенным контекстом, умеет обрабатывать большие документы, работать с кодом и рефакторингом, извлекать и генерировать текст, принимать изображения и документы на вход, поддерживает интеграцию через вызовы функций для автоматизации задач.
Максимальный объём одного ответа ограничен доступными токенами вывода — в данных указан лимит на вывод в виде токенов. При этом общий контекст включает вход и ответ в пределах доступной длины контекста, поэтому фактическая длина зависит от токенизации и объёма промпта.
В наших данных не отмечено наличие отдельной явной стадии рассуждений перед ответом. Вы можете запрашивать пошаговые объяснения или цепочку мыслей, и модель постарается их сгенерировать, но качество такого вывода будет зависеть от формулировки запроса.
Да, в данных подтверждена поддержка function calling и структурированного вывода JSON. Это удобно для интеграции в приложения: модель может возвращать предсказуемые структуры, облегчая парсинг ответов и вызов внешних функций из вашего кода.
В данных указано, что модель принимает на вход изображения и документы. Про приём аудио и видео в наших данных не отмечено. Если вам нужна мультимодальная обработка других форматов, это стоит проверить экспериментально в рамках вашего сценария.
В наших данных нет прямой информации о качестве понимания русского языка этой модели. Практическая эффективность будет зависеть от ваших примеров и формулировок. Увеличенный контекст модели облегчает работу с объёмными текстами и удобен для проверки на ваших задачах.