Llama 3.3 70B (instruction-tuned)
нейросеть
Llama 3.3 70B — большая многоязычная текстовая модель от Meta, предварительно обученная и донастроенная на инструкции. Это text-in/text-out модель, подходящая для создания диалогов, генерации и редактирования контента, суммаризации и перевода. Модель доступна через BotHub в личном кабинете с оплатой в рублях и без необходимости VPN.
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 131 072 токена
- Макс. длина ответа
- 115 200 токенов
- Возможности
- вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'llama-3.3-70b-instruct',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'llama-3.3-70b-instruct',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Llama 3.3 70B (instruction-tuned)?
Попробуйте Llama 3.3 70B на BotHub — запустите модель в личном кабинете.Частые вопросы о Llama 3.3 70B (instruction-tuned)
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Llama 3.3 70B Instruct умеет обрабатывать текст и документы, распознавать содержимое изображений и работать с внешними инструментами. Подходит для ответов на вопросы, суммаризации, генерации инструкций, помощи с кодом и интеграции в прикладные системы.
Модель может генерировать длинные ответы в пределах максимального вывода: она поддерживает до 16384 выходных токенов и контекст длиной 128000 токенов. Практический объём полезного текста зависит от формата вывода и требований к структуре ответа.
В наших данных не отмечено, что модель ведёт внутренние цепочки рассуждений перед выводом, но вы можете попросить её дать пошаговое объяснение или рассуждение в явном виде. Результат будет зависеть от формулировки и сложности задачи.
Да, модель поддерживает вызов функций и структурированный вывод, включая JSON, что удобно для автоматизированных сценариев и интеграции. Это упрощает передачу результатов в сервисы и обработку ответов программно через API и внешние инструменты.
Модель принимает на вход текст и также поддерживает загрузку изображений и документов. Про поддержку аудио или видео в наших данных не отмечено; если нужны мультимодальные возможности, уточните требования и проводите тесты на вашей задаче.
В официальных данных нет точной метрики понимания русского, но модель демонстрирует способность работать с текстами на разных языках. Качество вывода на русском может варьироваться в зависимости от формулировки, предметной области и сложности запроса.