Llama 3.3 70B (instruction-tuned)

нейросеть

Llama 3.3 70B — большая многоязычная текстовая модель от Meta, предварительно обученная и донастроенная на инструкции. Это text-in/text-out модель, подходящая для создания диалогов, генерации и редактирования контента, суммаризации и перевода. Модель доступна через BotHub в личном кабинете с оплатой в рублях и без необходимости VPN.

Характеристики

Входные данные
текст, изображения, документы
Результат
текст
Размер контекста
131 072 токена
Макс. длина ответа
115 200 токенов
Возможности
вызов функций
77,07 ₽

Стоимость промпта

(за 1M токенов)

77,07 ₽

Стоимость ответа

(за 1M токенов)

*Указаны цены при использовании API через ECO-провайдеров.
bothub
BotHub: Попробуйте нейросети бесплатноbot

Осталось Caps: 0 CAPS
Пример кода и API для Llama 3.3 70B (instruction-tuned)Мы предлагаем полный доступ к API OpenAI через наш сервис. Все наши конечные точки полностью соответствуют конечным точкам OpenAI, их можно использовать как с плагинами, так и при разработке собственного программного обеспечения через SDK.Создать API ключ
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'llama-3.3-70b-instruct',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'llama-3.3-70b-instruct',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Как работает Llama 3.3 70B (instruction-tuned)?

Попробуйте Llama 3.3 70B на BotHub — запустите модель в личном кабинете.

Частые вопросы о Llama 3.3 70B (instruction-tuned)

Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.

Llama 3.3 70B Instruct умеет обрабатывать текст и документы, распознавать содержимое изображений и работать с внешними инструментами. Подходит для ответов на вопросы, суммаризации, генерации инструкций, помощи с кодом и интеграции в прикладные системы.

Модель может генерировать длинные ответы в пределах максимального вывода: она поддерживает до 16384 выходных токенов и контекст длиной 128000 токенов. Практический объём полезного текста зависит от формата вывода и требований к структуре ответа.

В наших данных не отмечено, что модель ведёт внутренние цепочки рассуждений перед выводом, но вы можете попросить её дать пошаговое объяснение или рассуждение в явном виде. Результат будет зависеть от формулировки и сложности задачи.

Да, модель поддерживает вызов функций и структурированный вывод, включая JSON, что удобно для автоматизированных сценариев и интеграции. Это упрощает передачу результатов в сервисы и обработку ответов программно через API и внешние инструменты.

Модель принимает на вход текст и также поддерживает загрузку изображений и документов. Про поддержку аудио или видео в наших данных не отмечено; если нужны мультимодальные возможности, уточните требования и проводите тесты на вашей задаче.

В официальных данных нет точной метрики понимания русского, но модель демонстрирует способность работать с текстами на разных языках. Качество вывода на русском может варьироваться в зависимости от формулировки, предметной области и сложности запроса.

Служба поддержкиРаботаем с 10:00 до 18:00 по МСК