Inkling Small

нейросеть

Inkling Small — открытая мультимодальная mixture-of-experts модель от Thinking Machines Lab с 12B активных параметров из общего пула 276B. Спроектирована как более компактный и энергоэффективный представитель семейства и подходит для экономичного инференса в мультимодальных сценариях (текст+изображение). Доступна для тестирования и интеграции через BotHub без VPN и с оплатой в рублях.

Характеристики

Входные данные
текст, изображения, документы
Результат
текст
Размер контекста
524 288 токенов
Макс. длина ответа
262 144 токена
Уровни рассуждений
без рассуждений, минимальный, низкий, средний, высокий, max
Возможности
рассуждения, вызов функций
48,85 ₽

Стоимость промпта

(за 1M токенов)

130,26 ₽

Стоимость ответа

(за 1M токенов)

*Указаны цены при использовании API через ECO-провайдеров.
bothub
BotHub: Попробуйте нейросети бесплатноbot

Осталось Caps: 0 CAPS
Пример кода и API для Inkling SmallМы предлагаем полный доступ к API OpenAI через наш сервис. Все наши конечные точки полностью соответствуют конечным точкам OpenAI, их можно использовать как с плагинами, так и при разработке собственного программного обеспечения через SDK.Создать API ключ
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'inkling-small',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'inkling-small',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Как работает Inkling Small?

Попробуйте Inkling Small на BotHub — экономичное мультимодальное решение.

Частые вопросы о Inkling Small

Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.

Это текстовая модель, которая преобразует документы и изображения в связный текст, выполняет аналитические и логические задачи, отвечает на запросы и интегрируется с внешними инструментами. Если вы хотите извлекать информацию и автоматизировать рабочие процессы, модель подходит для таких задач.

Модель может генерировать очень большие ответы — вплоть до установленного предела вывода в токенах. В наших данных указан максимум выходных токенов 262144; вам стоит учитывать общий контекст и ограничения сервиса.

Да, модель поддерживает рассуждения перед ответом и может приводить пошаговые объяснения хода мысли по вашему запросу, что полезно для сложных задач и проверки логики ответа в пользовательских сценариях.

Да. Inkling Small поддерживает вызов функций и структурированный вывод в формате JSON, что облегчает интеграцию с внешними инструментами и автоматизацию. Вы можете задавать схему вывода для стабильного парсинга результатов.

Можно загружать изображения и документы — модель умеет извлекать текст и делать вывод по визуальному контенту. Про поддержку аудио или видео в наших данных не отмечено, поэтому уточняйте у техподдержки или тестируйте на ваших примерах.

В данных о модели конкретной оценки качества русского языка нет. Если вам важно качество русскоязычного вывода, вы протестируйте модель на своих примерах и при необходимости переключитесь на другую модель через BotHub для сравнения.

Служба поддержкиРаботаем с 10:00 до 18:00 по МСК