Skip to main content

Плагины для chat completions

Выберите подходящий плагин для запроса /v1/chat/completions.

Используйте plugins в /v1/chat/completions, когда одному запросу нужен явный выбор PDF engine, server-side response healing для structured output или санитизация секретов до запуска модели. Плагин web тоже входит в этот обзор как будущий built-in web search path, но для production он пока не готов.

Добавьте плагин в запрос

Добавьте одну запись в plugins. Остальная часть запроса остаётся обычным chat-completions вызовом.

request.json
{
  "model": "qwen/qwen3-235b-a22b-instruct-2507-fp8",
  "messages": [
    {
      "role": "user",
      "content": "Summarize this incident note, but hide apiKey=sk-live-demo-123456."
    }
  ],
  "plugins": [
    {
      "id": "privacy-sanitization",
      "mode": "redact"
    }
  ]
}
  • web: добавьте { "id": "web" }. Этот плагин пока в статусе coming soon и для production не готов.
  • file-parser: добавляйте pdf.engine только если запрос должен принудительно использовать pdf-text или native.
  • response-healing: дополнительно передайте stream: false и structured response_format.
  • privacy-sanitization: дополнительно передайте mode со значением redact, tokenize или block.

Доступные плагины

Web Search
Описание
Built-in web grounding после релиза. Этот путь пока в статусе coming soon, поэтому для поддерживаемого retrieval сегодня используйте Tool Calling.
PDF Inputs
Описание
Принудительный выбор PDF engine, когда server-managed auto handling недостаточно, или разбор различий между `pdf-text` и `native`.
Response Healing
Описание
Server-side repair path для non-stream structured output, когда `response_format` уже настроен правильно, но ответы всё ещё ломаются.
Privacy Sanitization
Описание
Редактирование, токенизация или блокировка чувствительных фрагментов до запуска модели. Не комбинируйте с built-in web search.

Как работает активация

  • plugins в запросе — это обычный путь активации для /v1/chat/completions.
  • Аутентифицированные API-запросы при включённой plugin settings policy также могут наследовать сохранённые plugin defaults.
  • web по-прежнему требует явного opt-in в каждом запросе.
  • file-parser всё ещё может применяться автоматически для PDF-входов, если достаточно server-managed выбора engine.

Ограничения и совместимость

  • web и privacy-sanitization нельзя запускать в одном и том же запросе.
  • response-healing работает только с stream: false и response_format.type, равным json_object или json_schema.
  • web поддерживает streaming и non-streaming запросы.
  • privacy-sanitization поддерживает streaming и non-streaming запросы.

См. также

  • Web Search для planned built-in web grounding path. Сейчас он в статусе coming soon.
  • PDF Inputs для file-parser, различий между pdf-text и native и PDF-specific ограничений.
  • Response Healing для non-stream починки structured output.
  • Privacy Sanitization для request-level санитизации секретов.
  • Structured Outputs, если реальная задача — это JSON-контракт, а не выбор плагина.
  • Tool Calling, если retrieval или tool execution должно жить на стороне приложения.
  • Chat Completions API reference для точной схемы поля plugins.
Была ли эта страница полезной?