Skip to content
Merged
Show file tree
Hide file tree
Changes from all commits
Commits
File filter

Filter by extension

Filter by extension

Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
2 changes: 1 addition & 1 deletion docs-site/src/content/docs/getting-started/quickstart.md
Original file line number Diff line number Diff line change
Expand Up @@ -13,7 +13,7 @@ ocx init

`ocx init` walks you through:

1. **Pick a provider** — choose one of the 77 built-in registry presets or `custom` to type a base
1. **Pick a provider** — choose one of the 78 built-in registry presets or `custom` to type a base
URL and adapter.
2. **API key** — paste a key, or reference an environment variable like `${ANTHROPIC_API_KEY}`.
3. **Default model** — for key, local, and custom providers, accept the preset or enter a model id.
Expand Down
11 changes: 10 additions & 1 deletion docs-site/src/content/docs/guides/providers.md
Original file line number Diff line number Diff line change
Expand Up @@ -217,7 +217,7 @@ selectors, then retry. Signing in from a machine with no existing `kiro-cli` ses

## 3. API-key catalog

opencodex ships 77 built-in presets: 65 key-based, eight OAuth, three local, and one default
opencodex ships 78 built-in presets: 66 key-based, eight OAuth, three local, and one default
Comment thread
coderabbitai[bot] marked this conversation as resolved.
ChatGPT-forward preset. The dashboard's **Add provider** picker opens a key provider's dashboard,
validates the key, and stores it; validation is provider-specific. Notable entries:

Expand Down Expand Up @@ -260,6 +260,7 @@ free-experimentation model.
| Nebius Token Factory | `https://api.tokenfactory.nebius.com/v1` |
| DigitalOcean Serverless Inference | `https://inference.do-ai.run/v1` |
| Scaleway Generative APIs | `https://api.scaleway.ai/v1` |
| Featherless AI | `https://api.featherless.ai/v1` |
| Together | `https://api.together.xyz/v1` |
| Fireworks | `https://api.fireworks.ai/inference/v1` |
| Moonshot (Kimi API) · Kimi (coding) | `https://api.moonshot.ai/v1` · `https://api.kimi.com/coding/v1` |
Expand Down Expand Up @@ -368,6 +369,14 @@ rows. It uses the default Project's shared endpoint; project-qualified URLs and
deployments require a custom provider. Create an API key in the
[Scaleway console](https://console.scaleway.com/generative-api).

**Featherless discovery.** The preset authenticates against the fixed OpenAI-compatible host and
requests only the first 100 popular models filtered upstream to chat and the current plan. Registry
rules then fail closed unless each row independently reports plan availability, no Hugging Face
gate, and `features.tool_use: true`. Discovery is capped at 128 KiB and 100 raw rows, so the service's
tens-of-thousands-model catalog is never downloaded or cached in full. Because `/v1/models` is documented as callable with or without authentication, it cannot prove a supplied key is valid; chat requests still use the configured Bearer key. Featherless terms reserve
individual plans for interactive/prototyping use; arbitrary applications require a Scale plan.
Create a key in the [Featherless dashboard](https://featherless.ai/account/api-keys).

> **Baseten scope:** The preset covers Baseten's shared [Model APIs](https://docs.baseten.co/inference/model-apis/overview)
> only. Use a personal [API key](https://docs.baseten.co/organization/api-keys) for local use, or a team key
> with **Call Model APIs** access for shared/production use. Dedicated Truss `predict` endpoints use different
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -13,7 +13,7 @@ ocx init

`ocx init` では次の手順を説明します。

1. **プロバイダーを選択してください** — 77 個の組み込みレジストリプリセットのいずれか、または `custom` を選択してベース URL とアダプターを入力します。
1. **プロバイダーを選択してください** — 78 個の組み込みレジストリプリセットのいずれか、または `custom` を選択してベース URL とアダプターを入力します。
2. **API キー** — キーを貼り付けるか、`${ANTHROPIC_API_KEY}` のような環境変数を参照します。
3. **デフォルト モデル** — キー、ローカル、カスタム プロバイダーの場合は、プリセットを受け入れるか、モデル ID を入力します。
4. **プロキシ ポート** — デフォルトは `10100` です。
Expand Down
10 changes: 9 additions & 1 deletion docs-site/src/content/docs/ja/guides/providers.md
Original file line number Diff line number Diff line change
Expand Up @@ -144,7 +144,7 @@ Kiro のログインには Kiro CLI が必要です。Unix では `curl -fsSL ht

## 3. API キーカタログ

opencodex には組み込みプリセットが 77 個含まれています。キー方式 65、OAuth 8、ローカル 3、
opencodex には組み込みプリセットが 78 個含まれています。キー方式 66、OAuth 8、ローカル 3、
デフォルト ChatGPT 転送プリセット 1 です。ダッシュボードの **Add provider** ピッカーはキー発行ページを開き、
入力したキーを検証した後保存します(検証はプロバイダー固有です)。主な項目は以下のとおりです:

Expand Down Expand Up @@ -187,6 +187,7 @@ Cline IDE/CLI のみで API からは使えません。`minimax/minimax-m2.5`
| Nebius Token Factory | `https://api.tokenfactory.nebius.com/v1` |
| DigitalOcean Serverless Inference | `https://inference.do-ai.run/v1` |
| Scaleway Generative APIs | `https://api.scaleway.ai/v1` |
| Featherless AI | `https://api.featherless.ai/v1` |
| Together | `https://api.together.xyz/v1` |
| Fireworks | `https://api.fireworks.ai/inference/v1` |
| Moonshot (Kimi API) · Kimi (coding) | `https://api.moonshot.ai/v1` · `https://api.kimi.com/coding/v1` |
Expand Down Expand Up @@ -279,6 +280,13 @@ id は fail closed で除外し、discovery を 128 KiB と raw 128 行に制限
endpoint を使用します。Project id 付き URL と dedicated deployment は custom provider で設定してください。
API キーは [Scaleway console](https://console.scaleway.com/generative-api) で作成します。

**Featherless の discovery:** 固定の OpenAI 互換ホストで認証し、chat と現在の plan に絞った人気順の
先頭 100 model だけを取得します。各 row が plan で利用可能、Hugging Face gate なし、かつ
`features.tool_use: true` と独立して報告しない限り fail closed で除外します。discovery は 128 KiB と
raw 100 行が上限で、数万件の catalog 全体を download / cache しません。`/v1/models` は認証あり・なしの両方で呼び出せると文書化されているため、入力したキーの有効性は証明できませんが、chat request は設定済みの Bearer キーで認証されます。個人 plan は interactive / prototype
用途に限られ、任意の application には Scale plan が必要です。キーは
[Featherless dashboard](https://featherless.ai/account/api-keys) で作成します。
Comment thread
coderabbitai[bot] marked this conversation as resolved.

> **Baseten の対象範囲:** このプリセットは Baseten の共有 [Model APIs](https://docs.baseten.co/inference/model-apis/overview)
> のみを対象とします。ローカル利用では個人の [API キー](https://docs.baseten.co/organization/api-keys)を、
> 共有/本番利用では **Call Model APIs** 権限を持つチームキーを使用してください。専用 Truss `predict`
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -13,7 +13,7 @@ ocx init

`ocx init`은 다음 과정을 안내합니다:

1. **프로바이더 선택** — 내장 레지스트리 프리셋 77개 중 하나를 고르거나 `custom`을 선택해 base URL과 adapter를 직접 입력합니다.
1. **프로바이더 선택** — 내장 레지스트리 프리셋 78개 중 하나를 고르거나 `custom`을 선택해 base URL과 adapter를 직접 입력합니다.
2. **API 키** — 키를 붙여넣거나 `${ANTHROPIC_API_KEY}` 같은 환경 변수를 참조합니다.
3. **기본 모델** — 키, 로컬, custom 프로바이더에서는 프리셋을 그대로 쓰거나 모델 ID를 직접 입력합니다.
4. **프록시 포트** — 기본값은 `10100`입니다.
Expand Down
10 changes: 9 additions & 1 deletion docs-site/src/content/docs/ko/guides/providers.md
Original file line number Diff line number Diff line change
Expand Up @@ -143,7 +143,7 @@ Kiro 로그인에는 Kiro CLI가 필요합니다. Unix에서는 `curl -fsSL http

## 3. API 키 카탈로그

opencodex에는 빌트인 프리셋이 77개 들어 있습니다. 키 방식 65개, OAuth 8개, 로컬 3개,
opencodex에는 빌트인 프리셋이 78개 들어 있습니다. 키 방식 66개, OAuth 8개, 로컬 3개,
기본 ChatGPT 포워드 프리셋 1개입니다. 대시보드의 **Add provider** 선택기는 키 발급 페이지를 열고,
입력한 키를 검증한 뒤 저장합니다(검증은 프로바이더별로 다릅니다). 주요 항목은 다음과 같습니다:

Expand Down Expand Up @@ -187,6 +187,7 @@ Cline IDE/CLI에서만 제공되며 API로는 사용할 수 없습니다. `minim
| Nebius Token Factory | `https://api.tokenfactory.nebius.com/v1` |
| DigitalOcean Serverless Inference | `https://inference.do-ai.run/v1` |
| Scaleway Generative APIs | `https://api.scaleway.ai/v1` |
| Featherless AI | `https://api.featherless.ai/v1` |
| Together | `https://api.together.xyz/v1` |
| Fireworks | `https://api.fireworks.ai/inference/v1` |
| Moonshot (Kimi API) · Kimi (coding) | `https://api.moonshot.ai/v1` · `https://api.kimi.com/coding/v1` |
Expand Down Expand Up @@ -277,6 +278,13 @@ discovery를 256 KiB와 raw 행 256개로 제한합니다. agent 전용 및 dedi
Project ID가 포함된 URL과 dedicated deployment는 custom provider로 설정하세요. API 키는
[Scaleway console](https://console.scaleway.com/generative-api)에서 생성합니다.

**Featherless 검색:** 고정된 OpenAI 호환 호스트에서 인증하고, chat 및 현재 plan으로 필터링한 인기 모델의
첫 100개만 요청합니다. 각 행이 plan 사용 가능, Hugging Face gate 없음, `features.tool_use: true`를
독립적으로 보고하지 않으면 fail closed로 제외합니다. 검색은 128 KiB와 raw 100행으로 제한되어 수만 개의
전체 catalog를 다운로드하거나 캐시하지 않습니다. `/v1/models`는 문서상 인증 여부와 관계없이 호출할 수 있어 입력한 키의 유효성을 증명할 수 없지만, chat request는 설정된 Bearer 키로 인증됩니다. 개인 plan은 interactive/prototype 용도로 제한되며 임의의
application에는 Scale plan이 필요합니다. 키는
[Featherless dashboard](https://featherless.ai/account/api-keys)에서 생성합니다.

> **Baseten 범위:** 이 프리셋은 Baseten의 공유 [Model APIs](https://docs.baseten.co/inference/model-apis/overview)만
> 지원합니다. 로컬 사용에는 개인 [API 키](https://docs.baseten.co/organization/api-keys)를, 공유/프로덕션
> 사용에는 **Call Model APIs** 권한이 있는 팀 키를 사용하세요. 전용 Truss `predict` 엔드포인트는
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -13,7 +13,7 @@ ocx init

`ocx init` проведёт вас по следующим шагам:

1. **Выбор провайдера** — выберите один из 77 встроенных пресетов реестра или `custom`, чтобы
1. **Выбор провайдера** — выберите один из 78 встроенных пресетов реестра или `custom`, чтобы
ввести базовый URL и адаптер вручную.
2. **API-ключ** — вставьте ключ или сошлитесь на переменную окружения вида `${ANTHROPIC_API_KEY}`.
3. **Модель по умолчанию** — для провайдеров с ключом, локальных и `custom` примите значение из
Expand Down
12 changes: 11 additions & 1 deletion docs-site/src/content/docs/ru/guides/providers.md
Original file line number Diff line number Diff line change
Expand Up @@ -154,7 +154,7 @@ OAuth-провайдеры, чьи учётные данные содержат

## 3. Каталог API-ключей

opencodex поставляется с 77 встроенными пресетами: 65 на основе ключей, восемь OAuth, три локальных и
opencodex поставляется с 78 встроенными пресетами: 66 на основе ключей, восемь OAuth, три локальных и
один пресет ChatGPT-форварда по умолчанию. Селектор **Add provider** в дашборде открывает страницу
выдачи ключей провайдера, проверяет ключ и сохраняет его; проверка зависит от провайдера.
Наиболее заметные записи:
Expand Down Expand Up @@ -198,6 +198,7 @@ opencodex поставляется с 77 встроенными пресетам
| Nebius Token Factory | `https://api.tokenfactory.nebius.com/v1` |
| DigitalOcean Serverless Inference | `https://inference.do-ai.run/v1` |
| Scaleway Generative APIs | `https://api.scaleway.ai/v1` |
| Featherless AI | `https://api.featherless.ai/v1` |
| Together | `https://api.together.xyz/v1` |
| Fireworks | `https://api.fireworks.ai/inference/v1` |
| Moonshot (Kimi API) · Kimi (coding) | `https://api.moonshot.ai/v1` · `https://api.kimi.com/coding/v1` |
Expand Down Expand Up @@ -303,6 +304,15 @@ embedding-, transcription- и прочие media-model id исключаются
Project ID и dedicated deployment настраиваются как custom provider. API-ключ создаётся в
[консоли Scaleway](https://console.scaleway.com/generative-api).

**Discovery для Featherless.** Пресет проходит аутентификацию на фиксированном OpenAI-совместимом
хосте и запрашивает только первые 100 популярных моделей, отфильтрованных по chat и текущему plan.
Затем registry по принципу fail closed требует, чтобы каждая строка отдельно подтверждала доступность
по plan, отсутствие Hugging Face gate и `features.tool_use: true`. Discovery ограничен 128 KiB и 100
исходными строками, поэтому каталог из десятков тысяч моделей не загружается и не кэшируется целиком.
`/v1/models` описан как вызываемый как с аутентификацией, так и без неё, поэтому не может подтвердить корректность введённого ключа, но chat-запросы всё равно аутентифицируются настроенным Bearer-ключом.
Индивидуальные plan предназначены для interactive/prototype; произвольные приложения требуют Scale
plan. Ключ создаётся в [дашборде Featherless](https://featherless.ai/account/api-keys).

> **Область Baseten:** пресет поддерживает только общие [Model APIs](https://docs.baseten.co/inference/model-apis/overview)
> Baseten. Для локальной работы используйте личный [API-ключ](https://docs.baseten.co/organization/api-keys),
> а для общего/промышленного использования — командный ключ с правом **Call Model APIs**. Выделенные конечные точки Truss `predict` используют другие хосты и
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -13,7 +13,7 @@ ocx init

`ocx init` 会引导你完成:

1. **选择 provider** — 从内置 registry 的 77 个预设中选择一个,或选择 `custom` 手动输入 base URL 和 adapter。
1. **选择 provider** — 从内置 registry 的 78 个预设中选择一个,或选择 `custom` 手动输入 base URL 和 adapter。
2. **API key** — 粘贴一个 key,或引用一个环境变量,例如 `${ANTHROPIC_API_KEY}`。
3. **默认模型** — 对于 key、本地和 custom provider,接受预设值或输入模型 id。
4. **代理端口** — 默认为 `10100`。
Expand Down
9 changes: 8 additions & 1 deletion docs-site/src/content/docs/zh-cn/guides/providers.md
Original file line number Diff line number Diff line change
Expand Up @@ -132,7 +132,7 @@ Kiro 登录需要 Kiro CLI:Unix 使用 `curl -fsSL https://cli.kiro.dev/instal

## 3. API 密钥目录

opencodex 内置 77 个预设:65 个密钥预设、8 个 OAuth 预设、3 个本地预设,以及 1 个默认的
opencodex 内置 78 个预设:66 个密钥预设、8 个 OAuth 预设、3 个本地预设,以及 1 个默认的
ChatGPT 转发预设。仪表盘的 **Add provider** 选择器会打开密钥提供商的控制台,验证并保存密钥。
验证因提供商而异。主要条目包括:

Expand Down Expand Up @@ -175,6 +175,7 @@ Cline IDE/CLI 中提供,不能通过 API 使用;`minimax/minimax-m2.5` 是
| Nebius Token Factory | `https://api.tokenfactory.nebius.com/v1` |
| DigitalOcean Serverless Inference | `https://inference.do-ai.run/v1` |
| Scaleway Generative APIs | `https://api.scaleway.ai/v1` |
| Featherless AI | `https://api.featherless.ai/v1` |
| Together | `https://api.together.xyz/v1` |
| Fireworks | `https://api.fireworks.ai/inference/v1` |
| Moonshot (Kimi API) · Kimi (coding) | `https://api.moonshot.ai/v1` · `https://api.kimi.com/coding/v1` |
Expand Down Expand Up @@ -257,6 +258,12 @@ Responses-only、embedding 和 media-generation 模型 id 会按 fail closed 原
dedicated deployment 需要配置为 custom provider。API 密钥可在
[Scaleway 控制台](https://console.scaleway.com/generative-api) 创建。

**Featherless 发现:**该预设在固定的 OpenAI 兼容主机上鉴权,只请求按 chat 和当前 plan 过滤后的热门
模型第一页,最多 100 条。registry 随后按 fail closed 原则要求每条记录分别报告当前 plan 可用、无需
Hugging Face gate,且 `features.tool_use: true`。发现上限为 128 KiB 和 100 条原始记录,因此不会下载或
缓存包含数万模型的完整目录。由于 `/v1/models` 在文档中可带或不带鉴权调用,它无法证明输入的密钥有效;chat 请求仍会使用已配置的 Bearer 密钥认证。个人 plan 仅适用于 interactive/prototype 用途;任意 application 需要使用
Comment thread
coderabbitai[bot] marked this conversation as resolved.
Scale plan。密钥可在 [Featherless dashboard](https://featherless.ai/account/api-keys) 创建。

> **Baseten 范围:**该预设仅覆盖 Baseten 的共享 [Model APIs](https://docs.baseten.co/inference/model-apis/overview)。
> 本地使用可选择个人 [API 密钥](https://docs.baseten.co/organization/api-keys);共享或生产用途请使用具备
> **Call Model APIs** 权限的团队密钥。
Expand Down
13 changes: 10 additions & 3 deletions src/adapters/openai-chat.ts
Original file line number Diff line number Diff line change
Expand Up @@ -829,9 +829,16 @@ export function createOpenAIChatAdapter(provider: OcxProviderConfig): ProviderAd
}

if (tools) {
body.parallel_tool_calls = provider.parallelToolCalls === false
? false
: parsed.options.parallelToolCalls !== false;
if (provider.parallelToolCalls === false) {
// NIM documents the Boolean defaulting to false and kimi rejects true; pin the
// wire bit so Codex cannot opt in via request.options. Other opted-out providers
// omit the field so strict OpenAI-compatible hosts never see an unsupported knob.
if (provider.baseUrl === "https://integrate.api.nvidia.com/v1") {
body.parallel_tool_calls = false;
}
} else if (provider.parallelToolCalls === true) {
body.parallel_tool_calls = parsed.options.parallelToolCalls !== false;
}
}
if (parsed.stream) body.stream_options = { include_usage: true };

Expand Down
Loading
Loading