自架模型閘道

LLMs

一個自架的模型閘道:你的程式只連這一個端點,就能用同一套寫法呼叫不同的模型供應商,供應商金鑰只存在自己的機器上。附網頁後台,可加入供應商、發 API 金鑰。以 Docker Compose 在自己的機器上起站,主金鑰、加密金鑰與資料庫密碼由腳本隨機產生。衍生自 Apache-2.0 授權的開源模型閘道軟體凍結快照;交付含自原始碼建置映像的編排檔(閘道與 PostgreSQL 兩個服務)、機密與設定檔產生腳本和繁中快速開始文件。

訂閱並下載查看啟動方式

訂閱US$49 每月

最近實跑2026-11-02

實際使用

開箱可用度4 / 5

你需要準備

修改工作量少4 / 5

適合誰

同時使用多家模型、想把供應商金鑰集中放在自己機器上的開發者與小團隊。

如何啟動

$ sh scripts/quickstart/init-env.sh
$ docker compose up -d --build

瀏覽檔案

以下為固定版本的商品檔案。少數本店自用的檔案不會放進 zip。

檔案總覽2,000+ 個路徑

▸alembic131

env.py
script.py.mako
versions/

▸any-fetch41

LICENSE
README.md
pyproject.toml
scripts/
src/
tests/

▸any-search41

LICENSE
README.md
pyproject.toml
scripts/
src/
tests/

▸assets4

architecture.mmd
architecture.png
otari-demo.gif
otari-logo.svg

▸cli17

LICENSE
README.md
pyproject.toml
src/

▸demo31

catalog-smoke/
code-exec/
guardrails/
web-search/

▸deploy3

railway/

▸docs36

SUMMARY.md
access-control.md
agent-guardrails-reference.md
agent-guardrails.md
api-reference.md
chatgpt-subscription.md
code-execution-protocol.md
configuration.md
dashboard.md
deployment.md
…

▸integrations18

e2e/
langchain-otari/
pydantic-ai-otari/

▸loadtest9

.gitignore
README.md
ab.py
comparison.py
docker-compose.yml
fakeprovider.py
otari-config.yml
pytest.ini
run.sh

▸packaging1

homebrew/

▸plugins5

otari-router/

▸scripts30

check_alembic_heads.py
check_architecture.py
check_code_execution_conformance.py
check_railway_template.py
check_stale_regen_prs.py
demo_gif/
docker_liveness_check.sh
generate_openapi.py
generate_postman.py
homebrew_formula.py
…

▸src585

gateway/

▸tests636

conftest.py
fixtures/
integration/
unit/

▸web267

.gitignore
.storybook/
.vitest/
AGENTS.md
CLAUDE.md
README.md
biome.jsonc
design/
e2e/
index.html
…

▫AGENTS.md

▫ARCHITECTURE.md

▫ATTRIBUTION.md

▫CHANGELOG.md

▫CLAUDE.md

▫CODE_OF_CONDUCT.md

▫CONTRIBUTING.md

▫DOMAINS.md

▫Dockerfile

▫GOVERNANCE.md

▫LICENSE

▫LICENSE-99LL.md

▫Makefile

▫PRODUCT.md

▫QUICKSTART.md

▫README.md

▫RELEASE.md

▫SECURITY.md

▫SECURITY.upstream.md

▫SUPPORT.md

▫alembic.ini

▫cliff.toml

▫codecov.yml

▫config.example.yml

▫delivery-manifest.txt

▫docker-compose.build.yml

▫docker-compose.yml

▫openapitools.json

▫pyproject.toml

▫pytest.ini

▫uv.lock

▫設定檔與隱藏檔 114

購前披露

你買的是什麼

自架模型閘道:你的程式只連這一個端點,就能呼叫不同的模型供應商,供應商金鑰只存在自己的機器上。附網頁後台可加入供應商。跑產生腳本後用 Docker Compose 起站。

衍生自 Apache-2.0 授權的開源模型閘道軟體,非原專案本身。我方加工:自原始碼建置映像的編排檔、機密產生腳本與繁中快速開始文件。

交付形式是凍結快照:一份 zip 檔,內容取自商品倉庫 6053c71 這個版本。

已知限制

服務以明文 HTTP 開在本機 8000 埠,TLS 與反向代理要自備
後台介面只有英文
交付內沒有任何模型供應商,要在後台自行加入並填入自己的金鑰
交付前沒有用真實的供應商金鑰送過模型請求
加密金鑰遺失後,已存的供應商金鑰無法解開
備份要同時保存資料庫匯出檔與 .env
docker compose down -v 會刪除所有供應商、API 金鑰、預算與用量紀錄
首次啟動要從原始碼建置映像,期間向 registry、npm 與 PyPI 取件
建置時安裝的 corepack 與 uv 取當日最新版
釘死在交付快照,不追上游。

責任上限、承諾範圍與法定底線,以服務條款為準。

查核紀錄

以下每一項皆依固定版本查核。每一項結果都附上理由、證據連結與查核人。未通過的項目也如實列出，以供檢驗。

5 通過0 需注意0 未通過

Source Review

原始碼審閱

PASS 通過

交付執行面逐項審:我方加工檔逐行審讀 —— docker-compose.yml(對外埠只綁 127.0.0.1;資料庫不對外開埠;主金鑰、加密金鑰、獨立密鑰與資料庫密碼缺任一就拒絕啟動;設定檔唯讀掛入;對應 host.docker.internal 讓容器連得到本機模型服務)、scripts/quickstart/init-env.sh(openssl 產生隨機值,.env 權限 600,已有的 .env 與設定檔不覆蓋)與設定檔範本。上游 Python 與前端原始碼未逐檔審讀,以 Apache-2.0 授權與容器隔離為依據。

Script Safety

腳本與權限

PASS 通過

買家交付路徑會執行的腳本逐一檢視:init-env.sh 為我方所寫(逐行審);建置走 Dockerfile(逐行讀過:多階段建置,前端以 pnpm 依鎖定檔安裝、後端以 uv 依鎖定檔安裝;建置時自 npm 安裝 corepack、升級 pip 並安裝 uv;未見下載後直接餵給 shell 執行的形狀)。閘道在容器內以非 root 使用者執行。

Recency

90 天活躍度

PASS 通過

本商品為凍結快照,不追上游:上游原始碼釘死於商品倉庫建立當日取得的主線版本(見證據連結),商品倉庫由該快照加上我方加工 commits 組成。

License

授權

PASS 通過

SPDX:LicenseRef-99LL-Product

上游 LICENSE 逐字實查(證據連結指向釘死版本的檔案本體,並與商品倉庫內同一份比對一致):Apache License 2.0 全文,版權行為 Mozilla.ai。允許商用、修改、衍生、再散布與販售,義務包含隨附授權全文、保留版權與歸屬聲明、在修改過的檔案標明有改動;上游沒有 NOTICE 檔(LICENSE 與 ATTRIBUTION.md 隨 zip 交付)。非依 GitHub 的 license 欄位判定。商品整體另附 99LL 商品授權範本:上游 LICENSE 原樣保留,另置 LICENSE-99LL.md 作為加工部分的銷售與責任條款,spdx 記 LicenseRef-99LL-Product。

Dependency Licenses

相依套件授權

PASS 通過

記載的是宣告面,不是掃描結果:Python 相依以 pyproject.toml 宣告、uv.lock 鎖定,前端以 package.json 宣告、pnpm-lock.yaml 鎖定,套件本體由買家建置時自各自的套件庫取得;基底映像由 registry 取得。這些相依樹未逐包掃描授權。上游沒有 submodule,沒有另外複製進來的第三方資料集(見 ATTRIBUTION.md)。