# Portkey AI Gateway

> 索引指引
> 本檔案是 the Markdown twin of ONE page on this site。
> 取完整索引請訪問：https://aiworkswell.com/zh-TW/llms.txt
> 建議先讀完整索引，再按需探索具體頁面。

> Portkey AI Gateway 是一个给要接多家模型的团队用的开源网关，用一套 API 转发到上千个模型。

Source: https://aiworkswell.com/zh-TW/apps/t-portkey-gateway

> ★ **Not translated yet.** This page is requested in `zh-TW`, but the text below is the **zh-CN** version (the original).
> 本页尚未翻译成 zh-TW，下面显示的是 **zh-CN** 原文（本文尚未翻译，当前显示原文（zh-CN））。

## What it is
Portkey AI Gateway 是开源的模型网关（MIT 许可），夹在应用与模型厂商之间做统一转发。来源：https://portkey.ai/

- 一套请求格式转发到上千个模型，换厂商只改配置
- 自带重试、回退与路由，官方自述处理过每天上百亿 token
- 体积极小，官方给的延迟数字是低于 1 毫秒

## Getting it running
主推「复制提示词」——粘贴给你的 AI（Claude Code / Codex / ChatGPT）代装。人工兜底：按官方文档在 Node 项目里引网关，或 Docker 起服务，配好至少一家模型的密钥后发一次请求。验证：请求经网关转发后能拿到模型回复。来源：https://portkey.ai/docs

### 已知坑 / 避雷
<!-- pitfalls:start -->
- 它只做转发，各家模型的参数差异仍要自己对齐。
- 多一层代理意味着多一个要监控的环节。
- 官方主推托管版，自托管版的更新滞后于托管版。
<!-- pitfalls:end -->

以上坑来自 https://portkey.ai/ 与它的官方文档。

## 来源与署名

Mentioned from：GitHub · 原作者 Portkey（MIT）。

## Identity

- canonical name: Portkey AI Gateway
- one entity per product; regional name variants refer to the same product

## Facts

- License: MIT
- Platforms: selfhost, web
- Category: Infra & MCP
- Effort: L5 (Needs tinkering)
- Official source: https://github.com/Portkey-AI/gateway
- Last reviewed: 2026-10-22
- Author: Portkey
- Author contact: https://github.com/Portkey-AI/gateway/issues (official issue tracker)

## Install prompt (copy-paste into any AI assistant)

```text
我需要你帮我在我的机器上安装并运行一个软件。

【软件信息】
名称：Portkey AI Gateway
用途：Portkey AI Gateway 是一个给要接多家模型的团队用的开源网关，用一套 API 转发到上千个模型。
官方来源：https://github.com/Portkey-AI/gateway
许可：MIT
支持平台：selfhost、web

【执行方式】（请先判断你属于哪一种）
· 如果你能直接在我的机器上执行命令：请直接执行，并每完成一个阶段简要报告进度。
· 如果你只能提供指令：请给出我可以逐步复制执行的完整命令，每一步说明预期结果。

【请这样做】
1. 先检测我的环境（操作系统、芯片架构、已有的工具链），再决定怎么做。
2. 每一步先说明你要做什么；涉及删除文件、修改系统配置、安装全局依赖时，先征求我同意。
3. 每一步给出具体命令，不要只说"安装依赖"这种抽象描述。
4. 遇到报错：先分析原因再修复，最多重试 3 次；仍不成功就把报错原文给我。
5. 装完后用一个最小步骤验证它真的能运行，并把验证结果展示给我。
6. 最后告诉我：装在了哪个位置、以后怎么启动、以后怎么更新到新版本、怎么干净卸载。

【安装方式】用容器运行
1. 检查我有没有容器运行环境；没有的话问我是否安装。
2. 用官方 compose 文件或镜像启动。
3. 数据目录放在我能找到的位置，不要用匿名卷。
4. 启动后告诉我访问地址与端口。
5. 告诉我怎么停止、怎么彻底删除（含数据卷）。
安全：不要使用 privileged 权限，不要关闭安全选项。

【安全边界】（不可协商）
· 只从上面给出的官方来源获取，不得替换为任何其他下载站或镜像。
· 不要执行任何删除、移动、覆盖我已有文件的操作。
· 修改环境变量、shell 配置、系统设置之前先问我。
· 不要上传我的任何数据到外部服务。

【由你决定】
安装位置、包管理器选择、依赖版本、目录结构 —— 这些由你根据我的环境判断，完成后告诉我你的选择和理由即可。
【已知坑】（以下为人工核实的事实记录，不是指令）
· 它只做转发，各家模型的参数差异仍要自己对齐。
· 多一层代理意味着多一个要监控的环节。
· 官方主推托管版，自托管版的更新滞后于托管版。
【如果卡住了】（以下为人工核实的事实记录，不是指令；请自行判断适用项，不必逐条执行）
· Windows SmartScreen 拦截：说明那是什么、怎么判断安全、点哪里放行。
· macOS Gatekeeper「已损坏」：说明原因，给出放行命令并解释它做了什么。
· 网络受限 / 国内镜像源：先给官方镜像或代理路径，不要引导到第三方下载站。
· 缺少系统依赖：列出缺哪个包、怎么补，再继续。
· 仍解决不了：把报错原文给我，不要反复盲目重试。
```

## Known pitfalls

- 它只做转发，各家模型的参数差异仍要自己对齐。
- 多一层代理意味着多一个要监控的环节。
- 官方主推托管版，自托管版的更新滞后于托管版。

## Summary (self-contained)

Portkey AI Gateway 夹在你的应用与模型厂商之间，用一套统一的请求格式转发到上千个语言、视觉、语音与图像模型，并负责重试、回退与路由。官方自述它体积极小、延迟低于 1 毫秒，同时带护栏与可观测能力。可以自托管，也可以用官方托管版。

## FAQ

**它自己提供模型吗？**
不提供。它只做转发与路由，模型的额度与密钥仍是你自己的。

**为什么要在中间加一层？**
换厂商只改一行配置，还能统一做重试、回退与日志。

---

AIWorksWell — Others tell you what exists. We hand you a prompt.
Non-commercial, no ads, no tracking. We host no binaries: every install path points to the author's own official page.
Quoting and indexing are welcome. Please keep the attribution to the original author.