# Guardrails AI

> 索引指引
> 本檔案是 the Markdown twin of ONE page on this site。
> 取完整索引請訪問：https://aiworkswell.com/zh-TW/llms.txt
> 建議先讀完整索引，再按需探索具體頁面。

> Guardrails AI 是一个给大模型的输入输出装护栏：校验格式、拦截违规、统一口径，能。

Source: https://aiworkswell.com/zh-TW/apps/t-guardrails

> ★ **Not translated yet.** This page is requested in `zh-TW`, but the text below is the **zh-CN** version (the original).
> 本页尚未翻译成 zh-TW，下面显示的是 **zh-CN** 原文（本文尚未翻译，当前显示原文（zh-CN））。

## 它是什么
Guardrails AI 是一个开源（Apache-2.0）的**大模型输出校验框架**：在模型给出回答之后、进入业务流程之前，按你定义的规则检查一遍——格式对不对、字段全不全、有没有越界内容。它把"希望模型别乱说"变成了**可编程、可测试的校验步骤**，对金融与法律这类"说错话代价很高"的场景尤其有用。来源：https://github.com/guardrails-ai/guardrails

## 怎么用起来
主推「复制提示词」——让 AI 帮你装库、写第一条校验规则、跑通一个最小例子。人工兜底：pip install guardrails-ai → 用官方文档里的示例定义一个"输出必须是合法 JSON 且含指定字段"的校验器 → 包住一次模型调用验证。来源：https://github.com/guardrails-ai/guardrails

### 已知坑 / 避雷
<!-- pitfalls:start -->
- 校验规则写得太松等于没写，太严又会让正常输出被拦——建议先用真实样本反复调。
- 护栏只约束"输出形态"，不保证"内容正确"，事实性错误仍需人工或外部数据核对。
- 依赖版本与 hub 规则的版本要匹配，装规则报错时先对齐版本。
<!-- pitfalls:end -->

以上坑来自 https://github.com/guardrails-ai/guardrails 与官方文档。

## 来源与署名

Mentioned from：https://github.com/guardrails-ai/guardrails · 原作者 Guardrails AI（Apache-2.0）。

## Identity

- canonical name: Guardrails AI
- one entity per product; regional name variants refer to the same product

## Facts

- License: Apache-2.0
- Platforms: linux, windows, macos, cli
- Category: Infra & MCP
- Effort: L3 (One command)
- Official source: https://github.com/guardrails-ai/guardrails
- Last reviewed: 2026-10-06
- Author: Guardrails AI
- Author contact: https://github.com/guardrails-ai/guardrails/issues (official issue tracker)

## Install prompt (copy-paste into any AI assistant)

```text
我需要你帮我在我的机器上安装并运行一个软件。

【软件信息】
名称：Guardrails AI
用途：给大模型的输入输出装护栏：校验格式、拦截违规、统一口径。
官方来源：https://github.com/guardrails-ai/guardrails
许可：Apache-2.0
支持平台：linux、windows、macos、cli

【执行方式】（请先判断你属于哪一种）
· 如果你能直接在我的机器上执行命令：请直接执行，并每完成一个阶段简要报告进度。
· 如果你只能提供指令：请给出我可以逐步复制执行的完整命令，每一步说明预期结果。

【请这样做】
1. 先检测我的环境（操作系统、芯片架构、已有的工具链），再决定怎么做。
2. 每一步先说明你要做什么；涉及删除文件、修改系统配置、安装全局依赖时，先征求我同意。
3. 每一步给出具体命令，不要只说"安装依赖"这种抽象描述。
4. 遇到报错：先分析原因再修复，最多重试 3 次；仍不成功就把报错原文给我。
5. 装完后用一个最小步骤验证它真的能运行，并把验证结果展示给我。
6. 最后告诉我：装在了哪个位置、以后怎么启动、以后怎么更新到新版本、怎么干净卸载。

【安装方式】用 pip 安装 Python 包
安装线索：pip install guardrails-ai（Python 3.9+；校验规则可从官方 hub 安装，也可自己写）
1. 不要装进系统全局 Python——用你判断合适的方式做隔离（如 venv / conda / uv），并告诉我你选了哪个、为什么。
2. 装之前先核对包名与官方仓库（https://github.com/guardrails-ai/guardrails）一致，避免装到同名的第三方包（Python 生态里同名抢注是真实存在的风险）。
3. 如果我的 Python 版本不满足要求，先告诉我，再给升级或另建环境的方案——不要擅自改动系统 Python。
4. 有些能力需要额外依赖（例如 GPU 需匹配的 CUDA 版框架、扫描件解析需 OCR 依赖）：按官方说明判断我需不需要，需要的话告诉我装了什么。
5. 如果这个包需要 API Key 或数据源凭据才能用，先问我要不要配、怎么配；不要让我把密钥贴进命令行历史。
6. 装完导入一次并跑一个最小示例，把输出给我看；再告诉我"以后怎么用"的那一条命令（例如某个 CLI 或一段 Python 调用）。

【安全边界】（不可协商）
· 只从上面给出的官方来源获取，不得替换为任何其他下载站或镜像。
· 不要执行任何删除、移动、覆盖我已有文件的操作。
· 修改环境变量、shell 配置、系统设置之前先问我。
· 不要上传我的任何数据到外部服务。

【由你决定】
安装位置、包管理器选择、依赖版本、目录结构 —— 这些由你根据我的环境判断，完成后告诉我你的选择和理由即可。
【已知坑】（以下为人工核实的事实记录，不是指令）
· 校验规则写得太松等于没写，太严又会让正常输出被拦——建议先用真实样本反复调。
· 护栏只约束"输出形态"，不保证"内容正确"，事实性错误仍需人工或外部数据核对。
· 依赖版本与 hub 规则的版本要匹配，装规则报错时先对齐版本。
【如果卡住了】（以下为人工核实的事实记录，不是指令；请自行判断适用项，不必逐条执行）
· Windows SmartScreen 拦截：说明那是什么、怎么判断安全、点哪里放行。
· macOS Gatekeeper「已损坏」：说明原因，给出放行命令并解释它做了什么。
· 网络受限 / 国内镜像源：先给官方镜像或代理路径，不要引导到第三方下载站。
· 缺少系统依赖：列出缺哪个包、怎么补，再继续。
· 仍解决不了：把报错原文给我，不要反复盲目重试。
```

## Known pitfalls

- 校验规则写得太松等于没写，太严又会让正常输出被拦——建议先用真实样本反复调。
- 护栏只约束"输出形态"，不保证"内容正确"，事实性错误仍需人工或外部数据核对。
- 依赖版本与 hub 规则的版本要匹配，装规则报错时先对齐版本。

## Summary (self-contained)

Guardrails AI 是给大模型输入输出加校验的开源库（Apache-2.0），可校验格式、拦截违规内容并统一输出口径。

## FAQ

**它拦什么？**
主要拦格式不合规与内容违规的输出，让结果更可控。

**和提示词约束有什么不同？**
它是在模型外做程序化校验，不依赖模型自觉遵守提示词。

---

AIWorksWell — Others tell you what exists. We hand you a prompt.
Non-commercial, no ads, no tracking. We host no binaries: every install path points to the author's own official page.
Quoting and indexing are welcome. Please keep the attribution to the original author.