AI 安全
1. 功能概述
AI 安全模块为 AI 助手提供多层次的安全防护机制，防止敏感数据泄露和危险操作。系统支持数据脱敏、风险控制、输入净化、频率限制等安全能力，并支持按环境配置不同的风险策略。
核心能力：
- 安全子系统开关管理
- 数据脱敏规则（数据源级 + 全局级）
- AI 风险配置（按环境分级）
- 审批执行模式
- AI 智能推荐脱敏规则
2. AI 安全总控
进入 AI 中心 > AI 安全 页面，可以看到六个安全子系统的开关：
| 子系统 | 说明 |
|---|---|
| 风险控制（Risk Control） | 对 AI 生成的 SQL 进行风险等级分类，高风险操作需要审批 |
| 数据脱敏（Data Mask） | 对查询结果中的敏感字段进行脱敏处理 |
| pLLM（私有语言模型） | 使用私有模型处理敏感数据，避免数据发送到外部 API |
| 输入净化（Input Sanitizer） | 过滤用户输入中的潜在注入攻击内容 |
| 频率限制（Rate Limit） | 限制 AI 请求频率，防止滥用 |
| 审计日志（Audit Log） | 记录所有 AI 相关操作的审计日志 |
每个开关可以独立启用或关闭。修改后即时生效。
2.1 严格权限模式
页面底部提供 严格权限模式 开关。启用后，Agent 的工具调用将受到更严格的权限控制，未授权的操作会被拒绝或以 dry-run 模式执行。
页面会显示当前的拒绝次数（denied）和 dry-run 次数（dryrun），帮助管理员评估严格模式的影响。
3. 数据脱敏规则
进入 AI 中心 > 脱敏规则 页面，管理数据脱敏规则。
3.1 脱敏规则类型
自定义规则：绑定到特定数据源的脱敏规则，仅对该数据源的查询结果生效。
全局规则：对所有数据源生效的通用脱敏规则，使用正则表达式匹配列名。
3.2 脱敏函数
| 函数 | 说明 | 示例 |
|---|---|---|
| phone | 手机号脱敏 | 138****1234 |
| 邮箱脱敏 | a***@example.com |
|
| id_card | 身份证号脱敏 | 110***********1234 |
| bank_card | 银行卡号脱敏 | 6222****1234 |
| hash | 哈希脱敏 | 将原始值替换为哈希值 |
3.3 管理自定义规则
- 筛选：通过顶部下拉框选择数据源和数据库名筛选规则
- 添加规则：点击 添加规则 按钮，填写以下信息：
- 列名（必填）
- 脱敏函数（必填）
- 数据库名（可选，不填则对所有数据库生效）
- Schema 名（可选）
- 表名（可选）
- 启用/禁用：通过状态列的开关控制规则是否生效
- 编辑：修改已有规则的配置
- 删除：移除不再需要的规则
- 恢复默认：点击 恢复默认 按钮，将所有自定义规则重置为系统默认值
3.4 管理全局规则
全局规则使用正则表达式匹配列名，适用于通用的敏感字段（如所有包含 password 的列）。
- 在全局规则区域，输入列名正则表达式
- 选择脱敏函数
- 点击 添加全局规则
3.5 AI 智能推荐
系统支持 AI 自动分析数据库表结构，推荐脱敏规则。
操作步骤：
- 点击 AI 推荐 按钮
- 在弹出的对话框中选择：
- Agent：用于分析的 AI Agent
- 数据源：目标数据源
- 数据库：目标数据库
- Schema：目标 Schema
- 自定义指令（可选）：额外的分析要求
- 点击 生成脱敏规则
- 系统会显示分析进度（“正在分析表结构”、“正在扫描列”、“正在生成规则”）
- 完成后，推荐的规则会自动添加到自定义规则列表中
注意：AI 推荐过程可能需要 1-3 分钟，取决于数据库的表数量。
4. 风险控制配置
风险控制功能根据 SQL 操作的风险等级，决定是否允许直接执行或需要审批。
4.1 风险等级
| 等级 | 说明 | 示例 |
|---|---|---|
| L1（低风险） | 安全操作，直接执行 | SELECT、SHOW、DESCRIBE |
| L2（中风险） | 需谨慎操作，记录审计日志 | INSERT、UPDATE（有条件） |
| L3（高风险） | 危险操作，需要审批 | DROP TABLE、DELETE 无条件、TRUNCATE |
4.2 按环境配置
风险配置可以按数据源的环境标签分别设置：
- 开发环境：可以放宽限制，允许更多操作
- 测试环境：中等限制
- 生产环境：严格限制，高风险操作必须审批
4.3 审批执行
当 AI 生成的 SQL 被判定为高风险时：
- 系统会标记该 SQL 为"待审批"
- 管理员在 AI 助手界面看到审批提示
- 审核 SQL 内容后，选择"批准执行"或"拒绝"
- 批准后的 SQL 才会发送到数据库执行
5. 执行模式
AI 助手支持三种执行模式，在 Agent 配置中设置：
| 模式 | 说明 |
|---|---|
| 自动模式（auto） | AI 自动判断并执行，适合开发环境 |
| 审批模式（approval） | 所有写操作需要人工审批 |
| YOLO 模式（yolo） | 完全信任 AI，不做任何限制，仅限测试使用 |
6. 最佳实践
- 生产环境必须启用数据脱敏：防止敏感数据通过 AI 对话泄露
- 配置全局规则：为常见的敏感字段（密码、身份证、手机号）设置全局脱敏
- 使用 AI 推荐：新建数据源后，使用 AI 推荐快速生成脱敏规则
- 生产环境启用审批模式：防止 AI 误操作导致数据损失
- 定期审查审计日志：检查 AI 的操作记录，发现异常行为
- 启用严格权限模式：限制 Agent 只能使用已授权的工具和数据源