前言：AI 系统的“熵增”困局
在引入 AI 的初期，系统往往表现出令人惊喜的灵活性。但随着业务复杂度提升，多数团队会陷入同一种困境：
系统逐渐变得不可预测。
典型表现
- 前端开始隐式做决策
- API 充斥补丁式兜底逻辑
- AI 输出直接干扰系统状态
本质问题
系统丧失了对“决策权”的清晰定义
一、核心原则：语义的单向流动
可控系统的基石是约束。必须建立分层结构，使语义严格单向传递。
1. 架构分层模型
| 层级 | 名称 | 职责 |
|---|---|---|
| L0 | 用户输入层（Input） | 不可信，仅提供意图 |
| L1 | 结构化层（Parsing） | 数据抽取，不做裁决 |
| L2 | 决策层（Authority） | 唯一真源（Single Source of Truth） |
| L3 | 解释层（Explanation） | 只读解释，不影响事实 |
| L4 | 展示层（Presentation） | 纯渲染，无业务逻辑 |
2. 关键约束
- ❌ 禁止解释层改写决策事实
- ❌ 禁止展示层参与逻辑判断
3. AI 的角色定位
AI 被严格限制在：
- L1（结构抽取）
- L3（解释生成）
AI 是工具，而不是决策者
二、剥离 UI 决策权：引入 Projection（投影层）
系统失控往往始于 UI。
常见问题
- UI 决定按钮显隐
- UI 推断权限
- UI 执行业务逻辑
👉 导致：
UI 成为第二真源 ❌
1. 正确链路
Authority → Event → Projection → UI
2. Projection 的本质
Projection 不是“数据”，而是契约（Contract）。
必须包含：
view_kindallowed_actionsdenied_actions（含 reason_code）empty_state_reason
3. 结果
UI 可以变化，但系统语义不会漂移
三、收敛写入权：Single Writer 模型
“写路径混乱 = 系统失控”
1. 标准写入链路
UI → Intent → API → Permission Gate → Authority
2. 分层职责
| 层 | 职责 |
|---|---|
| UI | 发起 Intent |
| API | 唯一入口 |
| Gate | 唯一裁决 |
| Authority | 唯一写入 |
3. 核心原则
任意真值只能有一个写入者
四、身份治理：拆解 Role 混用问题
“Role”通常被错误复用：
- UI 渲染
- 权限控制
- 数据语义
👉 必须拆解
三层模型
| 层级 | 含义 |
|---|---|
| Identity | 你是谁 |
| Capability | 你能做什么 |
| View | 你在看什么 |
关键约束
- UI 只能使用 View
- 权限只由 Capability 决定
五、可控系统的五大特征
1️⃣ 单一真源
- 所有状态可追溯
- 无多源数据
2️⃣ 单向语义流
- 不存在回流
- 解释不影响决策
3️⃣ 单写入路径
- 所有写操作可追踪
- 无隐式修改
4️⃣ 可审计性
- 每个行为有来源
- 每个拒绝有原因
5️⃣ 可演进性
- 模型可升级
- 系统结构稳定
结语
AI 系统是否可控，不取决于模型能力，而取决于结构约束。
不是让 AI 更强，而是让 AI 不越界。
最终原则
让 AI 负责生成，
让结构负责约束。
Top comments (0)