DEV Community

llimage
llimage

Posted on

从30个顶级框架调研到自我进化:FROST双项目体系的"学习闭环"长什么样

从30个顶级框架调研到自我进化:FROST双项目体系的"学习闭环"长什么样

一、引子:当你调研了30个对手,然后呢?

昨天,我们完成了一件事:把GOAI大赛「新智基座」赛道TOP30入围项目,逐一拉到GitHub上找仓库、拆技术路线、和specGate做了系统性对比。

结论不少——找到率约40%、6大技术路线、8项可借鉴建议、2个最接近的竞品……

但如果你问我:这次调研最大的收获是什么?

不是发现了什么厉害的框架,也不是找到了什么新的技术路线,而是一个更根本的问题:

当你调研完30个项目、列了8条改进建议之后,你怎么确保这些建议真的能落到你的产品里?

因为调研这件事,大多数团队的结局都是——调研报告写得很漂亮,然后就没有然后了。

  • 建议列了几十条,没有优先级,没人知道先做什么
  • 有了优先级,没有对应的执行流程,改着改着就偏了
  • 改完了,没有验证机制,不知道改得对不对
  • 验证完了,没有沉淀机制,下次调研又从零开始

调研 → 决策 → 执行 → 验证 → 沉淀,这是一个完整的闭环。大部分团队卡在第一步,少数团队能走到第三步,极少数能走完整个闭环。

而FROST + FROST-SOP的双项目体系,就是为了跑通这个闭环而设计的。

今天这篇文章,我想用这次TOP30调研作为真实案例,把"调研→进化"的完整链路拆开给你看:FROST管什么、FROST-SOP管什么、它们怎么联动,最终让一个开源项目具备自我进化能力


二、为什么"调研"本身不是价值,"吸收"才是?

先讲一个反直觉的发现。

我们调研了30个TOP项目,最后得出的结论是:specGate在"规格驱动治理层"这个细分赛道上,没有直接竞品

听起来是个好消息对吧?赛道空白,意味着没有竞争对手。

但真正的问题是:没有竞品 ≠ 你做得好。可能只是这个赛道太新、太小、没人注意到。

更重要的是,不直接竞争 ≠ 不能借鉴。30个项目里,没有一个和你做一模一样的事,但每个项目都有值得学的地方。

比如:

项目 做的事 和我们的关系 值得学什么
CodeLoop 代码验证自动化闭环 跳过了规格层,但验证层做得深 多层自动化验证 + 置信度评分体系
OpenXnet 治理型MCP + 审批工作流 缺少规格驱动开发流程 治理型MCP架构 + 分级审批工作流
ProofMesh 动作级安全控制 动作级 vs 规格级,粒度不同 Action Passport + Gateway四道约束
Switchback 坡度准入+折返治理 治理门设计理念相通 三级治理门 + K标账本体系

这些项目做的事都不一样,但每一个都有我们可以吸收的"营养"。

问题来了:怎么吸收?

FROST 负责判断"吸收什么、值不值得吸收"——这是战略决策。
FROST-SOP 负责执行"怎么吸收、吸收得对不对"——这是工程落地。

两个项目一联动,调研就不再是"看完就完",而是变成了产品进化的燃料。


三、FROST 参谋部:用五维评估决定"学什么、不学什么"

调研最容易犯的错误是什么?

看到什么都想学,最后什么都学不像。

30个项目,每个都有亮点。你今天学这个的验证体系,明天学那个的审批流程,后天又觉得另一个的MCP架构不错——最后你的产品变成了四不像。

FROST 的第一个作用,就是在"学什么"这件事上建立筛选机制

3.1 五维评估:不是所有亮点都值得抄

面对一个"看起来不错"的机制,我们不会直接说"抄过来",而是先用FROST的五维元模型过一遍:

# FROST 五维评估 - 以CodeLoop的"置信度评分体系"为例
evaluation = {
    "能力维度": "我们当前有没有能力实现?(有,specGate已有gate判定基础)",
    "流程维度": "加入后会不会破坏现有流程?(不会,可以嵌入现有spec审阅流程)",
    "治理维度": "会不会引入新的治理风险?(需要注意评分校准偏差问题)",
    "记忆维度": "之前有没有类似经验可以复用?(有,V4.1审阅中的一致性判定经验)",
    "进化维度": "做完后体系本身能不能升级?(能,从二元审批升级为分级治理)"
}

# 五维全通过 → 高优先级
# 三维以上通过 → 中优先级
# 两维以下通过 → 低优先级 / 不做
Enter fullscreen mode Exit fullscreen mode

这就是为什么我们调研了30个项目,最后只筛选出8项可借鉴建议,还分了高/中/低优先级——不是其他项目不好,而是大部分亮点在五维评估中就被过滤掉了。

FROST 教给我们的第一条:学习不是贪多,而是精准。

3.2 宪法校验:不能为了学别人而丢了自己

比"学什么"更重要的问题是:什么绝对不能学?

这就是FROST宪法层的作用——在任何进化过程中,根规则不能变。

比如这次调研中,有一个项目的"自动绕过Gate"机制看起来效率很高——当Gate连续3次判定通过时,后续同类任务自动跳过Gate直接执行。

听起来很诱人对吧?能省很多Token。

但它碰到了FROST宪法的红线:

FROST 宪法第0层 - 诚实:
  审计报告与事实完全一致,不隐瞒不夸大
  → 推论:任何质量门控机制不得被自动绕过
Enter fullscreen mode Exit fullscreen mode

效率再高,如果以牺牲质量为代价,那就不在考虑范围内。这不是一个"ROI计算"的问题,而是一个"宪法判断"的问题。

FROST 教给我们的第二条:进化不是随波逐流,而是有根地生长。

3.3 家族决策:谁来决定学不学?

在FROST家族治理模型中,调研和决策不是同一个角色做的。

  • 子辈 Agent:负责执行调研任务——找仓库、读README、拆技术路线、整理对比表
  • 父辈 Agent:负责分析判断——用五维评估筛选、用宪法校验、输出优先级建议
  • 祖辈 Agent:负责最终决策——拍板哪些做、哪些不做、优先级怎么排

这不是官僚主义,而是认知分层。子辈专注于信息搜集,不做判断;父辈专注于分析判断,不亲自挖信息;祖辈专注于战略决策,不陷在细节里。

每层做自己最擅长的事,决策质量自然就上去了。


四、FROST-SOP 作战部队:把"要学"变成"已落地"

调研做完了,决策也有了。接下来呢?

8条改进建议,高优先级的有2条:

  1. 吸收CodeLoop的多层自动化验证+置信度评分体系
  2. 吸收OpenXnet的治理型MCP+分级审批工作流

怎么落地?靠嘴说肯定不行。得有工程化的执行体系。

这就是FROST-SOP的舞台。

4.1 SOP编排:把"改进建议"拆解成可执行的步骤

每条改进建议,在FROST-SOP中都会被编排成一个SOP工作流。

以"置信度评分体系"为例,它不是一步到位的,而是一个多步骤的流程:

# FROST-SOP SOP 配置示例:置信度评分体系落地
sop_name: "specGate_置信度评分体系落地"
stages:
  - name: "需求分析"
    agent: "需求分析Agent"
    input: "CodeLoop置信度体系调研报告"
    output: "specGate评分体系需求规格书"
    gate: "G-REQ-1: 需求规格书完整性检查"

  - name: "方案设计"
    agent: "架构设计Agent"
    input: "需求规格书 + 现有Gate实现"
    output: "评分体系架构设计文档"
    gate: "G-DESIGN-1: 架构设计评审"

  - name: "编码实现"
    agent: "编码Agent"
    input: "架构设计文档"
    output: "评分模块代码 + 单元测试"
    gate: "G-CODE-1: 代码审阅 + G-TEST-1: 测试覆盖率检查"

  - name: "集成验证"
    agent: "测试Agent"
    input: "评分模块代码 + 回归测试集"
    output: "集成测试报告"
    gate: "G-PROD-1: 集成验证闭环"

  - name: "上线部署"
    agent: "发布Agent"
    input: "集成测试报告"
    output: "新版本部署完成"
    gate: "G-RELEASE-1: 发布检查清单"
Enter fullscreen mode Exit fullscreen mode

你看,一句"加个置信度评分",在FROST-SOP中被拆成了5个阶段、每个阶段有明确的输入输出、每个阶段结束都有Gate检查。

这就是工程化的价值——把模糊的想法,变成确定性的流程。

4.2 Gate门控:确保每一步都没走偏

光有流程还不够,你还得确保每个步骤的产出质量是合格的。

这就是spec-driven方法论中的Gate机制——每个阶段结束时,必须通过Gate的检查,才能进入下一个阶段。

在FROST-SOP中,Gate不是一个简单的"通过/不通过",而是有完整的验证逻辑:

# FROST-SOP 中的Gate实现(简化版)
class ConfidenceGate(GateBase):
    """置信度评分体系 - 需求阶段Gate"""

    def check(self, spec_doc: SpecDocument) -> GateResult:
        checks = [
            # 完整性检查:需求规格书是否覆盖所有必要维度
            self._check_completeness(spec_doc, required_sections=[
                "评分维度定义", "评分等级划分", "评分校准机制",
                "评分与决策映射", "异常处理规则"
            ]),
            # 一致性检查:内部逻辑是否自洽
            self._check_consistency(spec_doc),
            # 可验证性检查:每个需求点是否可测试
            self._check_verifiability(spec_doc),
            # 宪法合规检查:是否违反根规则
            self._check_constitution(spec_doc),
        ]

        all_passed = all(c.passed for c in checks)
        score = sum(c.score for c in checks) / len(checks)

        return GateResult(
            passed=all_passed,
            score=score,
            details=checks,
            # 关键:不是只有通过和失败,还有"有条件通过"
            level="PASS" if score >= 0.9 else (
                "CONDITIONAL_PASS" if score >= 0.7 else "FAIL"
            )
        )
Enter fullscreen mode Exit fullscreen mode

注意最后那个level——我们从CodeLoop借鉴的置信度评分体系,反过来又用在了Gate自己身上。这就是一个有趣的自举(Bootstrapping)效应:你用新学到的东西,改进了你学习的工具本身。

4.3 审阅闭环:改完了,怎么证明确实变好了?

功能开发完了,测试也通过了,但还有一个问题:

你怎么证明这次"改进"真的让产品变好了,而不是引入了新的问题?

这就是FROST-SOP的审阅闭环机制。每次迭代完成后,都会触发一次"版本审阅":

  1. 双实例一致性验证:用同一组测试用例,分别跑旧版本和新版本,对比结果差异。如果新版本的评分和人工评分的一致性比旧版本高,说明改进有效。
  2. 回归测试集全量跑:确保新功能没有破坏旧功能。这是基本操作,但关键在于——回归测试集本身也是持续增长的。
  3. 错误知识库检查:把历史上出现过的所有Bug和问题,在新版本上重新过一遍,确保没有重蹈覆辙。

只有这三道关都过了,新版本才能上线。

这就是FROST-SOP的价值:进化不是凭感觉,而是靠证据。


五、双项目联动:一次完整的"学习闭环"长什么样

讲到这里,你可能对两个项目各自做什么已经有概念了。但我想强调的是——它们不是简单的"1+1",而是形成了一个飞轮。

让我用这次TOP30调研作为完整案例,把闭环走一遍给你看:

第1步:调研启动(FROST → FROST-SOP)

祖辈Agent(FROST决策层)接到任务:"调研新智基座TOP30,分析和specGate的差异"。

它没有直接去干活,而是先做了两件事:

  • 用五维元模型评估这次调研的价值 → 高价值,通过
  • 定义调研的边界和产出格式 → 避免调研变成"逛菜市场"

然后把任务交给FROST-SOP执行。

第2步:调研执行(FROST-SOP)

FROST-SOP收到任务后,自动编排了调研SOP:

  • 信息搜集Agent:找30个项目的GitHub仓库、README、技术文档
  • 分类分析Agent:按技术路线分类、整理6大方向
  • 对比分析Agent:和specGate做四维度系统性对比
  • 建议输出Agent:提炼可借鉴建议、分优先级

每个Agent做完自己的部分,过Gate,然后交给下一个。

最终产出:一份结构化的调研报告,含对比表、分类分析、8项建议、优先级矩阵。

第3步:决策筛选(FROST-SOP → FROST)

调研报告回到FROST决策层。

祖辈Agent用宪法+五维模型对8项建议做最终评审:

  • 高优先级2项:多层自动化验证、治理型MCP架构
  • 中优先级3项:分级治理门、动作级安全控制、证据链追溯
  • 低优先级3项:K标账本、坡度准入、自动绕过Gate(宪法否决)

决策结果:先做高优先级2项,中优先级排入Q4规划,低优先级暂不考虑。

第4步:落地执行(FROST → FROST-SOP)

决策结果再次交给FROST-SOP。

FROST-SOP为每条高优先级建议创建一个迭代SOP,每个SOP包含需求→设计→编码→验证→发布5个阶段,每个阶段有Gate检查。

两个迭代并行推进,互不干扰。

第5步:验证闭环(FROST-SOP 内部)

每个迭代完成后,FROST-SOP自动触发审阅闭环:

  • 跑回归测试集,确保没破坏旧功能
  • 跑双实例一致性对比,验证新功能有效
  • 跑错误知识库,确保历史Bug不复现

全通过 → 进入发布流程。

第6步:经验沉淀(FROST-SOP → FROST)

发布完成后,FROST-SOP把这次迭代的所有经验沉淀下来:

  • 什么地方做得好?(比如:置信度评分体系让Gate判定更精细了)
  • 什么地方踩了坑?(比如:评分校准需要更多标注数据)
  • 下次怎么做得更好?(比如:先从小范围A/B测试开始)

这些经验,会被FROST吸收进家族记忆,变成下一次调研、下一次决策的"先验知识"。

然后,下一个闭环又开始了。

     调研启动          决策筛选           经验沉淀
    ┌───────┐        ┌───────┐         ┌───────┐
    │ FROST │───────▶│ FROST │────────▶│ FROST │
    └───┬───┘        └───────┘         └───▲───┘
        │                                  │
        ▼                                  │
    ┌───────┐        ┌───────┐             │
    │ FROST │────────▶ FROST │─────────────┘
    │ -SOP  │        │ -SOP  │
    └───────┘        └───────┘
     调研执行          落地验证
Enter fullscreen mode Exit fullscreen mode

FROST 负责"想对",FROST-SOP 负责"做对"。两个项目转起来,就是一个自我进化的飞轮。


六、这个闭环,对你有什么用?

讲到这里,你可能会说:"这套东西听起来不错,但我就一个人做个小项目,需要这么复杂吗?"

我的回答是:需要。但不是说你要一步到位建这么完整的体系,而是你要理解这套"双轮驱动"的思路。

6.1 如果你是一个人做项目

你不需要真的建两个项目。你需要的是在脑子里有两个"角色":

  • 战略角色(对应FROST):每周花1小时,想清楚这周做什么、不做什么、为什么
  • 执行角色(对应FROST-SOP):每天按照既定计划推进,做完验证、记录经验

哪怕只是在Notion里建两个页面——一个叫"战略笔记"、一个叫"执行日志"——也比混在一起强。

6.2 如果你是一个小团队

你可以试着把"决策"和"执行"从流程上分开:

  • 周会只做决策:定优先级、定方向、定取舍
  • 日常只做执行:按照决策推进,不随便改方向
  • 每周复盘:验证上周决策的质量,调整下周策略

简单说就是:该想的时候认真想,该干的时候认真干。别干的时候瞎想,想的时候瞎干。

6.3 如果你在做AI Agent相关的产品

那FROST + FROST-SOP这套体系就更有参考价值了。因为:

  • Agent的进化速度,取决于它的"学习闭环"质量
  • 一个有完整闭环的弱Agent,最终会超过没有闭环的强Agent
  • 因为前者每天都在变好,后者永远停在原地

这也是为什么我们要做两个项目而不是一个——因为一个项目做不到既管思想又管执行,两个项目各司其职,才能让进化真正跑起来。


七、写在最后

回到文章开头的问题:调研了30个框架,最大的收获是什么?

不是学到了什么新技术,而是验证了一件事:

在AI Agent这个领域,框架的进化能力,比框架本身的设计更重要。

因为技术会过时,设计会落伍,但只要你有一套持续学习、持续进化的机制,你就能一直跟上节奏。

FROST 是思想——它定义了"进化的方向和边界"。
FROST-SOP 是工程——它实现了"进化的流程和验证"。

两个项目加在一起,就是一个能自己长大的框架。

这也是为什么我们坚持做双项目而不是一个项目:

因为一个项目只能给你一个产品,两个项目才能给你一个会进化的产品。


📌 项目地址:

如果你也在做AI Agent相关的项目,欢迎来聊聊——我们一起探索,一个人+一套体系,到底能走多远。

Top comments (0)