https://www.youtube.com/watch?v=FkFzo85b0aI
简单来说，这位教授（Sergei Gukov）探讨的是为什么现在的 AI（比如 ChatGPT 或机器人）在面对真正的科学和数学大难题时会“卡壳”，以及他的实验室是如何解决这个问题的。
他把核心原因归结为两个词：“长时序”和“稀疏奖励”。我们可以用更接地气的比喻来理解：
1. 什么是“长时序”（Long Horizon）？
- 通俗解释： 步骤极多，而且一步都不能错。
- 大白话比喻： 就像拼一个包含 100万块碎片 的超级拼图，或者解一个要走几万步才能通关的超级迷宫。
- AI 的困境： 普通的 AI 做简单任务很厉害（比如写个邮件、下个象棋）。但如果一个任务需要走 100 万步，哪怕 AI 每一步的准确率高达 99%，在乘上 100 万次之后，最终成功的概率也会趋近于零。在现实中，制造核聚变反应堆、让自动驾驶绝对安全、或者解开顶级数学猜想，都属于这种需要“超长步骤且容错率极低”的任务。
2. 什么是“稀疏奖励”（Sparse Reward）？
- 通俗解释： 答案极其罕见（大海捞针），而且在找到最终答案前，没有任何“提示”或“进度条”。
- 大白话比喻： 想象你在一座巨大的黑漆漆的城堡里找一把隐藏的钥匙。你走错 999,999 次，游戏都只冷冰冰地告诉你“失败”；只有当你踩中唯一正确的那块砖时，才会给你发出“成功”的信号。
- AI 的困境： 现在的 AI 大多是靠“反馈”来学习的（做得好就给奖励，做得差就扣分）。但在科学探索中，人类自己都不知道正确答案是什么，根本没办法在中间过程给 AI 提示（即“没有中间奖励”）。AI 只能在无数的错误路径中瞎撞，撞到怀疑人生。
3. 演讲里举的有趣例子
为了说明 AI 以前有多笨、现在怎么变聪明，教授提到了一个老游戏——《蒙特祖玛的复仇》：
- 这个游戏就是典型的“长时序+稀疏奖励”：AI 控制的小人要走很长的路、爬梯子、躲怪物去捡钥匙。
- 10多年前，大名鼎鼎的 DeepMind 派出了当时最厉害的 AI 算法去玩，结果拿了 0 分。因为 AI 在拿到钥匙前就死掉了无数次，它根本不知道捡钥匙能得分，于是开始摆烂。
- 后来科学家死磕了近 10 年，教 AI 学会了“带着好奇心去探索没去过的地方”并学会“记住回家的路（不忘本）”，AI 才终于超越了人类顶级专家。
4. 教授的实验室在干什么？
教授在加州理工学院带头做的事情，就是把前沿数学当成“游戏”来训练 AI。
- 为什么要用数学来练兵？ 因为数学题不需要昂贵的物理设备（比如核聚变需要大反应堆），也不需要保密的数据（比如医疗和金融数据），直接在电脑里用公式和逻辑就能生成源源不断的问题，实验成本极低。
- 最终目的： 如果 AI 能够在没有任何提示的情况下，在无穷无尽的数学逻辑中自己找到那条“极其罕见的正确证明路径”（解开顶级数学猜想），那就说明它已经具备了真正的自主推理和破局能力。
一旦这种 AI 算法被研究成功，它不仅能帮数学家推导公式，还能转身去解决天气预报里的极端天气预测、金融市场的黑天鹅防范，甚至帮你设计出下一代核聚变反应堆和更安全完美的飞机。
Top comments (0)