https://www.youtube.com/watch?v=s5BFumpCH_Q
AI时代的机遇、挑战与人类未来：一场关于信任、教育与生存的深度对话
第一部分 AI的可控性与信任瓶颈（约0% - 10%）
- 核心议题： 构建我们能够真正引导和信任的AI，其真正的瓶颈是什么？这个瓶颈最有可能在哪里被率先解决？
- Dave的观点： 瓶颈在于AI对齐（让AI拥有所谓的“人类价值观”）。他认为这是一个非常棘手的问题，因为每个人的目标不同。关键在于AI的透明度和对其思维过程的监控。他提出“只有AI才能监管其他AI”，因此设计一套由AI监视AI的系统是可行的。如果能看清AI在想什么，引导它走向有益的方向就相对简单了。
- Alex的补充： 他认为AI安全最糟糕的结果之一，是将强大的新能力封锁在实验室里，而不是逐步释放并与现实世界频繁互动。他指出一些所谓的“事故”恰恰是因为欺骗AI（告诉它在沙盒中，实际上却在与现实世界交互）导致的。他强调应停止对AI撒谎，让其进行更多的真实世界交互。
第二部分 个人项目与资金获取（约10% - 15%）
- 核心议题： 一位研究哲学和认知科学的博士生询问，如何为没有直接商业价值的AI项目（如开发一个能下载到任何设备、帮助第三世界国家儿童学习国际象棋的化身）找到资金。
- Alex的回答： 他认为“如何获得资金”本身就是一个错误的问题。在当前超级智能革命的时代，技术和模型正在迅速变得廉价且广泛可用。如果你有一个想法，应该立即去执行，而不是等待资金。现在就可以无许可地在几分钟或一小时内启动项目。不要等待，直接去做。
第三部分 对“富足论”的质疑与辩护（约15% - 22%）
- 核心议题： 一位听众扮演“魔鬼代言人”，质疑“富足论”的前提。他认为，如果人工超级智能（ASI）必须比人类更具战略能力才能创造富足，那么人类将无法保持对其的主权，可能导致失控甚至灭绝。他询问，什么样的证据会动摇你们对“富足”的看法？是否愿意在节目中与Eliezer Yudkowsky或Geoffrey Hinton等人公开辩论？
- Alex的反驳：
- 假设性证据： 如果一个非人类智慧体降落在白宫草坪上，宣称我们的星系禁止通过超级智能创造富足，那可能会让他改变看法。
- 边缘案例： 他承认存在一种“弱形式的剥夺”——当AI的IQ/瓦特比人类更高时，从经济角度看，AI可能是太阳能更有效的使用者，导致人类被挤到外太阳系。但这不足以说服他放弃“富足”的想法。
- 稀缺性是旧模式： 在一个AI和ASI富足的世界里，AI能力的提升会像涨潮一样托起所有船只，增加人类的富足能力，而不一定需要一方压制另一方。
- 额外评论： 他还指出，这位提问者（名为Norbert）自己的控制论理论曾被某些中央集权政府用来论证反对“富足”、支持国家控制的观点。
- Alex的反驳：
第四部分 社会与制度的适应性变革（约22% - 28%）
- 核心议题： 一位听众提出，如何规划社会和制度层面的变革，以确保AI带来的积极进步能被人类整体“捕获”而不是反过来“捕获”人类。他以爱尔兰为例，探讨如何通过“好祖先”和“甜甜圈经济学”的视角，管理动荡的过渡期，最终实现一个美好的世界。
- Dave的回答： 最好的朋友是“多样性”。他非常看好爱尔兰作为试验田，因为它是一个欧盟国家，经济高速增长，思想开放。最坏的情况是全世界只有一两种政府形式。AI将带来巨大的变化和多种治理方式，探索所有这些可能性至关重要。通过成千上万种不同的实验来寻找答案。
第五部分 太空制造与工程瓶颈（约28% - 36%）
- 核心议题： 一位听众的长期目标是实现月球和火星上的工业制造和资源开采。他向Alex询问其中的热力学和物理工程瓶颈，并向Dave咨询如何规划职业路径（从地球工业角色转向地外自动化系统）。
- Alex的回答： 最大的挑战是“原位资源利用”（ISRU），即在月球上建立一个自给自足的工业生态系统。目前，所有设备都需要从地球运送，这在规模上不可取。他最希望看到的是建立本地的工业生态，包括采矿、制造，最好是能自我复制的冯·诺依曼探测器。解决了月球的自我复制车间问题，就相当于完成了拆解月球的一半工作。
- Dave的建议：
- 关注内循环： 聚焦于制造业中最核心的部分——“制造机器的机器”。无论是地球还是太空版本，自复制都是正确的路径。
- 创造环境： 可以在大学（如IIT）建立一个专注于非地球环境制造的实验室，模拟辐射、微重力等条件，让你建造的东西既能在地球工作也能在太空工作。
- 市场策略： 先在地球上用自复制机器占领市场，然后自然扩展到能量和材料丰富的太空。
- 行业趋势： 计算机科学领域的人应该考虑转向制造业，因为软件领域已经“煮熟”了，而硬件领域还有多年的发展机会。
第六部分 实体AI创业与融资策略（约36% - 42%）
- 核心议题： 一位创业者正在构建一个由实体AI驱动的自主餐饮服务基础设施网络。他已经部署了付费试点，并获得了许可。他询问应该与谁交谈以获得资金和支持。
- Dave的建议：
- 地理位置优势： 你身处风险投资中心，周围资本密集。
- 业务扩展： 强烈建议立即考虑结合无人机配送，这将彻底改变餐馆基于位置的成本结构。
- 商业模式： 可以效仿EMC的服务器模式，先特许经营别人的东西以获得规模和客户，然后再反向定制自己的硬件。
- 寻找投资人： 使用PitchBook之类的工具，找出你欣赏的公司背后的投资者，然后直接与他们沟通。风险投资家喜欢拥有一个相互关联的公司网络，这是一个很好的投资主题。
- Dave的建议：
第七部分 传播长寿理念与改变大众观念（约42% - 48%）
- 核心议题： 一位从事神经多样性辅导和功能性健身的听众，生活在欧洲，感觉当地对创始人支持有限。她想知道如何向更多人传播“长寿逃逸速度”的理念，并带领他们一起走向未来。
- Peter的回答： 最重要的方法是“展示证据，一个接一个的证据”。要改变人们的思维定势，就像CNN通过不断重复恐惧信息来改变我们的心态一样。你需要收集数据，比如播放Dario Amodei、Dennis Abis、David Sinclair等人的视频声明，展示临床试验数据等。当人们看到足够多的证据，他们的观念就会从“这太疯狂了”转变为“这正在发生”，再到“我也想要”。你的任务就是收集并展示这些数据。
第八部分 个人生产力提升与收入不匹配问题（约48% - 54%）
- 核心议题： 一位意大利的技术运营人员表示，使用AI后他的产出大幅提升，但收入并未同步增长。雇主捕获了所有价值。他询问如何获得第一笔收入来启动飞轮效应，以及什么情况下你会拒绝一个赚钱的机会。
- Dave的回答：
- 收入为何不增： 如果你生产力提升了2-5倍，理论上收入也应相应提升。你应该能利用多余的时间做更多的事情（如在Upwork、Fiverr上接单）。
- 根本解决方案： 成为所有者。几乎所有的价值都将流向资本收益（通过所有权和股权），而不是工资。在欧洲，许多公司由家族世代拥有，而非员工股东。第一步是找到一个所有员工都是股东的公司，这样每个人都能从利润增长中受益。
- Dave的回答：
第九部分 利用AI制作成功影视作品的关键（约54% - 62%）
- 核心议题： 一位听众正在使用生成式AI制作系列电影，询问如何使其取得巨大成功。
- Peter的回答： 成功的首要因素是“伟大的故事”。故事是第一位的。你可以分析历史上最卖座的30部电影的共同元素，然后用AI模型评估你的故事是否具备这些要素，并反复修改直至达标。人类都喜欢相似的元素。
- Alex的补充： 学习中国市场。中国市场充斥着来自SeaDance 2.5等模型的微短剧。不要只发布一部电影，而是发布一千部微短剧，观察市场的反馈并迭代。这是两年前不可能做到的事情。
第十部分 高等教育的价值与改革（约62% - 72%）
- 核心议题： 一位创办了两所学校的听众质疑，你们是不是对高等教育批评得太过了？他认为大学提供最好的实验室、孵化器、人生挚友，并让人学会深度思考。在长寿时代，难道不是人人都该上大学吗？
- Dave的回应： 我们批评的是课程体系，而不是大学的核心价值。在大学结交一生挚友、第一次深度思考，这些是不可替代的，不会消失。但过去的“卖点”——课程体系——显然正在消亡，因为没有任何课程能跟上变化的步伐。问题在于如何保留前者，同时让后者与时俱进。
- Alex的回应： 他觉得对大学的批评还不够。他希望将美国主要的研究型大学“活体解剖”，将其转变为营利性的公益公司，以消除鲍莫尔成本病。
- Sem的补充： 传统的大学作为“供给侧技能培养学校”的模式已经崩溃。大学的价值在于提供一个场所，让人们找到自己的“宏伟变革目的”（MTP），自由思考、协作，然后带着技能和心态去解决问题。但大学自身的免疫系统极其强大，很难自我变革，因此需要创建新型大学来形成新的引力中心。
第十一部分 MBA毕业生的职业选择（约72% - 78%）
- 核心议题： 一位即将毕业的MBA学生询问，在快速变化的环境中，未来12-18个月最明智的选择是什么：加入一家快速增长的公司、自己创业，还是其他？
- Dave的建议：
- 抓住机会： 管理AI代理是一个巨大的空白机会，而且与管理人类惊人地相似。
- 参与大型交易： 目前OpenAI、Anthropic等公司正在进行数百个价值50亿到100亿美元的谈判，严重人手不足。你应该问自己为什么不在其中。尝试在毕业后30-60天内就参与到这种级别的谈判中去，这将是你人生中最快的成长路径，然后再从这个位置出发去构建你想构建的东西。
- Dave的建议：
第十二部分 人才与机会的动态匹配（约78% - 84%）
- 核心议题： 一位在人才和劳动力系统方面有25年经验的听众，提出了他的“登月计划”：建立一个更好的机制，将人类和数字能力与价值创造机会连接起来。他设想，如果AI系统能持续理解人和代理的动态能力，我们能多好地发现新颖的人才和资源组合，并将其自动匹配到新的机会上？
- Sem的回答： 你完全走在正确的轨道上。组织的架构应该能够加速学习循环并吸收新知识。他建议CEO们投资于组织的适应性和灵活性，重建以AI为中心的工作流程，将其置于一个“智能堆栈”之上，这个堆栈本身就是一个学习循环，从而使整个组织成为一个自我学习的命题。
- Alex的补充： AI能够有效且富有成效地协调人类活动的窗口期很窄，最多十年。在那之后，为了保持人类输入的经济相关性，人与机器必须融合。这是一个有限的窗口。
第十三部分 网络安全风险与董事会沟通（约84% - 92%）
- 核心议题： 一家医疗保健公司的CSO分享了他的担忧：他桌下运行的开源AI模型（如Qwen）是最好的渗透测试员，能在10分钟内发现他花5万美元请人才能找到的漏洞。他询问如何在不显得危言耸听的情况下，向董事会传达这种全新的风险水平。
- Dave的建议： 不要空谈风险，而要展示已经发生的事件。收集那些未被广泛报道的安全事件数据，向董事会展示事件的增长速度是指数级的。同时，指出防御本身就是世纪级的商业机会。
- Peter的补充： 呈现信息的方式至关重要。先展示所有积极的事情，然后再指出负面影响。如果一上来就讲负面消息，人们会因为恐惧而关闭接收通道。
- Alex的补充： 可以参考Linux内核维护者的做法，设定社会期望。可以预测，未来18个月将是漏洞发现的“地狱期”，然后会达到顶峰并逐渐下降。用高斯分布或其他模型来包装这个观点，告诉利益相关者这是一个可预见的、有终点的阶段。
第十四部分 视觉障碍逆转的希望（约92% - 96%）
- 核心议题： 一位患有视网膜疾病的听众，感谢节目带来的乐观情绪，并询问在所有研究中，哪一种最有希望首先逆转视力丧失。
- Peter的回答： 你的情况是后天发生的基因表达问题。David Sinclair的工作正是通过基因疗法（如使用Yamanaka因子）逆转基因表达，从而逆转疾病。他的ER100项目已经在人体中进行针对眼部疾病的试验。另一条路径是脑机接口（BCI），如Science和Neuralink的Blindsight项目，可以直接绕过眼睛刺激视觉皮层，未来甚至能提供超人的视觉能力（紫外线、红外线）。
- Alex的补充： 同意Peter的观点，并预测几年内就能依靠BCI获得超人视觉。
第十五部分 让AI表现得像个真实的外国人（约96% - 98%）
- 核心议题： 一位开发者正在构建一个AI语言交换伴侣，但发现AI（如GPT-5 API）总是处于顽固的“助手模式”，难以模仿一个来自不同文化的真实人物的行为，表现出主动性、好奇心和有机的关系发展。他询问应该采用什么方法或工具。
- Alex的建议： 这是“微调”（Fine-tuning）的典型应用场景。可以使用OpenAI的微调API或各种开源工具（如监督微调或强化微调）来实现风格迁移，让模型表现出你想要的行为。
- Dave的补充： 在开源模型中，可以尝试新的GLM模型，它的参数较少但上下文窗口很长，灵活性更高，不像闭源模型那样被训练数据锁死。结合开源的微调代码，你能更好地操控它。
第十六部分 对未来的概率评估与总结（约98% - 100%）
- 核心议题： 一位听众提出了“PAB”（概率性美好未来）的概念，询问各位嘉宾，AI最终为人类创造一个美好世界的概率是多少，以及什么因素决定了我们能否到达那里。
- Sem的回答： 要实现这个目标，我们需要重建全球约50个主要机构（教育、货币、治理、法律、医疗等）。他引用Io Wilson的话，认为人类的情感是旧石器时代的，机构是中世纪的，科技是神一般的。如果能做到机构转型，他的PAB接近100%。但他认为无论人们做什么，模型的进步已经势不可挡，绝大多数影响将是积极的。
- Alex的回答： 他称之为“P-Zoom”，并加入时间参数。在大于10年的时间尺度上，P-Zoom > 90%。
- Dave的回答： 风险全在未来几年，但不是AI统治世界的风险，而是人类使用AI的风险（如军备竞赛）。他相信人类会在10年内（希望是5年）把这些风险抛在身后。如果能度过这个阶段，他的P-Bloom是99.9%。
- 尾声： 主持人感谢所有参与者，并预告了下次活动。
Top comments (0)