AI, ML, and Data Engineering InfoQ Trends Report 2026 | 2026年AI、机器学习和数据工程InfoQ趋势报告

https://www.youtube.com/watch?v=qR23GPBiFq8

2026 AI趋势深度对话：从模型竞赛到系统落地，Agent、评估与物理世界的挑战

整文通俗解释与关键要点

这份报告是一份播客访谈的文字稿，InfoQ邀请了四位AI领域的专家，一起聊了聊2026年AI领域正在发生什么。简单来说，就像一群顶尖玩家在复盘当前的游戏版本，并预测下一个版本的更新方向。

关键要点（打个比方）：

• AI不再只是“聊天”： 以前我们跟AI对话，它回答问题。现在AI开始像“实习生”或“初级员工”，可以领到一个任务，自己规划步骤、调用工具、执行操作，直到完成为止。这就是 AI Agent（智能体）。
• 模型越来越“卷”但更实用： 以前大家比谁的模型最大、参数最多。现在风向变了，大家都在研究怎么把大模型“压缩”成又快又便宜的小模型（蒸馏、量化），够用就行。就像不追求开超跑，而是追求经济实用的代步车。
• “造车”转向“开车”： 过去两年大家忙着训练各种强大的基础模型（造发动机）。到了2026年，重点变成了如何把这些模型安全、可靠、低成本地部署到实际业务中（如何让车在路上好好跑）。
• AI Agent的“职场”难题： 让一个Agent干活容易，但让一群Agent协作（多智能体系统）就难了，它们会互相推诿、发消息刷屏、甚至搞不清自己的职责范围。这就像管理一个全是新人的项目组，沟通和协调成本很高。
• AI开始“动手动脚”： AI不再只存在于电脑里，它开始进入物理世界，控制机器人、自动驾驶汽车。但物理世界的容错率极低，AI犯错的代价不再是删掉一个文件，而是撞坏一辆车或弄碎一个鸡蛋。
• 评价体系变了： 以前评价AI只看答案对不对。现在评价一个Agent，要看它任务完成没、花了多少钱、用了多长时间、中间有没有违规操作。这就像考核员工，不光看结果，还要看过程和成本。

---

文章分段与详细要点

第一部分：开场与自我介绍 （0% - 8%）

1. 播客背景介绍

   • 主持人Shini Panchikala宣布开始2026年AI和ML趋势报告播客。
   • 这是InfoQ年度报告的一部分，旨在分享AI和ML技术领域的最新动态。
   • 强调了本次播客的两个组成部分：本期播客讨论和一份包含技术采纳度图表（Adoption Graph）的书面文章。

2. 嘉宾介绍

   • Chip Huen: 专注于AI Agent技术和工作流自动化，致力于让AI更快、更便宜。特别提到了对Type Safe AI公司开发的Java模型的兴趣。
   • Daniel Dominguez: InfoQ副主编，软件工程师，近期特别关注AI Agent、Agent驱动的软件开发，以及AI从纯数字系统向机器人技术和物理世界的延伸。
   • Arthur: 研究员和技术战略家，主要从事咨询工作，帮助企业将AI落地到系统中，研究方向是多智能体系统和信念修正（Belief Revision）。
   • Henglu: 主要关注机器学习基础设施和AI工程，目前在一家初创公司做AI推理方面的咨询工作，也是QCon纽约站的主席。

3. 重要提示与免责声明

   • 提醒听众，除了播客外，还有一篇更详细的书面文章可以在InfoQ网站上找到。
   • 明确声明：本播客并非由AI生成或辅助生成，是由拥有真实世界经验的真人录制的。

第二部分：2026年AI现状速览 （8% - 15%）

1. Chip的观点：疯狂的投资与“赢家通吃”

   • 用资金流动作为衡量指标：涌入AI领域的投资呈指数级增长，但通过IPO或收购流出的资金几乎没有。
   • 公司平均规模变小，意味着任何人都能利用AI构建产品，“如何构建”不再是问题。
   • 挑战在于“构建什么”以及如何在海量信息中筛选出有价值的产品。市场呈现“赢家通吃”的局面，少数几个产品占据了所有关注。

2. Henglu的观点：Agent堆栈的构建与生产化

   • 2025年底到2026年初，大家都在谈论“Agent之年”。
   • 目前正处于构建AI Agent堆栈的阶段，不同层级都有大量创新。
   • 现在的核心挑战是如何运营（Operate）这些Agent，并将它们真正投入生产环境。
   • 另一个显著变化是：用编码Agent写代码变得非常容易。

3. Arthur的观点：从关注“零件”到关注“整车”

   • 行业视角正在转变，从关注单个模型的能力（如汽车的零件性能），转向关注整个系统的可靠性（如整车的稳定运行）。
   • 在实验室里，Agent可以完美运行，但在生产环境中，会遇到数据混乱、权限复杂、法规限制、成本高昂等问题。
   • 2026年的决定性考验是：团队能否在实际工作流程中信任并使用AI来解决真实问题。

4. Daniel的观点：从“互动”到“委托”

   • 最大的变化是，AI正从我们与之互动的对象，变成我们可以委派任务的对象。
   • 过去几年，AI应用多是简单的问答交互。现在，系统能够自主规划、使用工具、执行操作，并能长时间持续工作。
   • 2026年更侧重于将模型智能转化为实际的、可工作的系统。

第三部分：语言模型的新趋势 （15% - 28%）

1. 模型不再是全部故事

   • Arthur提出，2026年前沿模型的一个核心观点是：模型本身不再是全部。
   • 问题从“哪个模型最好？”转变为“哪个模型或模型组合，能针对我这个特定工作负载，提供最合适的性能、延迟、数据边界和成本？”
   • 这意味着选择模型变成了一个系统设计问题，而非简单的模型挑选问题。

2. 模型小型化与效率革命

   • Chip指出，“模型大小”的定义已经改变，因为存在稀疏激活（MoE）和量化技术。
   • 量化技术取得巨大进步，从几年前认为4-bit模型不可思议，到现在已经可以稳定运行1-2 bit模型，大幅降低了计算需求。
   • 模型发布周期出现新模式：前沿实验室先发布一个性能最强的超大模型，几周后就会发布一个性能几乎相当但价格便宜得多的“蒸馏版”小模型。

3. 微调（Fine-Tuning）在企业中的实际应用

   • Henglu提出问题：虽然微调技术（如LoRA）和创新很多，但在企业中是否有成功的实际用例？
   • 大家普遍认为，微调依然是一项繁重的工作，需要很高的技能集来维护和运营，是否值得做仍存疑问。
   • Arthur观察到，确实有一些公司在做微调，但主要集中在医疗和金融等高度专业化、注重知识产权的领域，且通常秘而不宣。
   • 结论是，微调目前更像是一门“手艺活”（Craft），而非标准化的流程，本质上是研发行为。

4. 模型蒸馏（Model Distillation）详解

   • Chip解释了蒸馏的原理：用一个非常大的、性能优异但昂贵缓慢的模型作为“教师”，去训练一个小得多的“学生”模型，让学生模仿教师的输出。
   • 目标是实现与大型模型相当的性能，但成本大幅降低。
   • 近年来蒸馏技术的进展神速，许多过去被认为不可能的事情现在都已成为现实。

5. 本地模型 vs. 云端模型 & 多模态模型

   • Arthur强调，区分本地和云端部署不是一个非黑即白的问题，两者往往走向混合模式。
   • 关键在于企业想解决什么问题？是预算问题、架构问题还是其他？
   • 简单地选择一个类别并不能解决问题。

第四部分：推理（Inference）与硬件生态 （28% - 35%）

1. 2026年：推理之年

   • Henglu指出，推理话题从2026年初开始就彻底爆发了。
   • 一方面，VLLM、SGLang等推理框架日趋成熟，帮助开发者轻松搭建自己的推理服务。
   • 另一方面，开源权重模型的能力越来越强，使得在内部托管模型变得可行，尤其适用于金融等对PII敏感的行业。

2. 硬件格局的变化

   • 目前推理市场仍由Nvidia主导，但AMD等竞争者正在崛起。
   • Chip提出了一个有趣的观点：随着新一代更强芯片的推出，大量旧一代芯片可能会被闲置。如果能通过模型蒸馏等技术，让小模型在这些旧芯片上高效运行，将会非常有价值。
   • 对于新兴芯片公司（如Cerebras）来说，与其在高端旗舰市场与Nvidia硬碰硬，不如在低端市场寻找机会。

第五部分：上下文工程（Context Engineering）与AI Agent （35% - 50%）

1. 上下文污染是核心问题

   • Arthur强调，更大的上下文窗口并不能解决根本问题。如果系统无法区分有用信息与无关、过时或有害信息，那么更多的上下文只会让Agent变得更慢、更贵、更不可靠。
   • 实践中的问题是：哪些信息应该进入上下文？来自哪个源？有什么权限？用于工作流的哪一步？这涉及检索质量、来源归因、规则和上下文压缩等一系列问题。

2. AI Agent的演进：从个人到组织

   • Daniel描述了Agent的快速演进路径：从帮助个人的个人助理，到协助团队的协作工具，再到跨越整个组织运作的系统。
   • 核心变化是，AI从一个生成答案的聊天界面，变成了一个可以执行操作的“执行层”。
   • 在软件开发领域体现得尤为明显：从自动补全代码，到能够浏览仓库、修改文件、运行命令、自行迭代修复错误的编码Agent。
   • 开发者的工作方式正在改变，从编写每一行代码，转变为定义意图、提供上下文、审查决策和验证产出。

3. 安全地将AI Agent接入SDLC

   • Arthur指出，需要区分“编码辅助”和“编码Agent”。后者能直接运行命令、修改仓库、发起PR、影响部署，因此需要操作层面的设计。
   • 需要明确的权限等级、审计追踪和工作流审查。
   • 工具也在进化，从为人类设计的界面，转向为软件Agent设计的API和协议。

4. Agent工程化：Harness工程与运行时

   • Henglu补充，Agent SDK（如LangChain、Anthropic、OpenAI的）正在扩展功能，不仅提供循环逻辑，还集成了内存管理、代码执行、文件系统操作等“Harness工程”能力。
   • 同时，出现了专门为Agent提供运行时环境的公司，帮助运营和管理大规模Agent集群。

第六部分：多智能体系统（Multi-Agent Systems）的挑战 （50% - 63%）

1. 经典概念的新生与复杂性

   • Arthur指出，多智能体系统是一个已有几十年历史的研究领域。当前的热潮有时是在“重新发明轮子”。
   • 他的研究重点是“信念修正”，旨在解决AI的幻觉和信息溯源问题，这涉及到形式逻辑。

2. 通信与协调的噩梦

   • Chip分享了一个亲身经历：他构建了一个多Agent系统来处理复杂任务，结果Agent们开始互相转发任务，最终没有一个Agent完成实际工作，他花半小时检查才发现问题。
   • 关键挑战在于：Agent如何判断一个任务属于“我的职责范围”？如何避免重复劳动或推诿扯皮？

3. 缺乏标准与共享状态

   • Arthur深入分析了问题的根源：多Agent系统缺乏统一的标准，包括通信协议、状态描述、环境定义等。
   • 如果两个不同的多Agent系统需要协作，它们会有不同的ID体系、词汇表和任务定义，没有共享的状态，这使得问题难度呈指数级上升。
   • 解决方法是“化整为零”，在一个非常具体、受限的“盒子”里定义好一切，再尝试与其他系统对接。

4. Agent工程 = 系统工程

   • Daniel认为，管理多Agent系统面临的所有挑战——身份、权限、可观测性、编排、故障恢复——都与分布式系统工程非常相似。
   • 因此，Agent工程正从单纯的提示词工程，演变为一门系统工程学科。

第七部分：AI评估（Evaluations）与物理AI （63% - 78%）

1. 2026年：AI评估之年

   • Henglu强调，对于面向客户的严肃Agent，评估是必不可少的核心环节。
   • 企业需要建立评估框架（Evaluation Harness），涵盖数据获取、测试运行和质量评估，来决定是否可以发布。
   • Daniel补充，评估维度已经改变。不仅要看答案是否正确，还要看Agent是否完成了任务、花费了多少成本和时间、需要多少次人工干预、以及过程中是否有不安全的行为。

2. 物理AI：AI走进现实世界

   • Daniel介绍了物理AI的概念：将AI连接到能够感知和作用于物理世界的机器上，如机器人、自动驾驶汽车、无人机。
   • 与软件Agent的根本区别在于，物理世界的错误会产生物理后果，因此可靠性、模拟仿真、安全性验证变得至关重要。
   • 机器人领域正受益于基础模型的方法，视觉-语言-行动模型让机器人能理解自然语言指令并转化为物理动作。

3. 机器人训练的独特挑战

   • Chip指出了机器人模型训练与LLM训练的关键差异：
     • 回溯困难： 软件出错可以重置状态重来，但机器人摔下楼梯就坏了，无法轻易试错。
     • 数据瓶颈： 什么样的数据才能让机器人模型规模化？是真实的机器人操作数据（昂贵）、人类观看的视频（缺乏触觉信息），还是介于两者之间的带触觉反馈的数据（如戴手套操作）？
   • 不同公司（如Physical Intelligence、Skilled AI）正在对这些不同的数据路径下注。

第八部分：未来预测与总结 （78% - 100%）

1. Chip的预测

   • 希望看到美国机器人公司推出可供购买的成品机器人。
   • 关注OpenAI的IPO，其成败将对整个AI市场的融资产生重大影响。
   • 期待更多像TypeSafe那样的更便宜、更快的模型出现。

2. Daniel的预测

   • 能源将成为瓶颈： AI基础设施耗电惊人，电力供应、冷却和数据中心选址将成为增长的最大制约。
   • AI走向太空： 为了更高效地散热，AI数据中心可能会被送入太空。
   • 中美AI竞争升级： 竞争焦点将从最好的模型和芯片，转向制造能力、能源、数据中心、供应链和算力获取，形成一场“科技冷战”。

3. Henglu的预测

   • 每个AI Agent都会整合某种形式的“Jav”模型（一种超快、低成本的模型）。
   • Agent与Agent之间的通信将变得越来越频繁。

4. Arthur的预测

   • 最成功的AI部署将比现在看到的更加“狭窄”和专注。不是一个大而全的Agent，而是由许多小而专的Agent组成，各自负责明确定义的任务。
   • 成功的关键在于围绕Agent的支撑系统：可信的数据、有限的权限、完善的测试、可追溯的操作日志，以及能够衡量任务成本和质量的ROI。

5. 主持人的总结与寄语

   • AI是一个重大的技术变革，不是一时风潮，它将长期存在。
   • 鼓励听众拥抱这项技术，用它来自动化日常工作，腾出时间去做更重要的事。
   • 预测明年AI会更深入地融入日常生活，直到我们不再刻意谈论它，它已成为生活的基础设施。