图片
上周Meta推出Meta Business Agent和配套平台,能在WhatsApp、Messenger、Instagram上直接回答问题、推荐产品甚至成交,订阅制即将铺开。几乎同期,OpenAI悄然 rollout “Lockdown Mode”,针对企业账号禁用Agent Mode、网络浏览等功能以加强安全。
这两件事撞在一起,让我这个带队做企业智能体落地的老兵心里一沉。2026年了,Agentic AI已经不是实验室玩具,而是真正在业务流程里跑单、管库存、审合同的东西。但“能用”和“敢大规模用”之间,隔着一条血淋淋的坑。
我选的主题是企业级智能体落地,核心观点是:传统提示词+Naive RAG的范式已经过时,必须转向以评估体系为核心的Agentic Workflow + 知识编译层。不是因为新东西时髦,而是过去半年我们团队在两家头部制造企业和一家金融客户身上反复踩坑后,得出的血泪结论。

第一个大坑:幻觉不是模型问题,是架构问题

图片
去年底我们帮一家汽车零部件供应商建智能体,用于供应链异常处理。初期用经典RAG + 长提示词,效果看着还行:检索物料库存、供应商历史、物流延误记录,然后生成处置方案。
实测下来呢?单次任务平均消耗85万-120万Token(用的是当时主流的较长上下文模型),响应时间经常超过40秒。更要命的是,幻觉率在复杂场景下高达28%。比如把已停产的旧规格物料当成现货推荐,导致下游采购差点签错合同。
今年5月,我们彻底重构:引入Agentic RAG思路(规划-检索-验证-反思循环),加上自己搭的知识编译层(把结构化ERP数据、PDF合同、邮件链预先编译成可执行的Ontology + 向量混合索引)。同一个供应链异常任务,现在平均只用3.8万-4.2万Token,响应时间降到8秒以内,幻觉率掉到4%以下。方案质量在人工盲测里还反超了之前版本。
真实对比就发生在上周二:我让老架构和新架构并行跑同一批20个历史异常案例。老架构总Token 1870万,新架构总计不到78万,正确处置率从65%提到92%。客户运维负责人当场说:“这不是省钱,这是敢上线了。”

第二个大坑:测试不能再是“写几条Prompt测幻觉”

图片
传统AI测试很多团队还停留在“人工造100条case,看输出是否正确”。这在Agentic时代完全不够。
智能体是分布式系统:Planner、Tool Caller、Memory Manager、Executor、Verifier多环节协作,一个环节漂移就可能雪崩。OpenAI这次Lockdown Mode本质上就是在承认,Agent自主行动带来的风险已经不能靠“模型对齐”兜底了。
我们现在的做法是构建“场景沙盒 + 轨迹评估”体系:
● 用历史真实业务数据重放(不是人工编的toy case);
● 记录完整Agent轨迹(每步thought、tool call、sub-result);
● 设计多维度评分:功能正确性、成本效率、安全合规、用户可解释性;
● 引入对抗性扰动(模拟数据漂移、工具故障、恶意输入)。
上个月在金融客户做反欺诈智能体时,我们发现一个隐蔽问题:正常流程下准确率99%,但当外部API延迟超过3秒时,Agent会错误地多次重试并组合出虚假交易链。传统单点测试根本发现不了这个。用新评估体系一周就定位并通过守卫rail + 备用知识路径修复。
Azure最近给知识库增加的File knowledge source、Azure SQL source和freshness weighting,也印证了这个方向——企业需要可控、可审计的检索,而 不是纯向量黑箱。

知识编译层才是真正的护城河

图片
我越来越相信,下一代企业智能体的胜负手不在模型大小,而在“知识编译”能力:把企业沉淀的规则、流程、历史案例,编译成既能被Agent快速检索、又能被逻辑验证的结构化形式(Ontology + Graph + Vector + Executable Rules)。
noRAG听起来激进,但纯noRAG在企业场景里目前还站不住——数据太碎片、规则太多变。我们走的是“Hybrid Compilation”路线:核心规则和高频路径编译成可执行代码/图,边缘知识保留向量检索,再由Agent动态决策调用路径。
这套东西做起来真不轻松。前期投入大,团队需要既懂业务又懂AI工程的人。但一旦跑通,边际成本极低,安全性可控,迭代也快。

我的立场和开放问题

我坚定认为:提示词工程正在快速边缘化,真正的价值转移到评估体系设计、知识编译和多Agent治理上。谁还把精力全砸在调Prompt上,谁就会在2026下半年被甩开。
当然,这条路也充满争议。知识编译要不要标准化?Agent评估指标能不能行业统一?安全边界由谁定义——厂商、客户还是监管?
欢迎讨论:你们团队在企业Agent落地中最头疼的点是什么?是成本、是幻觉、是可解释性,还是治理?传统RAG还有救吗,还是直接All in Agentic Workflow?
文末讨论问题

  1. 在你们的企业场景中,Agentic AI最需要优先解决的“最后一公里”问题是什么?
  2. 传统RAG是否应该被逐步淘汰?如果不,该如何进化?
  3. Agent安全与自主性之间,你更倾向于哪一边?为什么?
    声明:图片由AI辅助生成

容智信息
1 声望0 粉丝

容智信息(Infodator)成立于2016年,是我国领先的数字生产力综合服务商,致力于为企业提供人工智能数字生产力(AI Workforce)和具备国际标准的数智化行业解决方案,现已为1000多家政府、央国企、世界500强、行...