7月14日消息，根据 Gartner 2026年CIO与技术高管调研数据，截至目前仅有17%的组织部署了AI智能体，但超过60%的组织预计在未来两年内完成部署。Agentic AI目前正处于期望膨胀期的高峰。
但现实是，一边是汹涌的预期，一边是较低的落地率，这道横亘在“Demo成功”与“生产可用”之间的鸿沟，究竟因何而生？又该如何跨越？
今年7月8日，在亚马逊云科技中国峰会上，亚马逊云科技正式发布《企业生产级智能体开发部署指南》（以下简称《指南》）。
这份《指南》用4个章节、从理论到实践，回答了让越来越多企业头疼的问题：AI智能体在演示时一切顺利，为什么一上生产就状况百出？并最终帮助企业破解Agent从原型走向生产时的规模化部署难题。
智能体不是“另一种软件”
为什么传统软件开发方法在智能体身上不管用？《指南》指出了三个根本原因。
第一，输出不确定。 传统软件的逻辑很简单：输入A，输出B，不对就是有bug。但大模型本质上是概率模型，同样的问题今天问和明天问，答案可能不一样。
第二，Prompt就是代码，但没有人管它。 开发团队改一行代码要走评审流程、留修改记录、可以随时回滚。但改一段Prompt呢？可能只是加了一句话，智能体的行为就彻底变了，开始拒绝某类请求、工具调用顺序乱了、输出格式变了。没有任何工具能提前告诉你这次改动影响有多大。
第三，依赖的东西会自己变。 传统软件依赖的库有明确的版本号，但大模型是云端服务，提供商会悄悄做安全微调、能力升级，不会发详细的更新日志。结果就是企业端用户的代码一行没动，但智能体的表现却莫名其妙地变了。
这三件事合在一起，意味着传统的测试、发布、监控体系全都不好使了。问题不在模型能力，而在于缺少一套工程化的手段来持续回答：它到底好不好？
《指南》的核心解法：让评估成为一切的基础
面对这个困境，指南给出的核心思路并不复杂：把“评估”放在整个开发生命周期的起点，而不是上线前才补的作业。
具体来说，就是六步形成一个闭环：先定义什么叫“好”、然后构建、接着评估、达标了才能上线、上线后持续监控、从生产中发现的问题再回流到评估集里。如此循环往复，每一次迭代都让系统更可靠。
与传统开发流程最本质的区别在于：传统流程里，生产是终点；在这套体系里，生产是下一轮迭代的起点。每一个真实用户触发的失败案例，都比会议室里预设的测试用例更有价值。
《指南》进一步把这套方法论提炼成了三条具体的工程实践：
第一，先把评估跑起来。 很多团队启动智能体项目时，第一个问题是“这个智能体能做什么”。《指南》指出，正确的第一个问题是“我们要解决什么问题”。从问题出发，先圈定边界，它该处理什么、不该处理什么。然后准备一套覆盖常见情况和边缘情况的基准数据集。有了这个基础，每一次改动都可以用同一套标准去衡量效果。
第二，让数据持续流入评估。 可观测性经常被推迟到“功能先做出来再说”。但《指南》强调，从第一天就要接入追踪手段，让智能体的每一步，如调了什么模型、用了什么工具、传了什么参数等等全都结构化地记录下来。没有这些数据，用户只能知道“出错了”，却不知道“错在哪一步”。
第三，让系统架构可被评估。 这里有一条重要的设计原则：能用确定性代码解决的事，就别让大模型做。比如获取当前日期、做数学计算、校验数据格式，一行Python代码就能搞定的事情，如果交给大模型去推理，既慢又贵还不稳定。正确的做法是让智能体负责理解和编排，让代码负责执行和计算。
怎么知道智能体“好不好”？
智能体评估要评什么？《指南》给出了一个很务实的框架。
首先看粒度，从粗到细分三层：看最终回答对不对（黑盒）、看整个执行路径对不对（玻璃盒）、看每一步对不对（白盒）。三层配合使用：粗的告诉用户结果好不好，细的告诉用户问题出在哪儿。
然后看证据强度，不是什么指标都同样可信。能用代码直接检查的（比如输出格式对不对、延迟多长、花了多少Token），是最高级别的证据；需要用另一个大模型来打分的，是次一级的证据，必须经过人工校准才能用；至于“有没有创意”这类纯主观的判断，干脆不评，强行打分只会制造虚假的精确。
在这个框架下，企业需要根据自己的业务场景挑重点。一个购物助手最该盯的是工具选得准不准、参数填得对不对；一个客服智能体最该盯的是意图理解准不准、任务完没完成；一个涉及多智能体协作的系统，还得额外关注协作效率。
亚马逊内部怎么做的？
《指南》分享了三个亚马逊内部的真实案例，分别对应三种不同的评估侧重点。
Amazon购物助手面对的是成百上千个企业API，工具定义模糊会直接导致智能体选错工具、答非所问。解法是先建立统一规范，再用自动化工具生成标准化的工具描述，最后用历史日志持续回归测试，核心指标就盯工具选择的准确率。
Amazon客服智能体的第一道关卡是搞清楚用户到底想干什么。一旦意图识别错了，后续所有环节都会跟着错。解决思路是用历史真实对话做基础，再用大模型模拟各种虚拟用户场景来扩大测试覆盖面。核心盯意图识别正确率和任务完成度。
Amazon卖家助手涉及多个智能体协同工作。多智能体系统最怕的是出现“涌现行为”——单个智能体都正常，但放在一起就产生了设计者没预料到的失控。所以在自动化指标之外，必须有人工定期抽检来兜底。
三个案例覆盖了从简单到复杂的演进路径，也印证了一个观点：评估体系不是一步建成的，而是随着系统复杂度提升逐步深化的。
企业智能体的落地，瓶颈从来不在模型能不能做到，而在于有没有一套体系能持续回答“它还能不能持续做到”。
正如亚马逊全球副总裁、亚马逊云科技亚太区联席总裁储瑞松在峰会上所说：底层技术平台可以采购，但评估标准必须自己掌控。评估是什么标准，决定了智能体长什么样。只有掌握了评估，才真正掌握了智能体生命周期的核心。
这份指南的价值，就在于把“评估”从一句口号变成了一套可操作的工程方法。对于正在考虑把智能体推向生产的企业来说，现在正是从评估入手、建立工程纪律的时候，从一个小而清晰的场景开始，把评估跑起来，再逐步扩展。
附：
《指南》配套动手实验代码已开源：
https://github.com/aws-samples/sample-eval-first-building-enterprise-agents-with-agentcore