分享
一个AI智能体的成本,不是一次ChatGPT对话的成本,而是一整条调用链的成本:智能体思考、调用工具、读取结果、再次思考、调用另一个智能体,子智能体重复这个循环。每一步都是一次模型调用,每次调用都会带上截至该点积累的全部上下文。如果没有人设置限制,成本不会线性增长——它会随着这条链的深度和广度增长。
为什么账单会在无人察觉时飙升
拥有完整技术团队的大公司,最终收到过七位数的AI算力账单,而这并非有意为之的决定。这不是攻击,也不是罕见的配置错误,而是一系列看似合理的决定累积的结果——「失败就让智能体重试」「让第二个智能体来验证」「保留完整历史以备不时之需」——这些决定加在一起,产生了没有人实时监控的消耗。账单仪表盘是在月底才出现,而不是在任务进行中。
失控发生的五个关键点
- 无限重试循环:一个在任务失败后无限重试、没有重试上限或退避机制的智能体,可能在几分钟内烧光预算。
- 子智能体的扇出:一个编排智能体并行委派给3个、5个或10个子智能体,会在层级结构的每一层放大消耗,而这个放大系数在系统上线前很少被计算过。
- 被完整携带的上下文:每一次新调用都会重新发送整个对话或任务历史。如果没有摘要或上下文裁剪机制,即使任务本身没有变化,每次调用的成本也会自行攀升。
- 缺乏真正的速率限制:仅在API密钥层面设置的限制,而非在智能体或使用场景层面设置,无法阻止某个进入高成本循环的单一智能体。
- 零实时成本可见性:如果唯一能看到支出的地方是服务商的账单,那时反应已经太迟了。
你的B2B中小企业本周就能设置的限制
你不需要世界500强级别的基础设施才能实现可控运营,你只需要四件具体的事:
- 为每个智能体和每个任务设置硬性预算上限,将其配置为真正的停止点,而不是一个可以被忽略的提醒。
- 在代码中定义重试次数和子智能体深度的上限,而不是交由模型自行判断。
- 按任务匹配模型:使用能完成该步骤的最经济模型——并非流程中的每一步都需要最贵的模型,把顶级模型留给真正需要它的推理环节。
- 建立按智能体划分的成本仪表盘,每周审查,而不仅仅是服务商的月度账单。如果你看不到每条流程花了多少钱,你就无法优化它。
风险背后的机会
从设计阶段就建立这些限制的中小企业,不仅能避免账单突袭,还能拥有更快、更易调试的系统,因为一个有明确限制的智能体会以可预测的方式失败,而不是悄悄地退化。AI自动化对于一家B2B企业来说仍然是真正的竞争优势——但前提是实施者明白,一个没有治理的智能体不是一个工具,而是一项没有上限的可变支出。
分享
