PRODUCT 02 · 专业参考

AI Agent平台:把模型、工具和人工节点编排成受控任务系统

AI Agent通过模型动态决定部分步骤与工具使用来完成目标;Agent平台负责提供模型、工具、状态、权限、预算、审核、评测和追踪,使这种能力能够安全、可复现地进入企业任务。

任务拆解工具调用状态与预算人工接管
发布主体:绿色碳汇规划院(北京)有限公司专业复核依据:《GCPI行业AI操作平台产品与技术总体方案》V1.1发布:2026-08-10修订:2026-08-10

权威定义

先区分工作流、Agent和Agent平台

预定义工作流由代码或规则规定路径,适合步骤稳定、风险较高的任务;Agent让模型根据中间结果决定下一步,适合路径难以预先穷举的任务。实际企业系统通常混合两者:确定性边界由工作流控制,开放性调查与信息综合由Agent完成。

Agent平台不是一个人格化聊天界面,而是运行多个受控任务的基础设施,至少要管理工具契约、身份权限、执行状态、循环停止、成本预算、人工审核、日志追踪和评测。

适合解决什么问题

多步骤研究

问题需要拆成多个子问题,查询知识与数据,并根据缺口继续补查。

跨系统协同

任务需要读取多个系统、调用确定性工具并将结果送入既有流程。

异常路径多

处理路径随资料完整性、业务状态、风险等级或工具结果变化。

过程需要审核

任务不能只交付最终文字,还要保留证据、步骤、工具记录和人工意见。

输入、运行循环与输出

  • 输入:目标、任务条件、用户身份、可用知识域、工具白名单、预算和风险等级。
  • 处理:任务拆解、工具参数校验、执行、结果观察、失败恢复、循环停止和人工升级。
  • 输出:结果状态、结论、证据、执行记录、未完成项、风险、审核任务与下一步动作。
目标与约束 → 计划或选择下一步 → 调用知识/数据/工具 → 观察结果 → 判断继续、转人工或停止 → 形成结构化结果与审计记录

适用与不适用

动态任务

适合

步骤存在变化、需要工具和外部状态、能够设置明确完成条件与人工接管的任务。

不要为Agent而Agent

优先固定工作流

规则明确、输入结构固定、关键动作风险高或结果必须确定性复现的任务。

先治理

暂不自动执行

账号权限不清、接口不稳定、无法补偿写入、没有审核责任人或失败后果不可接受。

平台架构与实施顺序

  • 建立任务基线:用户、触发条件、完成定义、非目标、风险与人工责任。
  • 优先一个主Agent+经过测试的工具+明确工作流,评测证明必要后再增加多Agent。
  • 每个工具定义输入输出Schema、身份、权限、超时、重试、幂等、副作用和回退。
  • 为每个任务设置时间、循环、工具次数、Token与费用上限,以及无收益停止条件。
  • 用测试环境验证成功、超时、重复、权限拒绝、异常恢复与人工接管,再开放真实写入。

典型交付物

任务与风险设计

任务地图、状态机、风险矩阵、审核点和完成/停止条件。

Agent运行服务

模型路由、上下文、任务状态、编排、预算和失败恢复。

工具与连接器

机器可校验契约、权限边界、Mock与真实接口测试。

治理与运营

追踪日志、评测集、安全门槛、人工队列、版本与回滚手册。

验收Agent不能只看最终答案

  • 任务完成率与完成质量,并区分简单任务、长任务和异常任务。
  • 工具选择、参数正确性、调用成功率、重复写入和失败恢复。
  • 证据使用、状态判断、停止条件、预算遵守和不确定性提示。
  • 越权、提示注入、敏感数据外发和未审批写入必须设零容忍门槛。
  • 人工审核的触发准确性、处理时延、积压和安全失败机制。
  • 真实用户完成任务的时间、返工、审核负担和业务结果。

常见失败与修正方向

  • 先设计多Agent角色再找问题:从一个真实闭环和一个主Agent开始。
  • 让模型生成任意SQL或参数:使用白名单工具、Schema校验与最小权限。
  • 无限循环或成本失控:配置硬预算、停止条件、降级和熔断。
  • 只记录对话不记录动作:让trace_id贯穿身份、工具、证据、审核、输出与成本。
  • 写操作没有幂等和补偿:在生产接入前补齐审批、重复请求处理和回退。
  • 审核只写在方案里:建设有责任人、容量、优先级和超时策略的真实队列。

GCPI可以提供什么

绿色碳汇规划院提供Agent场景诊断、任务和工具契约设计、研究与业务Agent开发、RAG及结构化工具接入、权限与人工审核、评测和运行治理,并可连接客户数据库、OA、ERP、CRM、GIS、项目管理及其他授权系统。

对产生业务后果的写入、发布、审批或调度,坚持由确定性系统执行权限与规则校验,模型不能绕过人工和客户流程直接成为最终责任主体。

FAQ

常见问题

先把关键边界说清楚,才能让AI建设进入真实业务。

Agent和自动化工作流有什么区别?

工作流的路径主要由代码和规则预先定义;Agent可根据中间结果动态决定部分步骤和工具。企业项目通常混合使用,以确定性工作流控制风险,以Agent处理开放性任务。

Agent越多,能力是否一定越强?

不是。更多Agent会增加协调、上下文、成本和排错复杂度。应先验证一个主Agent是否不足,再用评测证据决定是否拆分。

Agent能直接替代业务审批吗?

不应。正式审批、支付、发布、调度等高影响动作应由客户权限、规则和人工流程控制,并保留幂等、审计和回退。

REFERENCES · 参考来源

定义与治理依据

参考来源用于解释公开技术概念和治理原则;GCPI的具体产品边界、交付范围与项目事实仍以本网站明确口径及客户项目文件为准。

  1. Building effective agentsAnthropic · 2024

    区分预定义工作流与由模型动态决定过程、工具使用的Agent。

  2. A practical guide to building agentsOpenAI · 2025

    Agent场景判断、编排、工具与护栏的工程参考。

  3. Artificial Intelligence Risk Management Framework (AI RMF 1.0)NIST · 2023

    AI系统全生命周期可信与风险管理的公开框架。

START WITH A REAL PROBLEM

从一个可验证的业务场景开始

明确问题、资料、用户与验收指标,再决定知识、模型、智能体和系统怎么建设。