AI Agent 技术栈 2026:Claude、OpenAI、Gemini、MCP 与 Runtime
梳理 2026 年 AI Agent 技术栈:模型、API 网关、工具协议、Skills、编排与 Runtime,并说明每一层应该负责什么。
AI Agent 技术栈 2026:Claude、OpenAI、Gemini、MCP 与 Runtime
AI 生态越来越难解释,是因为模型已经不再等于完整产品。Claude、OpenAI 和 Gemini 都可以为 Agent 提供推理能力,但模型本身不会决定工具如何发现、权限如何批准,也不会负责长任务在故障后如何恢复。
真正有用的问题不是“哪个模型最好”,而是每一层应该负责什么。本文把技术栈拆开,帮助你选模型时不把 SDK、MCP Server 或 Runtime 当成它们不该承担的东西。
先说结论
- 模型负责推理,网关负责鉴权、路由和预算。
- MCP 和 Function calling 描述工具,但都不会自动授予权限。
- Skills 封装重复流程,Runtime 管理执行、会话和审计。
- 先选能解决任务的最小层,出现副作用后再增加治理。
五层结构
| 层级 | 负责什么 | 常见选择 |
|---|---|---|
| Model | 推理、生成、视觉、工具调用决策 | Claude、OpenAI、Gemini、开放权重模型 |
| API Gateway | 鉴权、路由、预算、供应商归一化 | SandBase、原生 API、自建网关 |
| Tool Contract | 描述可调用能力与输入 | Function calling、MCP、HTTP API |
| Workflow | 计划、重试、状态、审批、交接 | Agent SDK、Skills、自定义编排 |
| Runtime | 沙箱、会话、调度、审计、部署 | 本地优先 Harness、托管 Agent Runtime |
这些层可以组合,但不能互相替代。MCP 可以描述工具,却不会自动提供持久 Runtime;模型可以选择工具,却不负责你的审批策略;API 网关可以统一请求,却不知道某次写文件是否安全。
1. 模型层:Claude、OpenAI 与 Gemini
先从任务出发:编码、长上下文综合、多模态理解、结构化抽取,还是高吞吐分类。然后测试真正影响生产的行为:工具调用格式、流式事件、结构化输出、上下文处理、延迟和价格。
供应商名称不是架构。生产系统应把模型选择放在小型 adapter 或 gateway 后面,这样替换模型不会重写整个 Agent。“OpenAI-compatible”可以降低迁移工作,但不保证推理、安全行为、私有参数、流式细节或所有工具能力完全一致。

图 2:Agents SDK 是工作流构建层,不会替代供应商路由或执行治理。
2. 网关层
网关应该集中处理不应在每个 Agent 中重复实现的事情:统一鉴权和轮换 key、模型路由与 fallback、单次预算和限流、用量记录和错误归一化,以及浏览器代码与密钥之间的边界。
当应用除了 LLM 还需要图片、视频、Embedding、搜索、社媒或其他真实世界 API 时,SandBase 的价值就在这一层。它提供统一的运营入口,但每种 modality 仍然保留自己的请求和生命周期语义。
3. 工具契约:Function calling 与 MCP
Function calling 是应用层契约:代码定义 schema,模型请求函数,应用执行函数。MCP 则是跨客户端和服务端发现、连接工具与资源的协议。两者可以同时存在。

图 1:MCP 是连接工具与资源的协议,Runtime 和授权策略仍然属于其他层。
私有、窄小、只属于一个应用的能力,直接定义函数通常更简单。需要在多个兼容 Agent 客户端之间复用的能力,可以选择 MCP。无论哪一种,都要在执行边界验证参数,并返回有界、类型明确的结果。自然语言工具描述不是授权。
4. Skills 与工作流编排
Skill 封装可重复的流程:研究步骤、来源规则、输出格式和检查项。它适合作为跨兼容客户端分发的工作流单元。但什么时候运行、接收什么状态、哪些副作用需要审批,仍然属于编排层。
很多“Agent Framework”把两个工作混在了一起。一个会调用模型的循环,并不自动等于生产工作流。允许它接触客户系统前,还要补齐显式状态、重试策略、幂等 key、人工检查点和证据记录。
5. Runtime:经常被忽略的一层
Runtime 负责回答模型无法回答的问题:代码在哪里执行?哪些文件、网络目标和凭证可用?Worker 重启后如何恢复会话?谁能批准写入或部署?运营人员之后能否重放证据?
当执行边界、数据所有权和审计重要时,可以选择本地优先或自托管 Harness;如果想要由供应商运营控制面,则可以选择托管 Runtime,同时接受它的租户和平台约束。SandBase Harness、CLI/MCP、Skills 和 API 互相补充:Harness 治理执行,CLI/MCP 连接客户端,Skills 封装流程,API 提供能力。
一个参考架构
Agent client
-> Skill / workflow policy
-> model gateway(路由、鉴权、预算)
-> Claude / OpenAI / Gemini / open-weight model
-> function tools 或 MCP servers
-> governed runtime(sandbox、session、audit)
把箭头保持清楚。只总结一份文档的任务,可能在模型和检索工具处结束;Coding Agent 则需要 Runtime、文件系统策略和审批边界;社媒研究 Agent 可以调用 X API 和 LLM,但不应继承发帖工具。
如何避免买错层
- 先写清任务和可能产生的副作用。
- 选两三个模型,测试真实的工具和流式契约。
- 需要供应商选择、共享凭证或预算时,再加入网关。
- 根据可移植性选择 Function calling 或 MCP,不要追逐名词。
- 用 Skills 封装重复流程,用 Runtime 管理执行治理。
- 用任务完成率、故障恢复、成本和人工审核时间衡量结果,而不是只看模型品牌。
SandBase 在哪一层
SandBase 不是所有层的替代名称,而是一套可组合的表面:API 提供能力,Skills 封装重复工作,CLI/MCP 连接客户端,Harness 负责受治理执行。团队可以先从一次 API 调用开始,只有任务真的需要时再增加持久 Agent。
实现时可以先看 SandBase Docs,再浏览模型与 API Store,当本地执行和审计成为要求后,再选择 CLI/MCP bridge 或 Harness。
如果轻量 Bridge 正是你需要的这一层,欢迎为 SandBase CLI 点个 Star,帮助更多 Agent 开发者发现和评估它。

图 3:Docs quickstart 是从分层设计走向第一次可运行 API 调用的交接面。


