Agent 工程
从聊天助手到任务执行系统
Agent 需要规划、工具调用、记忆、权限、安全沙箱和失败重试。
查看专题详情 →推理部署
成本、延迟与吞吐优化
vLLM、Ollama、llama.cpp 以及国产框架适配共同推动模型服务化。
查看专题详情 →企业 AI Infra
数据、权限、观测与评测
企业更关注数据治理、模型网关、调用审计、离线评测和线上可观测。
查看专题详情 →落地框架
软件生态的四层架构
| 方向 | 代表主体 | 进展关键词 | 观察重点 |
|---|---|---|---|
| 模型服务层 | API 网关、模型路由、推理服务 | 限流、鉴权、成本统计、多模型切换 | 决定企业能否安全规模化调用模型。 |
| 工具协议层 | MCP、函数调用、插件系统 | 标准化工具接入、数据访问、动作执行 | 决定 Agent 是否能真正接入业务系统。 |
| 编排层 | 工作流、Agent Graph、多智能体协作 | 状态管理、回滚、人工确认、长任务 | 决定复杂任务的可控性。 |
| 观测评测层 | Tracing、Eval、日志、质量评分 | 可解释、可审计、可持续优化 | 决定 AI 系统是否能进入生产。 |
参考与核对方向
以下链接用于后续事实核对与持续更新，页面内容采用公开资料概括，不替代厂商正式公告。