企业说「我要用 AI」时,真正需要的可能只是内容生成,也可能是知识检索、自动化流程或多 Agent 协作。层级判断错了,工具越复杂,后面越容易返工。
AI 的四层智能,你到底在哪一层?
我现在看企业 AI 需求时,会先做一个很朴素的判断:
为了方便做项目诊断,我把常见需求拆成四层。它不是行业统一标准,也不是每个项目都必须照着爬的技术阶梯,只是一张帮助业务和工程对齐的地图。

第一层:LLM——会不会说话。语言理解、内容生成、逻辑推理。这是 AI 的认知底座。
第二层:RAG——回答有没有依据。检索增强、知识注入、来源追溯。让 AI 从「能说」变成「说得靠谱」。
第三层:AI Agent——能不能做事。任务拆解、工具调用、规划执行。让 AI 从「说」变成「做」。
第四层:Agentic AI——能不能协同。多智能体分工、共享记忆、闭环治理。让 AI 从「一个人干活」变成「一个团队干活」。
越往后,系统需要承担的动作越多,对知识、权限、评测和治理的要求也越高。
一个典型假设场景
假设你走进一家中型制造企业。这个例子不是某个客户原话,而是把常见需求压缩成一个便于说明的场景。
老板说:「我要用 AI。」
你不要马上接话。你先问:「您想用 AI 解决什么问题?」
老板可能说:「我想让 AI 帮我自动回复客户询价。」
好,这个时候你的雷达就启动了。你开始做层级诊断。
信号 1:客户说的是「生成内容」

「帮我写邮件」「帮我做摘要」「帮我翻译」「帮我生成代码」
他在第一层,LLM。
这一层通常不需要先建复杂平台。先选合适的模型和入口,把权限与数据边界处理好,很多需求就能先验证起来。
要做的:选对模型、接好接口、做好权限管理。先用最小范围验证。
容易犯的错:为了一个简单生成任务,先建一整套重平台。
信号 2:客户说的是「回答要靠谱」

「客户问我们的政策,AI 回答经常编」「我们想让 AI 基于公司文档回答」「合同条款太多,AI 总是答错」
他在第二层,RAG。
这一层的核心不是「AI 聪不聪明」,而是「AI 的回答有没有依据」。企业怕的不是 AI 不够强,而是它在没有依据时也说得很像真的。
一个制度助手回答错了,员工可能违规。一个合同助手理解错了条款,企业可能承担法律风险。一个设备运维助手给出错误操作建议,可能导致生产事故。
所以企业 AI 不能只追求「能回答」,还必须追求「有依据地回答」。
要做的:把企业的知识库、文档、政策整理好,建索引,做检索,让 AI 的回答有来源、可追溯、可治理。先把知识质量和检索效果跑稳。
容易犯的错:先把开源 RAG 框架装起来,却没有处理好文档切片、索引质量和来源追溯,最后回答效果还不如直接人工查。
这里的关键不是技术,是你对业务知识的理解。什么文档重要、什么过时了、什么需要脱敏——这些只有走进现场才知道。
信号 3:客户说的是「帮我把这事干了」

「我想让 AI 自动生成周报」「我想让 AI 自动报价」「我想让 AI 自动审查合同」
他在第三层,Agent。
注意,这里有一个质的变化:前面两层 AI 还是在「说话」,这一层 AI 要「做事」了。
一个普通 AI 可以告诉你「如何写一份市场研究报告」。一个 Agent 应该能够:理解目标、拆解任务、检索资料、调用工具、分析数据、生成图表、写出报告、根据反馈修改,并最终交付结果。
Agent 的五个核心组件:目标理解 → 任务拆解 → 工具调用 → 执行 → 反馈。
要做的:设计工作流,接入企业系统(ERP、CRM、邮件),建评测集,设护栏,确保不翻车。先选一个边界清楚的流程进入真实试用。
容易犯的错:在知识密集型任务里,知识和数据还没整理好,就直接让 Agent 自动执行。它越能调用工具,错误的代价越大。
在需要企业知识的场景里,一个没有可靠知识来源的 Agent,就像特别自信却经常说错话的实习生:什么都敢干,你却不敢放手。
信号 4:客户说的是「我们有多个场景要协同」

「我想让 AI 同时做市场分析、竞品监控和方案生成」「我想让研发、测试、部署全自动化」
他在第四层,Agentic AI。
这是最复杂的一层。不是多接几个工具就完了,而是多个 Agent 之间要分工、协调、共享记忆、互相检查。
要做的:设计角色分工和协作机制,建立共享记忆和反馈闭环,确保整个系统可治理。只有前几层稳定、组织也准备好时,再进入这一层。
容易犯的错:以为 Agentic AI 就是多拼几个 Agent。多个 Agent 没有协调机制,可能比单个 Agent 更混乱。就像一个团队没有项目经理,每个人都很忙,但产出互相打架。
别跳层

这是我现在最警惕的一类问题。
很多企业一上来就说「我要做 Agent」。但一做诊断,可能发现连 RAG 都没做好:知识库是乱的,文档是过时的,连「可信回答」都做不到,就要让 AI 自动执行任务。
这有点像地基还没看清,就急着往上加楼层。不是一定做不了,而是问题会被放大。
这四层不是严格的学术依赖关系。一个不需要企业知识的 Agent,未必一定要先做 RAG;一个简单流程也未必需要多 Agent。
但只要自动化程度上升,基础就不能欠账:模型和接口要稳定,任务所需的数据或知识要可信,工具权限和评测要清楚。单点能力都没有跑稳时,直接增加更多 Agent,通常只是在增加排查难度。
所以我现在更愿意先问三个笨问题:知识靠不靠谱?工具能不能安全调用?结果怎么评测?这三件事没说清楚之前,平台做得越大,后面越难收拾。
每层用不同的交付策略
不同层级,交付方式完全不同:
LLM 层:轻量快跑
交付物:一个可用的 AI 工具。核心动作:选模型、接接口、培训使用。评判标准:员工是否愿意在真实任务里使用。先用最小范围验证。
别过度工程化,能用就行。
RAG 层:知识先行
交付物:一个可信的知识问答系统。核心动作:整理知识库、建索引、设权限、做评测。评判标准:回答有没有依据、能不能追溯。先把知识质量和检索效果跑稳。
知识质量决定系统质量。垃圾进,垃圾出。
Agent 层:小场景验证
交付物:一个能自动完成特定任务的工作流。核心动作:选场景、设计工作流、接工具、建护栏、做评测。评判标准:准确率、兜底机制、人工介入频率。先选一个边界清楚的流程进入试用。
先把一个小流程跑稳,再扩展。别一上来做 10 个。
Agentic AI 层:组织级设计
交付物:多个 Agent 协作完成复杂业务流程。核心动作:角色设计、协作机制、共享记忆、治理闭环。评判标准:端到端交付质量、人类审核通过率。只有前几层稳定、组织也准备好时再进入。
多 Agent 不是多拼几个,是要设计一个「组织」。
写在最后
AI 落地不只是接入一个模型。难点是把模型放进业务流程,还能让人愿意用、敢用。
企业要问的不是「我们要不要做 Agent」,而是:
我们到底需要哪一层智能能力?业务问题处于哪一个复杂度层级?
不要跳层。不要贪多。不要一上来就做 Agent。
先搞清楚你在哪一层,把那一层做扎实了,再往上走。
这听起来慢,其实是在少走弯路。
我现在判断企业 AI 项目,会先问层级,再谈工具。层级没对上,工具越先进,返工越容易被放大。
本文来自「维天说」,全平台同名。
我会持续分享普通人能用上的 AI 工具、内容工作流和真实实践,欢迎联系我,一起交流 AI。