一句话来说大模型等同于能够理解自然语言的工具人RAG检索增强技术相当于加了个放大镜buff参考数据存在向量数据库中。数据库的质量决定了一个AI Agent的上限。执行过程总体来说包括三个步骤建库--检索--生成建库【制作参考书】1.资料文本化以及数据清洗大多数需要进行参考的私域数据内容会分布在不同的文件格式上例如PDF、HTML等同时会存在页码等等无用的噪声信息所以需要进行文本化剔除干扰信息。2.文本切片这里有个关键原则既要保证每个片段能独立表达完整意思又要适配后续嵌入模型的输入长度限制。比如表格要完整保留不能切成两半段落要按主题边界拆分避免把“问题”和“解决方案”拆到不同片段里。只有分块合理后续检索才能精准。3.生成嵌入Embedding向量化机器没有办法直接理解文字的语义所以需要把分好的每个知识块通过预训练嵌入模型转化成高维向量。这个过程的核心是“捕捉语义特征”比如“法案”和“条款”的向量非常接近这样机器就能判断两者语义相关。这里要注意RAG用的是“上下文嵌入模型”不是早期的单词嵌入模型。上下文嵌入的优势是“动态适配”——同一个词在不同语境下会生成不同的向量。比如“苹果”在“吃苹果”和“苹果手机”两个句子里向量完全不同能精准区分语义。4. 标签化当后续需要进行具体索引标签的筛选时可以通过标签来实现在大模型阅读之前进行数据隔离。5. 存入向量数据库生成的高维向量会和原始知识块、元数据比如文档来源、页码、创建时间一起存入“向量数据库”。向量数据库不只是个“存储器”更关键的是它支持“近似最近邻索引”比如HNSW索引能实现毫秒级的相似性搜索——相当于给海量知识搭建了一个“快速检索的记忆库”。检索【翻书找答案】1. 用户提问处理意图识别意图识别决定了后续检索策略和生成质量。不做的话所有查询走同一套检索逻辑。会导致多轮对话中上下文理解错误需要 SQL 查询的问题去查向量库查不到闲聊会浪费检索资源。2. 问题向量化当用户提出问题时系统会用“和处理知识块完全相同的嵌入模型”把问题也转化成高维向量——也就是“查询向量”。这样一来问题和知识块就处于同一个“语义空间”机器就能通过计算向量相似度找到最相关的知识。注意这一步的重点是统一语义标准如果知识块用A模型嵌入查询用B模型嵌入两者的向量就无法比对检索就会失效。所以新手在搭建RAG时一定要保证“知识嵌入”和“查询嵌入”用同一个模型。3. 相似度检索/召回系统捞出距离最近的 5-10 个碎片Top-K这叫“初筛召回”4. 重排把上一个环节捞出来的再进行精细打分重新排个序把最相关的3个挑出来准备送给大模型生成【看着参考书写答案】1. 拼装prompt2. 大模型推理与输出这段组装好的超长 Prompt通过 API 发送给像 Gemini 这样强大的大语言模型。大模型在极短时间内读完“参考资料”提取关键信息运用它强大的逻辑归纳能力用人类能听懂的、组织良好的人话输出给你