啥是RAG 它能干什么？

RAG工作机制详解前言为什么需要学习RAG传统模型 vs. Agent前置知识补充1. Token词元2. Embedding嵌入3. 大语言模型Embedding vs. RAG Embedding为什么需要RAG实际应用场景RAG的基本运行流程回顾结语前言为什么需要学习RAGRAGRetrieval-Augmented Generation检索增强生成是一种结合了信息检索与大语言模型生成能力的技术。与传统模型相比RAG能够从外部知识库中检索相关信息再基于这些信息生成更准确、更可靠的回答。闲聊好久没写博客了 现在除了原本的Chat功能 现在居然也支持agent 你现在看到的开头的这段介绍都是agent自动帮我插入的编辑页面也经过了优化CSDN真是紧跟时代发展BZW最后 整个排版也是 agent 自动帮我优化的 我只需要自己再微调一下就可以了 有点小龙虾——博客版的味道了^ _^传统模型 vs. Agent传统模型回答如何预订酒店时仅提供文字步骤。Agent直接调用预订API完成订单并返回确认信息。前置知识补充1. Token词元我们在与大模型对话时输入的是文字但在喂给大模型之前都需要先进行Token化。为什么需要Token化单词在计算机中以字符形式存储如果大模型每次都要从字符组合成单词效率太低。通过建立Token词典可以将apple转化为数字1大大提高处理效率。将字词或部分字词转化为数字的过程就叫做Tokenizer。2. Embedding嵌入如果说Tokenizer是将用户输入的文字转化为数字那么Embedding就是把这些数字转化为向量。Embedding的优势可以表示不同维度上的关系远近例如香蕉和苹果除了都是中文和水果外在其他方面区别很大而苹果对应的不同翻译如apple除了语言差异外都指同一个东西单一维度无法满足需求需要Embedding进行向量化表示3. 大语言模型Embedding vs. RAG Embedding重要区别大语言模型的Embedding主要用于理解输入文本的语义RAG的Embedding目的是概括一段话提取关键信息RAG Embedding的工作流程模型输出Embedding向量经过线性层处理将向量转化为便于理解的Token为什么需要RAG实际应用场景现在我们在学校或公司网站上总能在右下角看到一个智能管家来帮助解答问题我们当然可以在询问的时候丢给他一个系统的使用手册 但是这往往就会导致很多问题如果你常用AI帮助你解决问题 那么这其实是很常见的 比如我们丢给豆包一片研究生论文 很大概率都会出现由于文档内容太长只能读取前80% 这就是涉及到上下文窗口大小的一个问题而输入太多就会导致token的消耗很大 对应的就是成本变高 和速度变慢这是非常好理解的所以这个时候就需要我们RAG登场了 下面对于RAG基本运行流程的分析就可以让你基本理解 为什么RAG可以很好的解决这些问题RAG的基本运行流程核心步骤索引召回重排召回和重排的区别有的人就说 直接在召回阶段 选出前三个最相似的不就行了吗 干嘛非得再次重排 简直是多此一举 其实关键是在于他们的筛选逻辑是不同的生成我们拿到了上面的结果 之后就可以喂给大模型了 我个人理解的就像是:期末考试的时候 你发现你一个学期啥也没学 这个时候 大的来了 老师最后一节课把题库或者说是考试范围和重点 给你在书上圈好了 你虽然铲了一学期 依旧能够凭借这份资料 高分通过期末考试回顾整体的流程可以分为提问前和提问后提问前的准备工作提问后结语那么RAG的有关内容就到这里了 感谢你的关注 ~希望看到这里的你有美好的一天 我明天还有个面试 那 也祝我好运吧 ~ ——5.14日晚於实验楼