检索增强:给模型一本参考书
大语言模型的知识来自训练数据,可能过时,也可能对不熟悉的问题编造答案。检索增强生成(RAG)相当于让模型“开卷考试”:先查资料,再据此作答。本演示展示检索、拼接、生成的完整流程。
在实验室中查看
实验目的
理解检索增强生成的流程,以及它对提升回答可靠性的作用。
实验原理
先把资料切分成片段并转成向量存入知识库;提问时把问题也转成向量,按相似度检索出最相关的片段;再将片段与问题一起放入提示,交给模型生成回答。回答有了依据,可减少编造,也便于更新资料而无需重新训练模型。
实验器材
- 用户问题
- 参考资料库(文档片段)
- 检索出的相关片段
- 拼接后的提示
- 模型生成的回答
- 有无检索的回答对比
实验步骤
- 先不使用资料,观察模型直接回答问题。
- 查看参考资料库中的文档片段。
- 输入或选择问题,观察系统检索出的片段。
- 查看片段如何与问题拼成提示。
- 对比有无检索时回答的差异。
实验现象与结论
没有参考资料时,模型可能答非所问或编造;检索到相关片段后,回答更贴近资料内容。若检索到无关片段,回答也会受误导。结论:检索增强让回答有据可依,但效果取决于检索质量和资料本身是否可靠。
注意事项
- 检索增强不能保证完全正确,重要信息需核对原文。
- 资料来源不可靠,生成的回答也不可靠。
常见问题
- RAG 和微调有什么区别?
- RAG 在回答时临时查资料,不改变模型参数;微调是用数据继续训练,会改变模型参数。
- RAG 能完全避免模型胡说吗?
- 不能。检索不准确或资料有误时,模型仍可能给出错误回答。
同一课题的其他实验 ·
生活里的人工智能在日常生活场景中找一找人工智能,认识语音助手、人脸识别、导航等常见 AI 应用,并体会它们…
图灵测试小游戏:猜猜对面是人还是机器通过文字交流判断对面是真人还是机器,体验图灵测试的思路,思考机器表现得“像人”是否就等于有…
机器怎么“看”一张图把一张图片放大到像素,观察每个小格对应的数字,了解计算机是如何把图像变成数据来“看”的。
规则与学习:让机器变聪明的两种方法对比“人工编写规则”和“从数据中学习”两种方法,体会机器是如何完成分类、判断等任务的。
人工智能发展简史按时间顺序浏览人工智能发展中的重要事件,了解它的起步、起伏与近年快速发展的原因。
AI 能做什么、不能做什么通过判断一系列任务是否适合交给人工智能,认识 AI 的擅长之处与局限,学会理性看待它。
给图片贴标签:认识数据标注动手给图片贴上类别标签,体会机器学习需要“带答案”的数据,了解标签对机器识别的作用。
声音变成波形观察声音在屏幕上显示成的波形,了解响度、音调与波形的关系,理解声音如何变成计算机能处理的数…
相关搜索:检索增强生成 · RAG是什么 · RAG原理 · 大模型幻觉怎么减少 · 向量检索 高中 · 检索增强:给模型一本参考书互动课件 · 检索增强:给模型一本参考书虚拟仿真实验