RAG 是让 AI 回答更有实时依据的一套技术架构:先检索出和问题相关的外部资料,再让模型基于这些检索到的具体内容来生成回答,而不是完全依赖训练时学到的、可能已经过时的内部知识。

RAG解决的是什么问题

大语言模型训练完成之后,知识会停留在训练数据截止的那个时间点,没有 RAG 的话,模型没办法知道最新发生的事、也查不到具体某个网页写了什么。RAG 通过在生成回答之前先做一轮检索,把最新、最具体的外部资料喂给模型作为参考,弥补了模型内部知识可能过时、不够具体的问题,这也是为什么 AI 搜索工具能引用当天更新的网页内容。

有RAG不代表不会出错

RAG 只是解决了"AI 有没有机会看到外部最新资料"这个问题,不代表模型一定会准确理解、正确采用这些资料。模型仍然可能对检索到的内容理解有偏差,或者把检索到的资料和训练时学到的旧知识混在一起,生成出看似有依据、实际上不准确的内容。这也是为什么即使用了 RAG 架构,AI 幻觉依然可能发生,RAG 降低的是幻觉的概率,不是彻底杜绝。