Grounding 是一种约束 AI 回答方式的设计思路:要求模型的回答必须"扎根"在检索到的具体资料上,而不是任由模型凭训练时学到的内部知识自由发挥,目的是让回答更有据可查、更不容易凭空编造。

Grounding怎么降低AI幻觉

没有 Grounding 约束的 AI,容易在缺乏具体依据的情况下,凭语言规律"编"出一个听起来合理但实际不存在的答案。加上 Grounding 之后,系统会要求模型的回答内容能对应到检索出来的具体资料,如果某个说法在检索结果里找不到依据,就应该被过滤或者标记出来,这在机制上压低了 AI 幻觉出现的概率。

不是万能的

Grounding 降低的是"凭空编造"的概率,不是彻底杜绝所有错误。模型仍然可能误读检索到的资料、把几份资料的信息张冠李戴,或者在检索结果本身有限、不够具体的情况下,还是掺入一些训练时学到的旧信息。理解 Grounding 的边界,有助于判断一个 AI 产品"号称有据可查"的说法,到底可信到什么程度。