向量数据库与检索增强生成

Prompt Engineering 课程的一部分

第 2 课里你已经看到模型为什么会产生幻觉:它预测的是接下来可能出现的词元,并不去查证事实,凡是训练数据和上下文窗口之外的东西,都是它猜的。第 5 课里你学会了在发送之前先把数据填进提示词模板。本课把这两件事合起来,得到一个标准做法,让模型的回答扎在真实、最新、私有的信息之上:先检索出对的那段文本,再把它放进提示词。

模型只知道两样东西:训练时吸收进去的内容,以及你此刻放进提示词里的内容。它看不到你公司的 wiki,看不到上周的客服工单,也看不到你磁盘上的某个 PDF。拿这些去问它,它会给出一段流畅、自信而错误的文字。这就是第 2 课讲过的幻觉问题。