大语言模型如何生成文本

Prompt Engineering 课程的一部分

你已经知道什么是提示词、什么是补全,也知道同一个提示词每次回来的措辞可能不一样。这一课带你看提示词另一侧发生的事:模型究竟怎么把你的话变成一段回复。现在把机制弄清楚,接下来要讲的提示词五项原则就不再像一堆要背下来的规矩,而更像这台机器的工作方式必然带来的结果。

在模型看到你的提示词之前,文本会先被切成一些小块,叫做词元,它们是子词级的片段:一个短词、一个长词的一部分,或者一个标点符号。把文本切成这些小块的过程叫做词元化。 ...