Стандартные практики генерации текста

Часть курса Prompt Engineering

Второй и третий уроки дали почувствовать, как модель на самом деле выдаёт текст по одному токену за раз, и показали пять принципов управления ею. Этот урок превращает то понимание в небольшой набор привычек, благодаря которым генерация текста становится достаточно предсказуемой, чтобы на неё можно было опираться.

Когда в промпте есть и инструкция, и кусок текста, с которым надо что-то сделать, модели приходится самой догадываться, где кончается одно и начинается другое. Если просто склеить их вместе, она может принять часть ваших данных за новую инструкцию или, наоборот, вписать вашу инструкцию в то, что должна была пересказать.