Vector-базы данных и Retrieval-Augmented Generation

Часть курса Prompt Engineering

В уроке 2 вы видели, почему модель галлюцинирует: она предсказывает вероятные следующие токены, а не ищет факты, и всё, что лежит вне обучающих данных и вне окна контекста, для неё догадка. В уроке 5 вы научились заполнять шаблон промпта данными перед отправкой.

Модель знает только две вещи: то, что впитала при обучении, и то, что вы положили в промпт прямо сейчас. Она не видит ни вашу корпоративную вики, ни заявки в поддержку за прошлую неделю, ни PDF, который лежит у вас на диске. Спросите про что-нибудь из этого, и получите гладкий, уверенный и неверный текст. Это та самая проблема галлюцинаций из урока 2. ...