Vector Databases e Retrieval-Augmented Generation

Parte do curso de Prompt Engineering

Na lição 2 você viu por que um modelo alucina: ele prevê os próximos tokens mais prováveis, não consulta fatos em lugar nenhum, e tudo que está fora do treinamento ou da janela de contexto é chute. Na lição 5 você aprendeu a preencher um template de prompt com dados antes de enviá-lo.

Um modelo conhece só duas coisas: o que absorveu durante o treinamento e o que você colocou no prompt agora. Ele não enxerga o wiki da sua empresa, os tickets de suporte da semana passada nem um PDF guardado no seu disco. Pergunte sobre qualquer um deles e sai um texto fluente, confiante e errado. É o problema da alucinação, da lição 2.