Vector Databases y Retrieval-Augmented Generation

Parte del curso de Prompt Engineering

En la lección 2 viste por qué un modelo alucina: predice los tokens siguientes más probables, no busca hechos en ningún sitio, y todo lo que quede fuera de su entrenamiento o de su context window es una suposición. En la lección 5 aprendiste a rellenar una plantilla de prompt con datos antes de enviarla.

Un modelo solo sabe dos cosas: lo que absorbió durante el entrenamiento y lo que pones en el prompt ahora mismo. No puede ver la wiki de tu empresa, ni los tickets de soporte de la semana pasada, ni un PDF que tengas en el disco. Pregúntale por cualquiera de esas cosas y producirá un texto fluido, seguro de sí mismo y equivocado. Ese es el problema de las alucinaciones de la lección 2. ...