Pick The Right Brain, Pay The Right Price

Parte del curso de Vibe Coding: Advanced Engineering

Elegir modelo es una decisión de ingeniería con la misma forma que elegir una base de datos o una cola: no existe la mejor opción, solo la que encaja con una carga de trabajo. Recurrir al modelo más grande en cada petición equivale a lanzar todos los trabajos en el tipo de instancia más caro. Funciona, tapa tu ineficiencia y te sale caro por otro lado. Esta lección te da un método para decidir.

Cualquier cifra concreta de este terreno caduca. Los nombres de los modelos cambian, los precios bajan, los límites de contexto crecen, y una lección que fijara un precio por millón de tokens estaría equivocada en un trimestre. Por eso aquí se enseña a propósito el procedimiento de decisión y no la lista de precios. ...