Pick The Right Brain, Pay The Right Price

Parte do curso de Vibe Coding: Advanced Engineering

Escolher um modelo é uma decisão de engenharia com o mesmo formato de escolher um banco de dados ou uma fila: não existe a melhor opção, apenas a que serve a uma carga de trabalho. Recorrer ao maior modelo em toda requisição equivale a rodar todo serviço no maior tipo de instância. Funciona, esconde a sua ineficiência e cobra de você em outro lugar. Esta lição lhe dá um jeito de decidir.

Todo número específico nesta área vence. Nomes de modelo mudam, preços caem, limites de contexto crescem, e uma lição que fixasse um preço por milhão de tokens estaria errada dentro de um trimestre. Então esta lição ensina de propósito o procedimento de decisão, e não a tabela de preços. ...