Pick The Right Brain, Pay The Right Price

Vibe 编程：高级工程 课程的一部分

选模型是一个工程决策，形态跟挑数据库或者挑队列一模一样：没有最好的选项，只有跟某类负载合不合适。每个请求都伸手去够最大的那个模型，相当于把每个作业都跑在最贵的机型上。能跑通，能把你的低效掩盖过去，然后在别的地方把钱要回去。这一课给你一套做决定的办法。

这个领域里每一个具体数字都会过期。模型名字会变，价格会降，上下文长度会涨，一节课要是把每百万词元多少钱写死在正文里，一个季度之内就成了错的。所以这一课刻意教的是决策流程，而不是价目表。需要数字的时候，去提供方的文档里现查；你记住的任何数字（或者模型凭记忆告诉你的任何数字），都只当作猜测。 ...