我的财务应用FinMan VHWorx从照片和文件中读取公用事业表、燃油收据和银行对账单。所有这些都通过OpenRouter运行视觉/文本LLM——而且很多都基于免费层模型。
免费模型很好，除了一个问题：它们不断变化。它们出现、消失、被重命名或悄然弃用。硬编码模型ID，您的功能在随机的星期二悄然死去。
因此，FinMan停止将模型视为常量。模型是数据：
- 每日工作同步来自OpenRouter的实时模型列表。新的免费视觉模型会自动添加；消失的模型会被停用。
- 付费备份按价格每日重新排名。Gemini Flash系列支持免费层，最便宜的优先——因此切换不会让账单感到意外。
- 识别会走优先级列表。如果一个模型出错或消失，下一个模型接管。一个失效的模型永远不会破坏用户的照片。
- 应用程序自我升级。一个单独的工作将公共社区排行榜上的顶级模型固定为优先级#1——因此文本任务会悄然转移到当前最佳的模型上。
- 变更会通过Telegram通知我。无需检查仪表板。
经过几个月的生产结果：我自那时起没有触碰过模型ID。每次弃用波动都未被我和用户注意到。
如果您正在构建基于LLM的应用（尤其是免费层），这是我所知道的最高杠杆小变化：模型作为数据，而不是常量。一个表格、一个每日计划、一个优先级遍历。这就是整个技巧。