Finans uygulamam FinMan VHWorx, fotoğraflardan ve dosyalardan enerji sayaçlarını, yakıt fişlerini ve banka ekstrelerini okur. Tüm bunlar, OpenRouter aracılığıyla görsel/metin LLM'leri üzerinde çalışır — ve çoğu ücretsiz katman modelleri üzerinde.
Ücretsiz modeller harika ama bir şey dışında: sürekli değişirler. Ortaya çıkarlar, kaybolurlar, yeniden adlandırılırlar veya sessizce emekliye ayrılırlar. Bir model kimliğini sabit kodlarsanız, özelliğiniz rastgele bir Salı günü sessizce ölür.
Bu nedenle FinMan, modelleri sabitler olarak ele almayı bıraktı. Modeller veridir:
- Günlük bir iş, OpenRouter'dan canlı model listesini senkronize eder. Yeni ücretsiz görsel modeller otomatik olarak eklenir; kaybolanlar devre dışı bırakılır.
- Ücretli yedekler her gün fiyata göre yeniden sıralanır. Gemini Flash ailesi, ücretsiz katmanı destekler, en ucuzdan başlayarak — böylece bir failover, faturayı asla sürpriz yapmaz.
- Tanım, öncelik listesini yürütür. Eğer bir model hata verirse veya kaybolursa, bir sonraki devralır. Bir ölü model, bir kullanıcının fotoğrafını asla bozmaz.
- Uygulama kendini günceller. Ayrı bir iş, bir kamu topluluğu liderlik tablosundan en iyi modeli öncelik #1 olarak sabitler — böylece metin görevleri sessizce en iyi olanına geçer.
- Değişiklikler Telegram'da bana bildirilir. Kontrol edilecek panolar yok.
Üretimde geçen aylardan sonra sonuç: Bir model kimliğine dokunmadım. Her emeklilik dalgası, benim ve kullanıcıların gözünden kaçtı.
LLM'ler (özellikle ücretsiz katmanlar) üzerinde çalışıyorsanız, bu benim bildiğim en yüksek verimli küçük değişikliktir: modeller veridir, sabitler değil. Bir tablo, günlük bir cron, bir öncelik yürüyüşü. Tüm numara bu.