Finans uygulamam FinMan VHWorx fotoğraflardan ve dosyalardan enerji sayaçlarını, yakıt fişlerini ve banka ekstrelerini okur. Tüm bunlar OpenRouter aracılığıyla görsel/metin LLM'leri üzerinde çalışır - ve çoğu ücretsiz katman modelleri üzerinde.
Ücretsiz modeller harika, tek bir şey dışında: sürekli değişiyorlar. Görünüyorlar, kayboluyorlar, yeniden adlandırılıyorlar veya sessizce emekliye ayrılıyorlar. Bir model kimliğini sabit kodlarsanız, özelliğiniz rastgele bir Salı günü sessizce ölür.
Bu yüzden FinMan, modelleri sabitler olarak ele almayı bıraktı. Modeller veridir:
- Günlük bir iş, OpenRouter'dan canlı model listesini senkronize eder. Yeni ücretsiz görsel modeller otomatik olarak eklenir; kaybolanlar devre dışı bırakılır.
- Ücretli yedekler günlük olarak fiyata göre yeniden sıralanır. Gemini Flash ailesi, ücretsiz katmanı destekler, en ucuzdan başlayarak - böylece bir geçiş faturayı asla sürpriz yapmaz.
- Tanıma öncelik listesini takip eder. Eğer bir model hata verirse veya kaybolursa, bir sonraki devralır. Bir ölü model asla bir kullanıcının fotoğrafını bozmaz.
- Uygulama kendini günceller. Ayrı bir iş, bir kamu topluluğu liderlik tablosundan en iyi modeli öncelik #1 olarak sabitler - böylece metin görevleri, şu anda en iyi olan modele sessizce geçer.
- Değişiklikler Telegram'da bana bildirilir. Kontrol edilecek panolar yok.
Üretimde geçen aylar sonrasında elde edilen sonuç: O zamandan beri bir model kimliğine dokunmadım. Her emeklilik dalgası, benim ve kullanıcıların gözünden kaçtı.
Eğer LLM'ler (özellikle ücretsiz katmanlar) üzerinde çalışıyorsanız, bildiğim en yüksek etkili küçük değişiklik: modeller veri olarak, sabitler olarak değil. Bir tablo, günlük bir cron, bir öncelik yürüyüşü. Tüm numara bu.