Aplikasi kewangan saya FinMan VHWorx membaca meter utiliti, resit bahan api dan penyata bank dari gambar dan fail. Semua ini berjalan pada LLM visi/teks melalui OpenRouter — dan banyak daripadanya pada model tier percuma.
Model percuma hebat kecuali untuk satu perkara: mereka sentiasa berubah. Mereka muncul, hilang, ditukar nama atau dihapuskan secara senyap. Jika anda mengkod keras id model, dan ciri anda mati secara senyap pada hari Selasa yang rawak.
Jadi FinMan berhenti menganggap model sebagai pemalar. Model adalah data:
- Pekerjaan harian menyelaraskan senarai model langsung dari OpenRouter. Model visi percuma baru ditambah secara automatik; yang hilang dinyahaktifkan.
- Fallback berbayar disusun semula mengikut harga setiap hari. Keluarga Gemini Flash menyokong tier percuma, yang termurah dahulu — jadi failover tidak pernah mengejutkan bil.
- Pengenalan berjalan melalui senarai keutamaan. Jika model mengalami ralat atau hilang, yang seterusnya mengambil alih. Satu model mati tidak pernah merosakkan gambar pengguna.
- Aplikasi mengemas kini dirinya sendiri. Pekerjaan berasingan menetapkan model teratas dari papan pendahulu komuniti awam sebagai keutamaan #1 — jadi tugas teks bergerak secara senyap kepada apa yang kini terbaik.
- Perubahan memberi notifikasi kepada saya di Telegram. Tiada papan pemuka untuk diperiksa.
Hasil selepas berbulan-bulan dalam pengeluaran: Saya tidak menyentuh id model sejak itu. Setiap gelombang penghapusan berlalu tanpa disedari — oleh saya dan oleh pengguna.
Jika anda membina pada LLM (terutamanya tier percuma), ini adalah perubahan kecil dengan leverage tertinggi yang saya tahu: model sebagai data, bukan pemalar. Sebuah jadual, cron harian, satu perjalanan keutamaan. Itulah keseluruhan trik.