Rahoitussovellukseni FinMan VHWorx lukee käyttömittareita, polttoainekuittia ja pankkitiliotteita valokuvista ja tiedostoista. Kaikki tämä toimii visio/teksti LLM:ien kautta OpenRouterin avulla — ja suuri osa siitä ilmaisilla tasomalleilla.
Ilmaiset mallit ovat hienoja paitsi yhdessä asiassa: ne vaihtuvat jatkuvasti. Ne ilmestyvät, katoavat, nimetään uudelleen tai poistetaan hiljaa. Kovakoodaa mallin id, ja ominaisuutesi kuolee hiljaa satunnaisena tiistaina.
Joten FinMan lopetti mallien käsittelyn vakioina. Mallit ovat tietoa:
- Päivittäinen työ synkronoi live-mallilistan OpenRouterista. Uudet ilmaiset visiomallit lisätään automaattisesti; kadonneet poistetaan käytöstä.
- Maksetut varamallit järjestetään päivittäin hinnan mukaan. Gemini Flash -perhe tukee ilmaista tasoa, halvimmat ensin — joten varajärjestelmä ei koskaan yllätä laskua.
- Tunnistus kulkee prioriteettilistan läpi. Jos malli virheilee tai on kadonnut, seuraava ottaa paikan. Yksi kuollut malli ei koskaan riko käyttäjän kuvaa.
- Sovellus päivittää itsensä. Erityinen työ kiinnittää paras malli julkiselta yhteisön johtajalta prioriteetti #1 — joten tekstitehtävät siirtyvät hiljaa parhaaseen mahdolliseen.
- Muutos ilmoittaa minulle Telegramissa. Ei hallintapaneeleja tarkistettavaksi.
Tulos kuukausien tuotannossa: en ole koskenut mallin id:hen sen jälkeen. Jokainen poistovaihe meni huomaamatta — minulta ja käyttäjiltä.
Jos rakennat LLM:ien (erityisesti ilmaisilla tasoilla) varaan, tämä on korkein hyöty pieni muutos, jonka tiedän: mallit tietona, ei vakioina. Taulukko, päivittäinen cron, prioriteettikävely. Se on koko temppu.