My finansie-app FinMan VHWorx lees nutsmeters, brandstofkwitansies en bankstate uit foto's en lêers. Al hierdie werk op visie/teks LLMs via OpenRouter — en baie daarvan op gratis vlak modelle.
Gratis modelle is wonderlik behalwe vir een ding: hulle draai konstant. Hulle verskyn, verdwyn, word hernoem of stilweg afskryf. Hardkodeer 'n model id, en jou funksie sterf stil op 'n ewekansige Dinsdag.
So FinMan het opgehou om modelle as konstantes te behandel. Modelle is data:
- ‘n Daaglikse werk sinkroniseer die lewende modellys van OpenRouter. Nuwe gratis visie modelle word outomaties bygevoeg; verdwynende word gedeaktiveer.
- Betaalde terugvalle her-rangskik daagliks volgens prys. Die Gemini Flash-familie ondersteun die gratis vlak, die goedkoopste eerste — sodat 'n failover nooit die rekening verras nie.
- Erkenning loop die prioriteitslys. As 'n model 'n fout maak of weg is, neem die volgende een oor. Een dooie model breek nooit 'n gebruiker se foto nie.
- Die app opgradeer homself. 'n Afsonderlike werk pin die topmodel van 'n openbare gemeenskap-leerbord as prioriteit #1 — sodat teks take stilweg beweeg na wat tans die beste is.
- Veranderings ping my op Telegram. Geen dashboards om te kontroleer nie.
Die resultaat na maande in produksie: Ek het sedertdien nie 'n model id aangeraak nie. Elke afskrywinggolf het ongemerk verbygegaan — deur my en deur gebruikers.