Mana finanšu lietotne FinMan VHWorx lasa komunalos skaitītājus, degvielas čekus un bankas izrakstus no fotoattēliem un failiem. Viss tas darbojas uz redzes/teksta LLM, izmantojot OpenRouter — un daudz kas no tā uz bezmaksas modeļiem.
Bezmaksas modeļi ir lieliski, izņemot vienu lietu: tie pastāvīgi mainās. Tie parādās, pazūd, tiek pārdēvēti vai klusi noveco. Iekodējiet modeļa ID, un jūsu funkcija klusi mirst nejaušā otrdienā.
Tāpēc FinMan pārtrauca modeļu uzskatīšanu par konstantēm. Modeļi ir dati:
- Ikdienas darbs sinhronizē dzīvo modeļu sarakstu no OpenRouter. Jauni bezmaksas redzes modeļi tiek automātiski pievienoti; pazudušie tiek deaktivizēti.
- Maksātie rezerves modeļi katru dienu tiek pārkārtoti pēc cenas. Gemini Flash ģimene nodrošina bezmaksas līmeni, vispirms lētāko — tāpēc failover nekad nepārsteidz rēķinu.
- Atpazīšana pārvietojas pa prioritātes sarakstu. Ja modelis kļūst par kļūdu vai ir pazudis, nākamais pārņem. Viens miris modelis nekad nepārtrauc lietotāja foto.
- Lietotne atjaunina sevi. Atsevišķs darbs piesaista labāko modeli no publiskas kopienas līderu saraksta kā prioritāti #1 — tāpēc teksta uzdevumi klusi pārvietojas uz to, kas šobrīd ir labākais.
- Izmaiņas paziņo man Telegramā. Nav informācijas paneļu, ko pārbaudīt.
Rezultāts pēc mēnešiem ražošanā: es neesmu pieskāries modeļa ID kopš. Katrs novecošanas vilnis pagāja nemanāmi — man un lietotājiem.
Ja jūs veidojat uz LLM (īpaši bezmaksas līmeņiem), tas ir visaugstākā ietekme mazs solis, ko es zinu: modeļi kā dati, nevis konstantes. Tabula, ikdienas cron, prioritātes gājiens. Tas ir viss triks.