Minu rahanduse rakendus FinMan VHWorx loeb kommunaalmõõtureid, kütusekviite ja pangakonto väljavõtteid fotodest ja failidest. Kõik see töötab visiooni/teksti LLM-ide kaudu OpenRouteri kaudu — ja palju sellest tasuta taseme mudelitel.
Tasuta mudelid on suurepärased, välja arvatud ühes asjas: need muutuvad pidevalt. Need ilmuvad, kaovad, nimetatakse ümber või vaikselt vananevad. Kui kodeerite mudeli ID, sureb teie funktsioon vaikselt juhuslikul teisipäeval.
Seega lõpetas FinMan mudelite käsitlemise konstantidena. Mudelid on andmed:
- Igapäevane töö sünkroniseerib elava mudelite nimekirja OpenRouterist. Uued tasuta visioonimudelid lisatakse automaatselt; kadunud mudelid deaktiveeritakse.
- Tasulised varuvariandid reastatakse hinna järgi igapäevaselt. Gemini Flash perekond toetab tasuta taset, odavaim esimesena — nii et varundamine ei üllata arvet.
- Tuvastus järgib prioriteetide loendit. Kui mudel eksib või on kadunud, võtab järgmine üle. Üks surnud mudel ei riku kunagi kasutaja fotot.
- Rakendus uuendab end ise. Eraldi töö kinnitab avaliku kogukonna edetabelist parima mudeli prioriteediks #1 — nii et tekstitööd liiguvad vaikselt sellele, mis on hetkel parim.
- Muudatused teavitavad mind Telegramis. Pole armatuurlaudu, mida kontrollida.
Tulemus pärast kuude tootmises: ma ei ole mudeli ID-d puudutanud. Iga vananemise laine möödus märkamatult — minu ja kasutajate jaoks.
Kui ehitate LLM-ide (eriti tasuta tasemete) peal, on see kõrgeima taseme väike muudatus, mille ma tean: mudelid andmetena, mitte konstantidena. Tabel, igapäevane cron, prioriteetide järgimine. See on kogu trikk.