Мае фінансавае прыкладанне FinMan VHWorx счытвае электралічыльнікі, чэкі на паліва і банкаўскія выпіскі з фатаграфій і файлаў. Усё гэта працуе на візуальных/тэкставых LLM праз OpenRouter — і шмат з гэтага на бясплатных мадэлях.
Бясплатныя мадэлі выдатныя, акрамя аднаго: яны пастаянна змяняюцца. Яны з'яўляюцца, знікаюць, пераймяноўваюцца або ціха дэпракруюцца. Хардкодзіце ідэнтыфікатар мадэлі, і ваша функцыя памрэ ціха ў выпадковы аўторак.
Так што FinMan спыніў разглядаць мадэлі як канстанты. Мадэлі — гэта даныя:
- Штодзённая праца сінхранізуе жывой спіс мадэляў з OpenRouter. Новыя бясплатныя візуальныя мадэлі дадаюцца аўтаматычна; зніклыя адключаюцца.
- Платныя рэзервовыя мадэлі пераразмяркоўваюцца па цане штодня. Сям'я Gemini Flash падтрымлівае бясплатны ўзровень, спачатку таннейшы — так што пераключэнне ніколі не здзіўляе рахунак.
- Распазнаванне праходзіць па спісе прыярытэтаў. Калі мадэль памыляецца або знікла, наступная бярэ на сябе. Адна мёртвая мадэль ніколі не ламае фатаграфію карыстальніка.
- Прыкладанне абнаўляе сябе. Аддзяляльная праца замацоўвае лепшую мадэль з публічнага рэйтынгу супольнасці як прыярытэт #1 — так што тэкставыя задачы ціха пераходзяць на тое, што зараз лепшае.
- Змены пінгуйце мяне ў Telegram. Ніякіх панэляў для праверкі.
Вынік пасля месяцаў у вытворчасці: я не дакранаўся да ідэнтыфікатара мадэлі з таго часу. Кожная хваля дэпракцыі прайшла непрыкметна — для мяне і для карыстальнікаў.
Калі вы будуеце на LLM (асабліва бясплатных узроўнях), гэта найбольш эфектыўная невялікая змена, якую я ведаю: мадэлі як даныя, а не канстанты. Табліца, штодзённы кран, праход па прыярытэтах. Гэта ўся хітрасць.