ჩემი ფინანსური აპლიკაცია FinMan VHWorx კითხულობს კომუნალური მიტარების, საწვავის ქვითრების და ბანკის ანგარიშების ფოტოებს და ფაილებს. ყველაფერი ეს მუშაობს ვიზიონ/ტექსტ LLM-ებზე OpenRouter-ის საშუალებით — და ბევრი უფასო მოდელების საშუალებით.
უფასო მოდელები შესანიშნავია ერთი რამით: ისინი მუდმივად იცვლებიან. ისინი გამოჩნდებიან, გაქრებიან, გადარქმევენ ან უხმაუროდ გაუქმდებიან. მოდელის ID-ის hardcoding, და თქვენი ფუნქცია მშვიდად კვდება შემთხვევით სამშაბათს.
ასე რომ FinMan-მა შეწყვიტა მოდელების მუდმივად გაწვდვა. მოდელები არის მონაცემები:
- ყოველდღიური სამუშაო სინქრონიზирует ცოცხალი მოდელების სიას OpenRouter-დან. ახალი უფასო ვიზიონური მოდელები ავტომატურად ემატება; გაქროლილი მოდელები დეაქტივირდება.
- გადახდილი ალტერნატივები ყოველდღიურად ხელახლა კლასიფიცირდება ფასით. Gemini Flash ოჯახი ეხმარება უფასო დონეს, ყველაზე იაფი პირველ რიგში — ასე რომ გადამრთვა არასდროს გაწვდას გაწვდას.
- აღიარება გადის პრიორიტეტულ სიას. თუ მოდელი შეცდომას უშვებს ან გაქრა, შემდეგი მოდელი იღებს. ერთი მოკვდავი მოდელი არასდროს არღვევს მომხმარებლის ფოტოს.
- აპლიკაცია თვითონ განახლდება. ცალკე სამუშაო აკავშირებს საზოგადოებრივი ლიდერბორდიდან საუკეთესო მოდელს პრიორიტეტულ #1-ად — ასე რომ ტექსტური დავალებები მშვიდად გადადიან იმაზე, რაც ამჟამად საუკეთესოა.
- ცვლილებები Telegram-ზე მიგვაწვდოს. არანაირი დაფა შესამოწმებლად.
შედეგი რამდენიმე თვის განმავლობაში წარმოებაში: მე არ შევეხებივარ მოდელის ID-ს მას შემდეგ. ყოველი გაუქმების ტალღა შეუმჩნეველი დარჩა — ჩემთვის და მომხმარებლებისთვის.
თუ თქვენ აშენებთ LLM-ებზე (განსაკუთრებით უფასო დონეებზე), ეს არის ყველაზე მაღალი ეფექტური პატარა ცვლილება, რაც ვიცი: მოდელები როგორც მონაცემები, არა მუდმივები. ცხრილი, ყოველდღიური კრონი, პრიორიტეტული სიას. ეს არის მთელი ხრიკი.