Η εφαρμογή χρηματοοικονομικών μου FinMan VHWorx διαβάζει μετρητές κοινής ωφέλειας, αποδείξεις καυσίμων και τραπεζικές καταστάσεις από φωτογραφίες και αρχεία. Όλα αυτά λειτουργούν με LLMs όρασης/κειμένου μέσω του OpenRouter — και πολλά από αυτά σε δωρεάν μοντέλα.
Τα δωρεάν μοντέλα είναι υπέροχα εκτός από ένα πράγμα: αλλάζουν συνεχώς. Εμφανίζονται, εξαφανίζονται, μετονομάζονται ή αποσύρονται σιωπηλά. Αν σκληροκωδικοποιήσεις ένα id μοντέλου, η δυνατότητά σου πεθαίνει ήσυχα σε μια τυχαία Τρίτη.
Έτσι, το FinMan σταμάτησε να αντιμετωπίζει τα μοντέλα ως σταθερές. Τα μοντέλα είναι δεδομένα:
- Μια καθημερινή εργασία συγχρονίζει τη ζωντανή λίστα μοντέλων από το OpenRouter. Νέα δωρεάν μοντέλα όρασης προστίθενται αυτόματα; αυτά που έχουν χαθεί απενεργοποιούνται.
- Οι πληρωμένες εναλλακτικές επαναταξινομούνται καθημερινά κατά τιμή. Η οικογένεια Gemini Flash υποστηρίζει τη δωρεάν κατηγορία, πρώτα τα φθηνότερα — έτσι μια εναλλαγή ποτέ δεν εκπλήσσει τον λογαριασμό.
- Η αναγνώριση ακολουθεί τη λίστα προτεραιότητας. Αν ένα μοντέλο έχει σφάλμα ή έχει χαθεί, το επόμενο αναλαμβάνει. Ένα νεκρό μοντέλο ποτέ δεν σπάει τη φωτογραφία ενός χρήστη.
- Η εφαρμογή αναβαθμίζεται μόνη της. Μια ξεχωριστή εργασία καθορίζει το κορυφαίο μοντέλο από μια δημόσια κατάταξη κοινότητας ως προτεραιότητα #1 — έτσι οι εργασίες κειμένου ήσυχα μετακινούνται σε ό,τι είναι αυτή τη στιγμή καλύτερο.
- Οι αλλαγές με ειδοποιούν στο Telegram. Χωρίς πίνακες ελέγχου για έλεγχο.
Το αποτέλεσμα μετά από μήνες παραγωγής: δεν έχω αγγίξει ένα id μοντέλου από τότε. Κάθε κύμα αποσυρμένων πέρασε απαρατήρητο — από μένα και από τους χρήστες.
Αν χτίζεις σε LLMs (ειδικά δωρεάν κατηγορίες), αυτή είναι η πιο υψηλή απόδοση μικρής αλλαγής που γνωρίζω: μοντέλα ως δεδομένα, όχι σταθερές. Ένας πίνακας, μια καθημερινή εργασία, μια προτεραιότητα. Αυτό είναι το όλο κόλπο.