मेरी वित्त ऐप FinMan VHWorx फोटो और फ़ाइलों से उपयोगिता मीटर, ईंधन रसीदें और बैंक स्टेटमेंट पढ़ता है। इसका सारा काम OpenRouter के माध्यम से दृष्टि/पाठ LLMs पर चलता है - और इसका बहुत सारा मुफ्त-स्तरीय मॉडलों पर।
मुफ्त मॉडल शानदार हैं सिवाय एक चीज के: वे लगातार बदलते रहते हैं। वे प्रकट होते हैं, गायब होते हैं, नाम बदलते हैं या चुपचाप समाप्त हो जाते हैं। एक मॉडल आईडी को हार्डकोड करें, और आपकी विशेषता एक यादृच्छिक मंगलवार को चुपचाप मर जाती है।
इसलिए FinMan ने मॉडलों को स्थिरांक के रूप में मानना बंद कर दिया। मॉडल डेटा हैं:
- एक दैनिक कार्य OpenRouter से लाइव मॉडल सूची को समन्वयित करता है। नए मुफ्त दृष्टि मॉडल स्वचालित रूप से जोड़े जाते हैं; गायब लोगों को निष्क्रिय किया जाता है।
- भुगतान किए गए बैकअप दैनिक आधार पर कीमत के अनुसार फिर से रैंक होते हैं। जेमिनी फ्लैश परिवार मुफ्त स्तर का समर्थन करता है, सबसे सस्ता पहले - इसलिए एक फेलओवर कभी भी बिल को आश्चर्यचकित नहीं करता।
- पहचान प्राथमिकता सूची के साथ चलती है। यदि कोई मॉडल त्रुटि करता है या गायब है, तो अगला मॉडल ले लेता है। एक मृत मॉडल कभी भी उपयोगकर्ता की फोटो को नहीं तोड़ता।
- ऐप अपने आप को अपडेट करता है। एक अलग कार्य एक सार्वजनिक समुदाय लीडरबोर्ड से शीर्ष मॉडल को प्राथमिकता #1 के रूप में पिन करता है - इसलिए पाठ कार्य चुपचाप वर्तमान में सर्वश्रेष्ठ पर चले जाते हैं।
- परिवर्तन मुझे टेलीग्राम पर पिंग करते हैं। जांचने के लिए कोई डैशबोर्ड नहीं।
उत्पादन में महीनों के बाद परिणाम: मैंने कभी भी एक मॉडल आईडी को छुआ नहीं है। हर समाप्ति की लहर अनजान रह गई - मेरे द्वारा और उपयोगकर्ताओं द्वारा।
यदि आप LLMs (विशेष रूप से मुफ्त स्तर) पर निर्माण कर रहे हैं, तो यह सबसे उच्च-लाभकारी छोटा परिवर्तन है जो मैं जानता हूँ: मॉडल डेटा के रूप में, स्थिरांक नहीं। एक तालिका, एक दैनिक क्रोन, एक प्राथमिकता चलना। यही पूरा ट्रिक है।