تطبيق مالي الخاص بي FinMan VHWorx يقرأ عدادات المرافق، إيصالات الوقود وكشوف الحسابات البنكية من الصور والملفات. كل ذلك يعمل على LLMs للرؤية/النص عبر OpenRouter - والكثير منه على نماذج مجانية.
النماذج المجانية رائعة باستثناء شيء واحد: إنها تتغير باستمرار. تظهر، تختفي، يتم إعادة تسميتها أو يتم إهمالها بصمت. إذا قمت بتشفير معرف نموذج، فإن ميزتك تموت بهدوء في يوم ثلاثاء عشوائي.
لذا توقف FinMan عن التعامل مع النماذج كثوابت. النماذج هي بيانات:
- وظيفة يومية تقوم بمزامنة قائمة النماذج الحية من OpenRouter. يتم إضافة نماذج الرؤية المجانية تلقائيًا؛ يتم تعطيل النماذج المفقودة.
- النماذج المدفوعة تعيد ترتيبها حسب السعر يوميًا. عائلة Gemini Flash تدعم الطبقة المجانية، الأرخص أولاً - لذا فإن الفشل لا يفاجئ الفاتورة.
- التعرف يتبع قائمة الأولويات. إذا كان نموذج ما به خطأ أو مفقود، يتولى النموذج التالي. نموذج ميت واحد لا يكسر صورة المستخدم.
- التطبيق يقوم بتحديث نفسه. وظيفة منفصلة تثبت النموذج الأعلى من قائمة المتصدرين العامة كأولوية #1 - لذا تنتقل مهام النص بهدوء إلى ما هو الأفضل حاليًا.
- التغييرات تنبهني على تيليجرام. لا لوحات تحكم للتحقق منها.
النتيجة بعد أشهر من الإنتاج: لم أقم بلمس معرف نموذج منذ ذلك الحين. مرت كل موجة تقادم دون أن يلاحظها أحد - من قبلي ومن قبل المستخدمين.
إذا كنت تبني على LLMs (خاصة الطبقات المجانية)، فإن هذا هو التغيير الصغير الأكثر تأثيرًا الذي أعرفه: النماذج كبيانات، وليس كثوابت. جدول، كرون يومي، مسار أولوية. هذه هي الحيلة الكاملة.