اپلیکیشن مالی من FinMan VHWorx مترهای خدمات عمومی، رسیدهای سوخت و صورت حساب های بانکی را از عکس ها و فایل ها می خواند. همه اینها از طریق OpenRouter بر روی LLM های بینایی/متن اجرا می شود — و بسیاری از آن بر روی مدل های رایگان است.
مدل های رایگان عالی هستند به جز یک چیز: آنها به طور مداوم تغییر می کنند. آنها ظاهر می شوند، ناپدید می شوند، نامگذاری می شوند یا به آرامی منسوخ می شوند. اگر یک شناسه مدل را سخت کد کنید، ویژگی شما به آرامی در یک سه شنبه تصادفی می میرد.
بنابراین FinMan دیگر به مدل ها به عنوان ثابت ها نگاه نمی کند. مدل ها داده هستند:
- یک کار روزانه لیست مدل های زنده را از OpenRouter همگام می کند. مدل های جدید رایگان بینایی به طور خودکار اضافه می شوند؛ مدل های ناپدید شده غیرفعال می شوند.
- پشتیبان های پرداختی روزانه بر اساس قیمت دوباره رتبه بندی می شوند. خانواده Gemini Flash پشتیبان رایگان را تأمین می کند، ارزان ترین اول — بنابراین یک failover هرگز صورت حساب را شگفت زده نمی کند.
- شناسایی لیست اولویت را طی می کند. اگر یک مدل خطا کند یا ناپدید شود، مدل بعدی جایگزین می شود. یک مدل مرده هرگز عکس کاربر را خراب نمی کند.
- اپلیکیشن خود را به روز می کند. یک کار جداگانه مدل برتر از یک جدول رده بندی عمومی را به عنوان اولویت #1 پین می کند — بنابراین وظایف متنی به آرامی به هر چیزی که در حال حاضر بهترین است منتقل می شوند.
- تغییرات من را در تلگرام پینگ می کند. هیچ داشبوردی برای بررسی وجود ندارد.
نتیجه پس از ماه ها در تولید: من از آن زمان هیچ شناسه مدلی را لمس نکرده ام. هر موج کاهش به طور نامحسوس گذشت — توسط من و کاربران.
اگر شما بر روی LLM ها (به ویژه سطوح رایگان) کار می کنید، این بالاترین تغییر کوچک با بالاترین تأثیر است که می شناسم: مدل ها به عنوان داده، نه ثابت. یک جدول، یک کرون روزانه، یک پیاده روی اولویت. این کل ترفند است.