আমার ফাইন্যান্স অ্যাপ FinMan VHWorx ফটো এবং ফাইল থেকে ইউটিলিটি মিটার, জ্বালানি রসিদ এবং ব্যাংক স্টেটমেন্ট পড়ে। এর সবকিছু OpenRouter-এর মাধ্যমে ভিশন/টেক্সট LLMs-এ চলে — এবং এর অনেক কিছু ফ্রি-টিয়ার মডেলগুলিতে।
ফ্রি মডেলগুলি দুর্দান্ত কিন্তু একটি জিনিস বাদে: তারা ক্রমাগত পরিবর্তিত হয়। তারা উপস্থিত হয়, অদৃশ্য হয়, নাম পরিবর্তন করে বা নীরবে অবমূল্যায়ন হয়। একটি মডেল আইডি হার্ডকোড করুন, এবং আপনার বৈশিষ্ট্যটি একটি এলোমেলো মঙ্গলবারে নীরবে মারা যায়।
সুতরাং FinMan মডেলগুলিকে কনস্ট্যান্ট হিসাবে বিবেচনা করা বন্ধ করে দিয়েছে। মডেলগুলি ডেটা:
- একটি দৈনিক কাজ OpenRouter থেকে লাইভ মডেল তালিকা সিঙ্ক করে। নতুন ফ্রি ভিশন মডেলগুলি স্বয়ংক্রিয়ভাবে যোগ করা হয়; অদৃশ্য মডেলগুলি নিষ্ক্রিয় হয়।
- পেইড ফলব্যাকগুলি দৈনিক দামে পুনঃর্যাঙ্ক করা হয়। জেমিনি ফ্ল্যাশ পরিবার ফ্রি টিয়ারকে ব্যাকআপ করে, সস্তা প্রথম — তাই একটি ফেইলওভার কখনও বিলকে অবাক করে না।
- স্বীকৃতি অগ্রাধিকার তালিকায় চলে। যদি একটি মডেল ত্রুটি করে বা চলে যায়, পরবর্তীটি দখল করে। একটি মৃত মডেল কখনও একটি ব্যবহারকারীর ছবিকে ভাঙে না।
- অ্যাপটি নিজেকে আপগ্রেড করে। একটি পৃথক কাজ একটি পাবলিক কমিউনিটি লিডারবোর্ড থেকে শীর্ষ মডেলটিকে অগ্রাধিকার #1 হিসাবে পিন করে — তাই টেক্সট কাজগুলি নীরবে বর্তমানে সেরা যা কিছুতে চলে যায়।
- পরিবর্তনগুলি আমাকে টেলিগ্রামে পিং করে। চেক করার জন্য কোনও ড্যাশবোর্ড নেই।
প্রোডাকশনে মাসের পর মাসের ফলাফল: আমি একটি মডেল আইডি স্পর্শ করিনি। প্রতিটি অবমূল্যায়ন তরঙ্গ অদৃশ্যভাবে চলে গেছে — আমার এবং ব্যবহারকারীদের দ্বারা।
যদি আপনি LLMs (বিশেষত ফ্রি টিয়ার) এর উপর ভিত্তি করে তৈরি করছেন, এটি আমার জানা সর্বোচ্চ-লিভারেজ ছোট পরিবর্তন: মডেলগুলি ডেটা, কনস্ট্যান্ট নয়। একটি টেবিল, একটি দৈনিক ক্রন, একটি অগ্রাধিকার হাঁটা। এটাই পুরো কৌশল।