Neuralwatt-এর এনার্জি-ভিত্তিক বিলিং-এ GLM5.2 ব্যবহার করা

হ্যালো, আমি মুনো।

আমি সম্প্রতি GLM 5.2 ব্যবহার করতে চেয়েছিলাম কিন্তু অনেক খোঁজাখুঁজি করতে হয়েছে, তাই এটি লিখে রাখছি।

অনুসন্ধান

প্রথমে আমি কোথায় এটি বিনামূল্যে ব্যবহার করা যায় তা নিয়ে অনুসন্ধান করেছি।

Cloudflare Workers AI-তে আপাতত একটি ফ্রি টায়ার (free tier) ব্যবহার করা যায়, তাই আমি এটি চেষ্টা করে দেখেছি। ওহ, এটি অনেক ধীরগতিসম্পন্ন।

এটি প্রত্যাশিতই ছিল, কিন্তু সম্ভবত ফ্রি টায়ার থাকার কারণেই রেসপন্স স্পিড বা প্রতিক্রিয়ার গতি খুব খারাপ হয়ে গেছে।

https://openrouter.ai/z-ai/glm-5.2

বর্তমানে শুধুমাত্র API রেসপন্স পেতেই ৪৩ সেকেন্ড সময় লাগছে, তাই এটি ব্যবহারের অনুপযোগী। এমনকি আমি যখন পরীক্ষার জন্য Z.ai-এর অফিসিয়াল সাইটটি চেষ্টা করেছিলাম, তখন কোনো রেসপন্সই আসছিল না, যা পরিস্থিতিকে আরও খারাপ করে তুলেছে।

মনে হচ্ছে এটি Open Code-এর সাবস্ক্রিপশন প্ল্যানেও পাওয়া যাচ্ছে, কিন্তু Reddit ব্যবহারকারীদের রিভিউ খুব একটা ভালো নয়। টোকেন খরচ অনেক বেশি হওয়ায় দ্রুত লিমিট শেষ হয়ে যায়, ফলে এটি পরিচালনা করা কঠিন।

তাছাড়া, কোয়ান্টাইজেশনের (quantization) মাধ্যমে সংকুচিত মডেলগুলো যদি বুদ্ধিমত্তা হারিয়ে ফেলে, তবে টাকা খরচ করেও কোনো লাভ হবে না। তাই আমি ইন্টারনেটের রিভিউ এবং মজার বিষয়গুলো নিয়ে আরও ঘাঁটাঘাঁটি করার সিদ্ধান্ত নিয়েছি। আমি কিছু চাইনিজ প্রোভাইডারের কাছেও রেজিস্ট্রেশন করেছিলাম, কিন্তু তারা কোন মডেল ব্যবহার করছে সে সম্পর্কে তথ্য পরিষ্কার ছিল না, তাই আমি তা বাদ দিয়েছি।

অবশেষে, Hacker News-এর ব্যবহারকারীরা Neuralwatt-এর সুপারিশ করছিলেন। আমি এটি নিয়ে খোঁজ নিয়ে দেখলাম যে তাদের 'এনার্জি-বেসড বিলিং' (energy-based billing) নামে একটি মজার পেমেন্ট সিস্টেম রয়েছে।

ব্যবহারের ক্ষেত্রে এটি বিদ্যুতের খরচের ওপর ভিত্তি করে পরিবর্তনশীল হয়, যা তাদের অফিসিয়াল পেজেও দেখা যায়।

https://portal.neuralwatt.com/pricing

এনার্জি স্ট্যাটাস হিসেবে প্রতিটি রিকোয়েস্টে কতটুকু বিদ্যুৎ খরচ হয়েছে তাও চেক করা সম্ভব।

https://portal.neuralwatt.com/energy-pricing

Codex-এর সাথে তুলনা

ব্যক্তিগত অভিজ্ঞতায়, আমার প্রধানত ব্যবহৃত Codex-এর সমতুল্য রেসপন্স স্পিড পাওয়া গেছে GLM-5.2 (short, fast)-এ, তবে এক্ষেত্রে কনটেক্সট (Context) হলো ২০০K।

Codex-এ ব্যবহৃত GPT 5.5 Medium-এ ইনফারেন্স (inference) অন্তর্ভুক্ত থাকায় সম্ভবত ইনপুট/আউটপুট মিলিয়ে সর্বোচ্চ কনটেক্সট দৈর্ঘ্য ২৫৬K হবে। কার্যত সমতুল্য হিসেবে বিবেচনা করলে এটি GLM-5.2 (short) হবে। কারণ, Fast মডেলে ইনফারেন্স থাকে না, তাই এটি খেয়াল রাখতে হবে।

OpenAI GPT 5.5 :

https://help.openai.com/ja-jp/articles/11909943-gpt-55-in-chatgpt

Neuralwatt GLM-5.2 (short, fast) :

https://portal.neuralwatt.com/models/glm-5.2-short-fast

Neuralwatt GLM-5.2 (short) :

আমি মূলত Gemini CLI-এর রেসপন্স খুব ধীর হওয়ায় Codex ব্যবহার করে মুগ্ধ হয়েছিলাম এবং সাবস্ক্রিপশন নিয়েছিলাম। তবে আমার মনে হয়েছে GLM-5.2 (short)-এর গতি Codex 5.5 Medium-এর প্রায় সমান, তাই এটি বেশ কার্যকর।

যদি ইনফারেন্সের প্রয়োজন না থাকে, তবে সহজেই মডেল পরিবর্তন করা যায়, যা Open Code ব্যবহারের একটি সুবিধা। বাগ অনুসন্ধানের ক্ষেত্রে, Codex GPT 5.5 xhigh-এ একই প্রম্পট দিয়ে যে বাগ পাওয়া যায়নি, তা GLM 5.2-এর ১০৪৮K কনটেক্সট মডেল দিয়ে খুঁজে পাওয়া গেছে। এই দিক থেকে লার্নিং মডেলে কিছুটা পার্থক্য থাকলেও, বেশিরভাগ ক্ষেত্রে দুটিই প্রায় সমান।

যদি দুটিই প্রায় সমান হয়, তবে পে-অ্যাজ-ইউ-গো (pay-as-you-go) মডেলে কম খরচ করা কি বেশি সাশ্রয়ী নয়? এমনটা মনে হলেও, ChatGPT-এর সাবস্ক্রিপশনে Codex-এর যে কস্ট-পারফরম্যান্স পাওয়া যায় তা ছাড়া কঠিন, তাই নিশ্চিত করে কিছু বলা যাচ্ছে না।

তবে যদি সাময়িকভাবে Codex অনুপলব্ধ থাকে, অথবা কোটা শেষ হয়ে যায় কিন্তু নতুন সাবস্ক্রিপশন নিতে না চান, কিংবা Codex-এর কোটা দ্রুত শেষ হতে থাকে, তবে ব্যাকআপ LLM হিসেবে এটি একটি শক্তিশালী বিকল্প হতে পারে বলে আমার মনে হয়।

GLM 5.2-এর ১০৪৮K কনটেক্সট মডেলটি অফিস সময়ের বাইরে ব্যবহার করার পর, ২৪ ঘণ্টায় ১১ ডলার রিচার্জ থেকে ৮.০৯ ডলার বাকি আছে, অর্থাৎ খরচ হয়েছে প্রায় ৩ ডলার।

GPT 5.5-এ ধরা না পড়া বাগ বা সংশোধনীগুলো যদি এই খরচে খুঁজে পাওয়া যায়, তবে যারা সাবস্ক্রিপশন ছাড়া Claude (যার কোনো ফ্রি টায়ার নেই) ব্যবহার করতে চান না এমন Codex ব্যবহারকারীদের জন্য এটি একটি ভালো বিকল্প হতে পারে বলে আমি মনে করি।

অন্যান্য মডেল

আমি মনে করি Xiaomi-এর MiMo 2.5 বেশ কার্যকর, তবে এখনও খুব কম তথ্য থাকায় এটি পুরোপুরি তদন্ত করা সম্ভব হয়নি।

https://mimo.xiaomi.com/mimo-v2-5/

এটি Open Code Go-তে বিনামূল্যে ব্যবহার করা যায় এবং দীর্ঘক্ষণ চালিয়ে রাখলেও কোনো লিমিট আছে বলে মনে হয় না, তাই কার্যত আনলিমিটেড ব্যবহার করা যায় যা বেশ ভালো, তবে MiMo 2.5 Free মডেলটির বিস্তারিত তথ্য জানা নেই বলে নিশ্চিতভাবে কিছু বলা যাচ্ছে না। এটি এতটাই চমৎকার যে সামান্য অর্থ খরচ করে ব্যবহার করে দেখার মতো। বিশেষ করে, এটি শেখার (learning) কাজে ব্যবহৃত হলেও, কিছুটা সময় দিলে এটি উপযুক্ত সংশোধন এবং অ্যাপ তৈরি করতে পারে, তাই ওয়ান-টাইম স্ক্রিপ্ট তৈরির মতো কাজগুলো এর ওপর ছেড়ে দেওয়া যেতে পারে বলে আমার মনে হয়।