Neuralwattのエネルギーベース課金でGLM5.2を使う
こんにちは、無能です。
直近でGLM5.2を使いたいけど右往左往してるので書いておきます。
調査
はじめに無料で利用出来るところを調査しました。
Cloudflare Workers AIでは一応は無料枠が利用出来るので試してみました。やばい、遅すぎる。
それもそうなんだろうなという感じですが、無料枠あるおかげなのか応答速度酷いことになってます。
https://openrouter.ai/z-ai/glm-5.2
現状でAPIレスポンスだけで43秒かかるわけなので使い物になりません。なんならテストで試してた Z.ai の公式も試したときに全くレスポンス帰ってこなかったりしてて酷いことになっている。
Open Codeのサブスクリプションプランでも提供されているようですが、Reddit民の評価があまりよろしく無くトークン消費がすごいのですぐにリミット到達してしまうから運用が難しいようです。
また、量子化によって圧縮された場合のモデルが賢く無くなっている場合にせっかくお金払ったのに使い物にならないなんていうことでは結局意味が無いのでもはやインターネットの評価と面白さで漁ることにしました。いくつか中華プロバイダーにも登録したりしたんですが、利用モデルの情報がオープンにされてなかったりしたのでやめました。
最終的に Hacker News のユーザも Neuralwatt というとこを推していたので調べてみたところエネルギーベース課金という面白い料金形態をしているようです。
利用にあたりはこの電力に応じて変動的となっており以下のように公式ページでも確認が出来ます。
https://portal.neuralwatt.com/pricing
エネルギーのステータスとして現在一回のリクエストでどれだけの電力を消費したのかも確認が出来ます。
https://portal.neuralwatt.com/energy-pricing
Codexとの比較
特に触った感じはメインで利用している Codex と同等レベルのレスポンススピードは GLM-5.2 (short, fast) ですがこの場合 Context は 200K となります。
Codex で利用してる GPT 5.5 Meduim は推論が含まれているため恐らくですが最大context長はinput / output 合わせて256kとなっているのではないでしょうか。実質的に同等のように扱うとした場合は GLM-5.2 (short) となりそうです。理由はFastモデルの場合は推論が無くなるので注意です。
OpenAI GPT 5.5 :
https://help.openai.com/ja-jp/articles/11909943-gpt-55-in-chatgpt
Neuralwatt GLM-5.2 (short, fast) :
https://portal.neuralwatt.com/models/glm-5.2-short-fast
Neuralwatt GLM-5.2 (short) :
私は元々Gemini CLIからあまりにレスポンスが遅すぎてCodex使って感動して契約に至りましたが、体感としては GLM-5.2 (short) はCodex 5.5 Mediumとスピード自体はほぼ同じレベルなのでかなり実用的です。
そもそも推論すらいらない場合には気軽にモデルをスイッチ出来るのもOpen Codeを利用してる恩恵かと思います。バグ調査等に関してはCodex GPT 5.5 xhigh で同じプロンプトで見つからなかったバグが GLM 5.2 のコンテキスト長1048Kモデルで発見出来た部分もあったためこの点に関しては学習モデルとしての若干の差は感じますが大半はどっちもどっち程度です。
もはやどっちもどっち程度ならば従量課金制であまりお金減らないほうがエコなのでは？と思っている節もあるのですが実際 ChatGPT の課金で利用出来るCodex の枠のコスパの良さは捨てがたいのでなんとも言えません。
ただし一時的にCodexが利用できなくなっていたり、枠を使い切ったけどもこれ以上契約を増やしたくない、Codex枠の消費がより加速するのであればバックアップ用LLMの利用としてはかなり有力候補なのではないか、という肌感です。
GLM 5.2 最大コンテキスト 1048Kを仕事してない時間帯にそれなりに使った結果の24hで11ドルのチャージから残り$8.09 なのでおおよそ3ドル。
GPT 5.5 で見つからない視点の修正やバグ調査が出来ると考えるとこの程度で使えるということはわざわざサブスクリプション契約をしないと使えない(無料枠などもない)Caudeを使いたくないCodexユーザからしたら結構ありなんじゃないかと思いました。
それ以外のモデル
何気にかなり使えるなあと思ってはいますが情報がまだなさすぎて調べきれていない Xiaomi の MiMo 2.5。
https://mimo.xiaomi.com/mimo-v2-5/
Open Code Go で無料で使えてずっと実行しててもリミットとかなさげな感じあるので実質使い放題で使えるのはかなりいいんですが MiMo 2.5 Free 自体のモデル詳細がわからないのでなんとも言えません。ちょっと課金して使ってみるのありだなっていうくらいには優秀です。特にやっぱり学習はされるとしてもある程度放置してればそれなりの修正もアプリ作成も出来るから捨てスクリプト作成とかのタスクは任せてしまっても良い気がしています。