Использование GLM5.2 с тарификацией на основе энергии от Neuralwatt
Привет, это Munou.
В последнее время я хотел попробовать GLM 5.2, но столкнулся с некоторыми трудностями, поэтому решил написать об этом.
Исследование
Для начала я изучил, где можно использовать его бесплатно.
В Cloudflare Workers AI вроде как доступен бесплатный уровень, так что я попробовал его. Кошмар, это слишком медленно.
Похоже на то, но, возможно, из-за наличия бесплатного уровня скорость отклика просто ужасающая.
https://openrouter.ai/z-ai/glm-5.2
На данный момент только ответ API занимает 43 секунды, так что это бесполезно. Более того, когда я пробовал официальный сайт Z.ai для тестов, он вообще не возвращал ответа, ситуация плачевная.
Похоже, он также предлагается в планах подписки Open Code, но отзывы пользователей Reddit не очень хорошие: потребление токенов огромное, поэтому лимиты достигаются быстро, что затрудняет эксплуатацию.
Кроме того, если модель становится глупее при сжатии через квантование, то платить деньги за бесполезную вещь нет смысла, поэтому я решил поискать информацию, основываясь на отзывах в интернете и интересе. Я также зарегистрировался у нескольких китайских провайдеров, но отказался от них, так как информация об используемых моделях не была открытой.
В итоге пользователи Hacker News рекомендовали сервис под названием Neuralwatt, и когда я изучил его, оказалось, что у них интересная модель оплаты на основе энергии.
Стоимость использования варьируется в зависимости от этой электроэнергии, что можно проверить на официальной странице следующим образом.
https://portal.neuralwatt.com/pricing
В статусе энергии также можно проверить, сколько электроэнергии было потреблено за один запрос в данный момент.
https://portal.neuralwatt.com/energy-pricing
Сравнение с Codex
По ощущениям, скорость отклика GLM-5.2 (short, fast) находится на том же уровне, что и у Codex, который я использую в основном, но в этом случае контекст составляет 200K.
GPT 5.5 Medium, используемый в Codex, включает в себя рассуждения, поэтому, вероятно, максимальная длина контекста составляет 256k для ввода и вывода вместе взятых. Если рассматривать их как практически эквивалентные, то это будет GLM-5.2 (short). Причина в том, что в модели Fast отсутствует функция рассуждения, так что будьте внимательны.
OpenAI GPT 5.5 :
https://help.openai.com/ja-jp/articles/11909943-gpt-55-in-chatgpt
Neuralwatt GLM-5.2 (short, fast) :
https://portal.neuralwatt.com/models/glm-5.2-short-fast
Neuralwatt GLM-5.2 (short) :
Изначально я перешел на Codex, потому что отклик от Gemini CLI был слишком медленным, и был впечатлен, что привело к подписке. По моим ощущениям, GLM-5.2 (short) по скорости находится практически на том же уровне, что и Codex 5.5 Medium, так что он вполне практичен.
Возможность легко переключать модели, когда рассуждения вообще не нужны, — это одно из преимуществ использования Open Code. Что касается поиска багов, были случаи, когда баг, не найденный с тем же промптом в Codex GPT 5.5 xhigh, удавалось обнаружить в модели GLM 5.2 с длиной контекста 1048K. В этом плане чувствуется небольшая разница в обучении моделей, но в большинстве случаев они примерно равны.
Если они примерно одинаковы, не будет ли экономнее использовать систему с оплатой по факту, где деньги тратятся медленнее? С другой стороны, трудно отказаться от отличного соотношения цены и качества лимитов Codex, доступных через подписку ChatGPT.
Однако, если Codex временно недоступен, или если лимиты исчерпаны, а увеличивать количество подписок не хочется, или если потребление лимитов Codex ускорится, то, по моим ощущениям, это очень сильный кандидат на роль резервной LLM.
После умеренного использования GLM 5.2 с максимальным контекстом 1048K в нерабочее время, из пополнения в 11 долларов за 24 часа осталось $8.09, то есть потрачено около 3 долларов.
Учитывая, что за такую цену можно исправлять ошибки и искать баги с точек зрения, недоступных GPT 5.5, я подумал, что это отличный вариант для пользователей Codex, которые не хотят использовать Claude (у которого нет бесплатного уровня и требуется отдельная подписка).
Другие модели
Xiaomi MiMo 2.5, которая, как мне кажется, на самом деле довольно полезна, но информации о ней пока слишком мало, чтобы полностью во всем разобраться.
https://mimo.xiaomi.com/mimo-v2-5/
Ее можно бесплатно использовать в Open Code Go, и, похоже, нет никаких ограничений, даже если запускать ее постоянно, так что возможность использовать ее практически безлимитно — это очень здорово. Однако я не знаю подробностей о самой модели MiMo 2.5 Free, поэтому сложно сказать что-то определенное. Она достаточно хороша, чтобы стоило попробовать платную версию. В частности, даже если данные используются для обучения, если оставить ее на какое-то время, она способна вносить правки и создавать приложения, так что, думаю, ей вполне можно поручить такие задачи, как написание одноразовых скриптов.