Usar o GLM5.2 com o faturamento baseado em energia da Neuralwatt

Olá, aqui é o Munou.

Recentemente, tenho tentado usar o GLM5.2, mas estou um pouco perdido, então vou escrever sobre isso.

Investigação

Primeiro, pesquisei onde ele poderia ser usado gratuitamente.

No Cloudflare Workers AI, existe uma cota gratuita disponível, então eu testei. Caramba, é lento demais.

Faz sentido que seja assim, mas talvez por causa da cota gratuita, o tempo de resposta está terrível.

https://openrouter.ai/z-ai/glm-5.2

Atualmente, leva 43 segundos apenas para a resposta da API, então não é utilizável. Na verdade, quando tentei o site oficial da Z.ai, que eu estava testando, às vezes não recebia resposta nenhuma, está uma situação terrível.

Parece que também é oferecido no plano de assinatura do Open Code, mas a avaliação dos usuários do Reddit não é muito boa; o consumo de tokens é alto, então o limite é atingido rapidamente, tornando a operação difícil.

Além disso, se o modelo se tornar menos inteligente quando comprimido por quantização, não faria sentido pagar por algo inútil, então decidi procurar com base nas avaliações da internet e no que parecia interessante. Cheguei a me registrar em alguns provedores chineses, mas desisti porque as informações sobre os modelos utilizados não eram abertas.

Finalmente, como os usuários do Hacker News também estavam recomendando um lugar chamado Neuralwatt, eu pesquisei e descobri que eles têm um modelo de cobrança interessante baseado em energia.

O uso é variável de acordo com essa energia, e você pode verificar isso na página oficial conforme mostrado abaixo.

https://portal.neuralwatt.com/pricing

Como status de energia, você também pode verificar quanta energia foi consumida em uma única solicitação atual.

https://portal.neuralwatt.com/energy-pricing

Comparação com o Codex

Pelo que testei, o GLM-5.2 (short, fast) tem uma velocidade de resposta equivalente ao Codex que uso principalmente, mas, neste caso, o Contexto é de 200K.

O GPT 5.5 Medium que uso no Codex inclui raciocínio, então provavelmente o comprimento máximo do contexto é de 256k, somando entrada e saída. Para tratá-lo como substancialmente equivalente, seria o GLM-5.2 (short). O motivo é que, no modelo Fast, o raciocínio é removido, então é preciso ter cuidado.

OpenAI GPT 5.5 :

https://help.openai.com/ja-jp/articles/11909943-gpt-55-in-chatgpt

Neuralwatt GLM-5.2 (short, fast) :

https://portal.neuralwatt.com/models/glm-5.2-short-fast

Neuralwatt GLM-5.2 (short) :

Originalmente, eu mudei para o Codex porque o Gemini CLI era lento demais, e fiquei impressionado o suficiente para assinar; na minha experiência, o GLM-5.2 (short) tem quase o mesmo nível de velocidade que o Codex 5.5 Medium, sendo bastante prático.

O fato de poder trocar de modelo facilmente quando nem sequer preciso de raciocínio é um dos benefícios de usar o Open Code. Em relação à investigação de bugs, houve casos em que o GLM 5.2 com modelo de contexto de 1048K encontrou bugs que o Codex GPT 5.5 xhigh não encontrou com o mesmo prompt. Sinto uma pequena diferença nos modelos de treinamento nesse ponto, mas, na maioria das vezes, ambos são equivalentes.

Se ambos são equivalentes, comecei a pensar se não seria mais econômico usar um sistema de pagamento conforme o uso onde o dinheiro não diminui tanto, mas o custo-benefício da cota do Codex disponível via assinatura do ChatGPT é difícil de abandonar, então é complicado dizer.

No entanto, minha sensação é que, se o Codex ficar temporariamente indisponível, ou se você esgotar sua cota e não quiser aumentar as assinaturas, ou se o consumo da cota do Codex acelerar, ele é um candidato muito forte como um LLM de backup.

Como resultado de usar o GLM 5.2 com contexto máximo de 1048K razoavelmente durante o tempo livre, restam $8,09 de uma recarga de $11 em 24h, então gastei cerca de $3.

Considerando que ele pode realizar correções e investigações de bugs sob perspectivas que o GPT 5.5 não encontra, poder usá-lo por esse preço parece uma ótima opção para usuários do Codex que não querem usar o Claude (que exige assinatura e não tem cota gratuita).

Outros modelos

Acho que o MiMo 2.5 da Xiaomi é surpreendentemente útil, mas ainda há pouca informação disponível para pesquisar a fundo.

https://mimo.xiaomi.com/mimo-v2-5/

O fato de poder ser usado gratuitamente no Open Code Go e parecer não ter limites, mesmo se executado continuamente, é muito bom, pois na prática é como se fosse de uso ilimitado. No entanto, como não conheço os detalhes do modelo MiMo 2.5 Free em si, não posso dizer muito. Ele é tão bom que vale a pena considerar pagar um pouco para usá-lo. Especialmente porque, embora os dados sejam usados para treinamento, se você o deixar rodando por um tempo, ele consegue fazer correções razoáveis e até criar aplicativos, então sinto que tarefas como a criação de scripts descartáveis podem ser deixadas para ele.