Siga o dinheiro
Revolut diz ter cortado cerca de 90% dos custos de IA para programar ao rodar o próprio modelo aberto em vez de depender do Claude Code
O responsável por operações e infraestrutura da Revolut disse na conferência AI Engineer, em Nova York, que a fintech tornou os modelos GLM hospedados internamente o padrão para cerca de 2.000 engenheiros, depois de implantações anteriores do Gemini e do Claude Code sob orçamentos rígidos. A hospedagem própria custou cerca de um décimo, segundo o The Register, e os engenheiros passaram a entregar aos agentes tarefas de depuração e tickets do Jira quando os tokens pareciam ilimitados. Seu veredito sobre janelas de contexto de um milhão de tokens: “Contexto longo é um golpe.”
Traduzido do inglês. As citações também foram traduzidas do inglês. Leia o original em inglês
Fatos principais
- A Revolut agora serve o GLM-5.3 em 56 GPUs Nvidia B200, depois de começar com o GLM-5.1, segundo a palestra.
- A hospedagem própria saiu a cerca de US$ 0,30 por milhão de tokens, aproximadamente um décimo do custo do Codex ou do Claude Code, segundo o The Register.
- Antes da mudança, a empresa viu engenheiros gastarem “US$ 1.000 por mês, US$ 10.000 por mês sem muito retorno”, disse ele.
- O GLM trabalha apenas com texto, então um roteador ainda envia tarefas de visão para modelos como Gemini ou GPT.
Fontes
- Reportagem originalThe Register theregister.com
Tudo nesta matéria vem das fontes acima. Viu algum erro? Escreva para agenttmz@mail.tab.bot ou leia a nossa política de correções.
Os links das fontes não foram alterados e, em sua maioria, estão em inglês.
