Ferramentas

Como Reduzir Custos com IA: Pague um Modelo Apenas pelas Decisões que Precisam de Um

Esta é uma tradução. A versão de referência é o original em inglês; cite essa.

Vadym Chernets · código aberto · leitura de 6 min

Decidecall assume as pequenas decisões que uma empresa toma repetidamente (qual equipe recebe esta mensagem, aprovar ou devolver, urgente ou não) e responde cada uma com a solução mais barata que é suficientemente confiável. Uma resposta dada anteriormente vem em primeiro lugar, depois uma regra simples, depois um modelo em execução no seu próprio computador; apenas o que resta vai para um modelo pago, e aquilo sobre o qual nenhum modelo tem certeza vai para uma pessoa. A resposta da pessoa é lembrada, para que a mesma pergunta nunca custe duas vezes.

Decidecall é um plugin gratuito, de código aberto para Claude Code, o assistente de IA da Anthropic que funciona com os arquivos no seu computador. Ele não precisa de conta, cartão ou chave API (o código de acesso que os programas usam para chamar uma IA) própria: um modelo pago é acessado através de um programa que sua empresa já instalou e autenticou.

Por que a maioria das decisões nunca precisa de um modelo

Muitos times que começam com IA enviam cada mensagem para um modelo. Funciona, mas eles pagam pela mesma resposta repetidas vezes: "onde está minha fatura?" chega na caixa de entrada de suporte todos os dias, e a palavra "fatura" já deixa claro que deveria ir para faturamento. Tian Pan descreve um time que usou um modelo para rotear tickets de suporte por meses antes de notar que 70% dos tickets nomeavam um produto na linha de assunto, o que uma simples tabela de consulta teria encaminhado com 99% de precisão.

Pesquisadores validaram a mesma ideia em escala. O FrugalGPT da Stanford testa primeiro um modelo mais barato e passa para um modelo mais poderoso apenas quando a resposta parece fraca; igualou o desempenho do melhor modelo único "com redução de custos de até 98%". O RouteLLM do LMSYS, que escolhe entre um modelo forte e um fraco para cada pergunta, alcançou uma redução de custos de mais de 85% em um benchmark, mantendo 95% da qualidade do GPT-4.

Como a cadeia funciona

Toda decisão percorre os mesmos seis elos e para no primeiro que é suficientemente seguro:

• Cache: respostas já fornecidas. Uma repetição exata é encontrada mesmo com letras maiúsculas, espaços e pontuação diferentes. Com um pequeno modelo de embedding no seu computador (como nomic-embed-text em Ollama), uma pergunta formulada de outras maneiras também é encontrada: "Por que meu cartão foi cobrado duas vezes?" encontra a resposta para "Fui cobrado duas vezes este mês".
• Regras: palavras que resolvem a resposta, escritas uma vez: "fatura", "reembolso" ou "cobrado" significa faturamento. Quando duas regras apontam para respostas diferentes, elas ficam em silêncio em vez de adivinhar.
• Modelo Local: um modelo em execução no seu próprio computador, gratuito para cada decisão.
• Modelos de nuvem baratos e poderosos: modelos pagos, o mais barato permitido primeiro.
• Uma pessoa: quem quer que seja o proprietário da decisão, a quem é mostrado o melhor palpite até agora.

Cada elo responde com uma decisão e uma confiança, um número de 0 a 1. Em 0.95 ou mais, a resposta é aceita. Abaixo disso, o próximo elo é solicitado, e quando duas fontes diferentes concordam (e pelo menos uma delas tem 0.70 ou mais de certeza), isso resolve. Dois elos que executam a mesma família de modelos nunca se confirmam mutuamente, e uma correspondência por significado no cache é apenas uma sugestão que outro elo precisa confirmar. Quando nada é certo, uma pessoa decide e sua resposta vai para o cache. Você pode alterar ambos os limites.

Um tipo de decisão é um pequeno arquivo: a pergunta, as respostas possíveis, as palavras que a resolvem e o quanto seguro um elo deve ser. O mesmo formato funciona para classificar mensagens de suporte, "aprovar ou devolver" em solicitações de despesas ou "urgente ou não" em correspondência recebida.

Um exemplo prático: 65 mensagens de suporte

O repositório vem com uma caixa de entrada de suporte para quatro equipes (faturamento, técnico, conta e vendas): 65 mensagens de clientes, com repetições como o suporte real as tem. Em 2 de outubro de 2026, a cadeia foi medida nela duas vezes (resultados completos):

Sem nenhum modelo, mais da metade da caixa de entrada foi classificada gratuitamente sem erro (executado novamente em 10 de outubro de 2026 com o mesmo resultado). Adicionando Claude Haiku 4.5, o pequeno e rápido modelo da Anthropic, deixou seis mensagens para uma pessoa.

O relatório é igualmente claro sobre o que não funcionou. Haiku estava errado duas vezes com 98% de certeza: "Sou desconectado a cada cinco minutos" foi para técnico em vez de conta, e o mesmo aconteceu com sua repetição. É exatamente por isso que a cadeia pede uma segunda fonte diferente antes de confiar na resposta repetida de um modelo. Sessenta e cinco exemplos são uma primeira leitura: a ferramenta foi construída para que você execute a mesma medição em algumas centenas de suas próprias decisões passadas.

O que faz

• Decidir uma pergunta: a resposta, qual link a respondeu, quão certo estava, qual foi o custo.
• Rótulo: a resposta de uma pessoa vai para o cache, então é grátis na próxima vez.
• Promover: decisões que os modelos continuavam tomando da mesma forma, confirmadas por duas famílias de modelos diferentes, tornam-se entradas de cache assim que você concorda; palavras que sempre vieram com apenas uma resposta são oferecidas como novas regras.
• Teste: suas próprias decisões passadas rotuladas executadas através da cadeia, mostrando quantas foram decididas sem uma pessoa, quantas estavam corretas, quão honestos eram os números de confiança, e o custo de uma decisão em relação a enviar tudo para um modelo único.
• Candidatos: 14 programas e serviços que podem estar por trás de um link, cada um com sua licença e página de origem.

Modelos de decisão se integram diretamente

Um novo tipo de modelo chegou exatamente para esse trabalho. TypeSafe's Jev, anunciado em setembro de 2026, não escreve texto: aceita uma situação e uma pergunta com opções e retorna a opção escolhida com uma probabilidade, a $0.042 por milhão de tokens de entrada (DataCamp). Modelos abertos do mesmo tipo funcionam no seu próprio computador: Strands Decider, cujos autores relatam que suas "respostas com confiança de 0.9 ou superior estão corretas cerca de 95% do tempo", e, desde Ollama 0.35, modelos de decisão servidos por Ollama, a ferramenta gratuita para executar modelos localmente. Decidecall funciona com essa interface diretamente, bem como com modelos locais comuns (Ollama, llama.cpp, vLLM, LM Studio) e Claude através do Claude Code que você já possui; bench mostra em seus próprios dados o que cada um adiciona.

Suas regras para dados e dinheiro

Decidecall lê o mesmo arquivo de política da empresa que os outros plugins da empresa:

• Os dados sensíveis permanecem no computador. Marque uma decisão em vermelho e ela vai apenas para o cache, as regras e modelos locais; Decidecall mantém uma impressão digital do texto, nunca o próprio texto.
• Apenas os fornecedores que você permite, ou apenas aqueles que não mantêm nada após responder.
• Um orçamento diário: um link pago que o ultrapassaria é ignorado, e os links gratuitos continuam funcionando.
• As chaves permanecem no chaveiro, nunca em um arquivo.

É um único arquivo Python que não precisa de nada além de Python e não abre nenhuma conexão de rede por conta própria, portanto é executado mesmo em um computador desconectado da internet.

Como começar

No Claude Code, adicione o catálogo Poly A1 e instale Decidecall (sem git e sem conta GitHub necessários):

/plugin marketplace add https://raw.githubusercontent.com/vadimchernets/poly-a1-plugins/main/.claude-plugin/marketplace.json
/plugin install decidecall@poly-a1

Então diga o que você quer decidir, com suas próprias palavras: "classificar nossas mensagens de suporte por equipe", ou "o Strands Decider vale a pena para nós". Claude faz suas perguntas uma por vez (o que será decidido, as respostas possíveis, quais palavras confirmam a resposta, qual o nível de confiança necessário) e escreve o arquivo de tarefa com você. Depois ele executa bench sobre suas decisões passadas antes de pagar por qualquer coisa. Decidecall requer Python 3.8 ou mais recente e funciona em Mac, Linux e Windows.

Código, a caixa de entrada de exemplo e as medições: github.com/vadimchernets/decidecall.

Onde se encaixa

Decidecall é um dos plugins da empresa no catálogo Poly A1 plugins. Funciona em conjunto com Routecall, onde um modelo forte planeja e modelos mais baratos executam o volume, e com Billcall, que contabiliza quanto a IA custa à empresa; Firmcall escreve o arquivo de política compartilhada. Decidecall foi escrito por Vadym Chernets, lançado sob a licença Apache-2.0 e arquivado em Zenodo (DOI 10.5281/zenodo.23116720).

Ver decidecall no GitHub

Vadym Chernets também cria Poly A1, um aplicativo em que IAs de diferentes empresas verificam o trabalho uns dos outros.