Toda resposta da IA usa o modelo mais caro, ou ela escolhe o modelo certo pra cada tarefa pra não pesar no bolso?
Não — e não devia. O modelo mais caro entra só onde errar custa caro de verdade: entender a conversa e extrair o que importa dela (sinal estruturado). Decidir o que fazer com esse sinal — pontuar o lead, escolher a rota, travar ou liberar uma ação — não é trabalho de modelo nenhum: é código determinístico, sem custo de IA. E gerar o texto da resposta usa o modelo adequado àquele turno, não o mais caro do catálogo por padrão. Qualidade onde decide algo, custo contido onde só repetiria regra.
Por que extrair sinal da conversa pede o modelo bom, e decidir o que fazer com ele não?
São duas tarefas de natureza diferente, e tratá-las como a mesma coisa é o erro comum. Entender o que um lead quis dizer numa frase torta — um exemplo ilustrativo: "vendo bem, mas não dá pra contratar mais gente" carrega faturamento saudável, dor e limite de equipe ao mesmo tempo — é interpretação de linguagem, e interpretar errado ali propaga erro pra frente: sinal mal lido vira pontuação errada, que vira oferta errada. Por isso essa extração roda de forma incremental e calibrada, com definição e exemplos (few-shot) por sinal e um grau de confiança atribuído a cada um — processo desenhado pra reduzir erro numa etapa que paga caro quando erra.
Decidir o que fazer com o sinal já extraído é outra história: pontuar, escolher a rota, travar ou liberar uma ação sensível é fórmula — pesos, limites e regra de conflito, tudo em código. Não existe chamada de modelo aí porque não existe mais ambiguidade de linguagem a resolver; ela já foi resolvida (ou marcada como incerta) na extração. Separar assim faz o modelo melhor — mais lento, mais caro por chamada — rodar só onde muda o resultado, e a parte que decide o destino do lead não somar custo de IA nenhum.
Se decidir o fluxo é código, sobra algo pra IA "pensar" de verdade?
Sobra, e é bem delimitado: entender a conversa (extrair sinal) e falar com o lead (gerar o texto dentro do que já foi decidido). A IA não escolhe se o lead vai pra qualificação, desambiguação ou despedida — isso é da regra. Ela lê a mensagem e devolve, de um lado, dado estruturado (o sinal) e, de outro, linguagem natural (a resposta), sempre dentro de um estado que o código já decidiu. É essa separação — decisão em código, linguagem no modelo — que permite calibrar o custo de cada chamada por conta própria: investir num modelo melhor pra ler a conversa sem pagar o mesmo investimento em toda etapa do processo.
A geração do texto também usa sempre o modelo mais caro?
Não por padrão. Com o fluxo já decidido, gerar o texto daquele turno é tarefa diferente de extrair sinal — e o harness tem um componente próprio pra essa escolha (o model_router), reaproveitado ao estender o motor já existente em vez de reconstruí-lo. A lógica é a mesma: modelo adequado à tarefa do turno, não o mais caro disponível por padrão — justamente porque a etapa que exige rigor máximo (extrair sinal) já foi protegida à parte. E esse roteamento vive no motor, igual pra qualquer cliente da plataforma — não é algo que o empresário configura; o que varia por negócio são os sinais e pesos da qualificação, não a engenharia de qual modelo roda onde.
Vale contrastar: esse cuidado por tarefa não é a mesma coisa que a conta subir conforme a empresa cresce — lá o tema é como o volume de conversa empurra o custo total; aqui é como, dentro de cada conversa, o custo é contido tarefa por tarefa. A mesma lógica de "só paga caro onde precisa" aparece em como a IA lida com catálogo grande sem decorar nada de cabeça: numa, o cuidado é não confiar em memória pra fato que muda; na outra, é não confiar no modelo caro pra decisão que fórmula resolve melhor.
No próprio motor que a Estefani & Co opera, a extração de sinais da conversa — orçamento, dor, papel de quem fala, intenção de execução — roda no modelo calibrado pra isso, incremental: cada sinal com definição própria, exemplos (few-shot) e grau de confiança atribuído na extração. Depois que o sinal existe, pontuação, rota e os gates do fluxo são calculados em código — fórmula de peso e limite, sem chamada de modelo. E o texto que o lead efetivamente lê usa o componente de roteamento de modelo do harness, reaproveitado da base já existente em vez de reconstruído pra este cliente. É esse desenho — modelo caro só na leitura da conversa, decisão em fórmula, texto no modelo certo pro turno — que separa onde o custo de IA compra qualidade de onde ele só infla a conta.
Perguntas frequentes
Esse "modelo caro" e esse "modelo adequado ao turno" têm nome — é um modelo específico?
O material de arquitetura não fixa qual modelo é "caro" e qual é "leve" — define o princípio: extração de sinal usa o modelo calibrado pra isso ("modelo bom", no documento); o texto usa o que o roteador do harness considerar adequado ao turno. É escolha de engenharia, não regra fixa.
Se decidir o fluxo é só código, a IA não "pensa" em nada importante?
Ela pensa no que mais custa errar: interpretar a conversa e extrair o sinal certo. O que ela não faz é decidir sozinha o destino do lead — isso é regra determinística, pra não ter flip-flop a cada chamada.
Usar um modelo mais leve na resposta não arrisca piorar o que o cliente recebe?
"Modelo adequado ao turno" não é sinônimo de modelo fraco — é o roteador escolhendo o modelo certo pra aquele tipo de tarefa. A etapa que exige rigor máximo (ler a conversa certo) é a que não teve custo cortado.
Preciso configurar esse roteamento de modelo pro meu negócio?
Não. Vive no motor, igual pra qualquer cliente. Você configura a política do seu negócio — sinais, pesos, ofertas — não a engenharia de qual modelo roda onde.
Esse cuidado por tarefa é a mesma coisa que meu custo total ficar mais barato?
Não é a mesma conta. Esse roteamento contém o custo dentro de cada conversa; o custo total ainda sobe com o volume de mensagens que a empresa recebe — são duas camadas diferentes.