A IA ainda não pode entender verdadeiramente a causalidade, mas podemos fazê-la simular

Rudina Seseri (Founder & Managing Partner, Glasswing Ventures) escreveu recentemente um artigo sobre a IA "cometendo erros com confiança". Ela destacou que o momento mais perigoso da IA não é quando ela diz "não sei", mas quando dá uma resposta errada com total certeza. Em uma fábrica, o custo dessa confiança é uma linha de produção parada, materiais descartados ou um pedido perdido. A solução proposta por ela é "forçar os modelos a refletir" — fazer com que o modelo reflita sobre sua própria saída.

Mas acreditamos que pedir a um modelo que reflita sobre si mesmo é inerentemente pouco confiável. Um modelo que pode cometer erros com confiança também pode refletir até chegar a uma conclusão errada com a mesma confiança. A reflexão apenas dá mais uma volta no estado interno do modelo sem introduzir qualquer âncora externa. Ele não sabe se está certo ou errado; está apenas gerando mais texto que parece plausível.

No último ano, seguimos um caminho diferente dentro da CCT CRM. Em vez de fazer o modelo refletir, damos a ele uma arquitetura causal que o obriga a operar de acordo com a lógica causal. Quando as três camadas são empilhadas, o sistema se comporta como se "entendesse a causalidade" — não porque a inteligência da IA esteja evoluindo, mas porque a arquitetura está evoluindo. Este é o Modelo Causal de IA que estamos construindo.

Camada 1: Validação de Restrições — Simular o raciocínio causal com fórmulas matemáticas

Os cenários de MES contêm muitas fórmulas de restrições rígidas: a quantidade de insumos deve ser igual à produção mais o desperdício, o OEE deve ser igual a disponibilidade × desempenho × qualidade, e a soma das horas de operação deve ser igual ao total de horas do pedido. Essas não são coisas que a IA precise raciocinar. São leis físicas. Violá-las é simplesmente errado.

Inserimos uma camada de validação de restrições no pipeline de saída da IA. Depois que a IA calcula o OEE, o sistema substitui automaticamente os três subindicadores de volta na fórmula. Se a equação não for válida, a saída da IA é interceptada antes de chegar ao usuário. O sistema devolve à IA as informações de falha — desvio, fórmula violada — como novo contexto e pede que ela recalcule. Até três tentativas.

Isso não é fazer a IA refletir. É usar fórmulas matemáticas para verificar as respostas da IA. A IA não precisa entender por que o OEE é igual ao produto desses três indicadores. Ela só precisa saber: se os números calculados não satisfazem a fórmula, recalcule. Esta é a primeira forma de um modelo causal: não porque a IA entenda a cadeia causal, mas porque a cadeia causal foi codificada como regras matemáticas que a IA não pode contornar.

Camada 2: Aprendizado Experiencial — Transformar cada erro em atribuição causal

A validação de restrições detecta erros matemáticos. Mas quando o usuário diz "está errado", o erro já aconteceu, e geralmente não é um problema de matemática — a IA entendeu errado o contexto, usou dados errados ou ignorou informações críticas.

O núcleo desta camada não é "lembrar do erro", mas "lembrar da relação causal". O sistema não registra "isso estava errado"; registra: em qual cenário, qual causa levou ao erro e qual é a ação correta.

A IA percebe o sentimento negativo do usuário — não por meio de um modelo de análise de emoções, mas pelos sinais mais simples: o usuário diz "não", "errado" ou "não é isso que eu quis dizer", ou edita e salva um e-mail gerado pela IA. Quando o sistema detecta esses sinais, a IA não discute. Ela pergunta: "Percebi que você pode não estar satisfeito com minha resposta. Pode me dizer exatamente o que estava errado? Vou anotar para não cometer o mesmo erro da próxima vez."

Cada correção é registrada de forma estruturada. Os campos incluem: cenário de gatilho, entrada do usuário, saída errada da IA, resumo do feedback, categoria de erro, análise de causa raiz. E o mais importante — fonte da causa raiz: se a atribuição foi feita pela própria IA ou explicitamente apontada pelo usuário.

Em conversas subsequentes, o sistema recupera automaticamente experiências relevantes e as injeta na área de leitura prioritária. Ao responder perguntas semelhantes, a IA começa proativamente: "Cometi o erro X ao lidar com esse tipo de problema antes, então desta vez fiz a verificação Y primeiro."

Esta é a segunda forma de um modelo causal: não porque a IA entenda por que cometeu o erro, mas porque cada erro é rotulado com uma etiqueta causal, e na próxima vez a IA deve ler a etiqueta antes de agir.

Camada 3: Roteamento de Modelos — Deixar a causalidade escolher a solução ideal

Para o mesmo tipo de pergunta, diferentes modelos grandes cometem erros com frequências diferentes. Isso não é uma classificação abstrata da capacidade do modelo; é um fato quantificável em cenários de negócios específicos.

Fazemos perguntas do mesmo tipo semântico alternarem entre GPT, DeepSeek, GLM e Doubao. Após cada resposta, o sistema atualiza automaticamente a pontuação daquele modelo naquele cenário com base no feedback do usuário. Adoção pelo usuário, conversa encerrada normalmente, expressão positiva — positivo. Correção pelo usuário, modificação da saída, expressão negativa — negativo.

Modelos com pontuações mais altas recebem maior peso de chamada. O modelo com a pontuação mais baixa ainda mantém 5% de chance de exploração — porque os modelos são atualizados, e um modelo que hoje tem desempenho ruim pode superar os outros na próxima versão. O sistema não está treinando um modelo melhor; está escolhendo o modelo menos propenso a cometer erros.

Esta é a terceira forma de um modelo causal: não porque a IA entenda qual modelo é melhor, mas porque o sistema construiu uma cadeia causal de "seleção de modelo → taxa de erro" a partir dos dados de feedback e converge automaticamente para taxas de erro mais baixas.

Três camadas empilhadas: Um sistema de engenharia que simula a causalidade

Vistas individualmente, nenhuma das três camadas é um verdadeiro raciocínio causal. Validação de restrições é fórmulas matemáticas, aprendizado experiencial é recuperação de banco de dados e roteamento de modelos é pontuação estatística.

Mas quando empilhadas, o sistema se comporta da seguinte forma:

A IA calcula um número errado → é interceptada pela fórmula → recalcula → só é devolvida após passar. Os usuários nunca veem uma saída que viole as leis físicas.

A IA entende o contexto errado → o usuário corrige → o erro é estruturado e rotulado com etiquetas causais → na próxima vez, o mesmo cenário carrega a experiência primeiro → a IA declara proativamente: "Já cometi esse erro antes, então fiz esta verificação primeiro." O mesmo erro não acontece duas vezes.

No mesmo cenário, diferentes modelos cometem erros com frequências diferentes → os dados de feedback ajustam automaticamente os pesos de roteamento → modelos com taxas de erro mais baixas são chamados com mais frequência. O sistema evita automaticamente modelos propensos a erros.

Não é a inteligência da IA que está evoluindo. É a arquitetura que está evoluindo.

Conclusão

Fazer com que a IA realmente entenda a causalidade — saber que "fazer A causa B, e não fazer A significa que B não acontecerá" — ainda é impossível no ambiente tecnológico atual. Mas fazer com que a IA simule o raciocínio causal é um problema de engenharia que pode ser resolvido hoje.

O método não é treinar um modelo melhor, mas construir ao redor do modelo um conjunto de restrições que ele não pode violar, um sistema de memória que ele não pode esquecer e uma lógica de seleção da qual ele não pode escapar.

Fizemos isso. Três fundadores, zero financiamento, quatro clientes pagantes. Funcionários digitais não são uma visão em um slide de PowerPoint: são código, bancos de dados e um ciclo fechado de três camadas que funciona hoje.