L'IA ne peut pas encore vraiment comprendre la causalité, mais nous pouvons la faire la simuler

Rudina Seseri (Founder & Managing Partner, Glasswing Ventures) a récemment publié un article sur l'IA qui « commet des erreurs avec confiance ». Elle a souligné que le moment le plus dangereux pour l'IA n'est pas lorsqu'elle dit « je ne sais pas », mais lorsqu'elle donne une réponse fausse avec une certitude absolue. Dans une usine, le coût d'une telle confiance est une chaîne de production arrêtée, des matériaux rebutés ou une commande perdue. Sa solution proposée consiste à « forcer les modèles à réfléchir » — faire en sorte que le modèle réfléchisse à sa propre sortie.

Mais nous pensons que demander à un modèle de réfléchir à lui-même est intrinsèquement peu fiable. Un modèle capable de commettre des erreurs avec confiance peut aussi, avec la même confiance, réfléchir jusqu'à aboutir à une conclusion erronée. La réflexion ne fait que tourner une boucle de plus dans l'état interne du modèle sans introduire d'ancrage externe. Il ne sait pas s'il a raison ou tort ; il génère simplement plus de texte qui semble plausible.

Au cours de la dernière année, nous avons emprunté une voie différente au sein de CCT CRM. Au lieu de faire réfléchir le modèle, nous lui donnons une architecture causale qui l'oblige à fonctionner selon la logique causale. Lorsque les trois couches se superposent, le système se comporte comme s'il « comprenait la causalité » — non pas parce que l'intelligence de l'IA évolue, mais parce que l'architecture évolue. C'est le Modèle Causal IA que nous construisons.

Couche 1 : Validation des Contraintes — Simuler le raisonnement causal avec des formules mathématiques

Les scénarios MES contiennent de nombreuses formules de contraintes strictes : la quantité d'intrants doit être égale à la production plus le rebut, le TRS (OEE) doit être égal à disponibilité × performance × qualité, et la somme des heures d'opération doit être égale au nombre total d'heures de la commande. Ce ne sont pas des choses que l'IA doit raisonner. Ce sont des lois physiques. Les violer est tout simplement faux.

Nous avons inséré une couche de validation des contraintes dans le pipeline de sortie de l'IA. Après que l'IA a calculé le TRS, le système substitue automatiquement les trois sous-indicateurs dans la formule. Si l'équation n'est pas vérifiée, la sortie de l'IA est interceptée avant d'atteindre l'utilisateur. Le système renvoie à l'IA les informations d'échec — écart, formule violée — comme nouveau contexte et lui demande de recalculer. Jusqu'à trois tentatives.

Ce n'est pas faire réfléchir l'IA. C'est utiliser des formules mathématiques pour vérifier les réponses de l'IA. L'IA n'a pas besoin de comprendre pourquoi le TRS est égal au produit de ces trois indicateurs. Elle doit seulement savoir : si les nombres calculés ne vérifient pas la formule, il faut recalculer. C'est la première forme d'un modèle causal : non pas parce que l'IA comprend la chaîne causale, mais parce que la chaîne causale a été encodée sous forme de règles mathématiques que l'IA ne peut contourner.

Couche 2 : Apprentissage par l'Expérience — Transformer chaque erreur en attribution causale

La validation des contraintes attrape les erreurs mathématiques. Mais lorsque l'utilisateur dit « ce n'est pas bon », l'erreur s'est déjà produite, et ce n'est généralement pas un problème de mathématiques — l'IA a mal compris le contexte, utilisé de mauvaises données ou ignoré des informations critiques.

Le cœur de cette couche n'est pas « retenir l'erreur », mais « retenir la relation causale ». Le système n'enregistre pas « c'était faux » ; il enregistre : dans quel scénario, quelle cause a conduit à cette erreur et quelle est la bonne action.

L'IA perçoit le sentiment négatif de l'utilisateur — non pas via un modèle d'analyse des émotions, mais via les signaux les plus simples : l'utilisateur dit « non », « faux » ou « ce n'est pas ce que je voulais dire », ou modifie et enregistre un e-mail généré par l'IA. Lorsque le système détecte ces signaux, l'IA ne discute pas. Elle demande : « J'ai remarqué que vous n'êtes peut-être pas satisfait de ma réponse. Pourriez-vous me dire exactement ce qui n'allait pas ? Je le note pour ne pas refaire la même erreur la prochaine fois. »

Chaque correction est enregistrée de manière structurée. Les champs incluent : scénario déclencheur, entrée utilisateur, sortie erronée de l'IA, résumé des retours, catégorie d'erreur, analyse de la cause racine. Et surtout — source de la cause racine : l'attribution a-t-elle été faite par l'IA elle-même ou explicitement pointée par l'utilisateur.

Dans les conversations suivantes, le système récupère automatiquement les expériences pertinentes et les injecte dans la zone de lecture prioritaire. En répondant à des questions similaires, l'IA commence proactivement par : « J'ai déjà commis l'erreur X en traitant ce type de problème, alors cette fois j'ai d'abord effectué la vérification Y. »

C'est la deuxième forme d'un modèle causal : non pas parce que l'IA comprend pourquoi elle a commis l'erreur, mais parce que chaque erreur est étiquetée avec une étiquette causale, et la prochaine fois l'IA doit lire l'étiquette avant d'agir.

Couche 3 : Routage des Modèles — Laisser la causalité choisir la solution optimale

Pour le même type de question, différents grands modèles commettent des erreurs à des fréquences différentes. Ce n'est pas un classement abstrait des capacités du modèle ; c'est un fait quantifiable dans des scénarios métier spécifiques.

Nous faisons tourner les questions du même type sémantique entre GPT, DeepSeek, GLM et Doubao. Après chaque réponse, le système met automatiquement à jour le score de ce modèle dans ce scénario en fonction des retours de l'utilisateur. Adoption par l'utilisateur, fin normale de la conversation, expression positive — positif. Correction par l'utilisateur, modification de la sortie, expression négative — négatif.

Les modèles avec les scores les plus élevés reçoivent un poids d'appel plus important. Le modèle avec le score le plus bas conserve tout de même 5% d'opportunité d'exploration — car les modèles évoluent, et un modèle qui performe mal aujourd'hui peut dépasser les autres dans la prochaine version. Le système n'entraîne pas un meilleur modèle ; il choisit le modèle le moins susceptible de se tromper.

C'est la troisième forme d'un modèle causal : non pas parce que l'IA comprend quel modèle est meilleur, mais parce que le système a construit une chaîne causale « sélection du modèle → taux d'erreur » à partir des données de retour et converge automatiquement vers des taux d'erreur plus faibles.

Trois couches superposées : Un système d'ingénierie qui simule la causalité

Considérées individuellement, aucune des trois couches n'est un véritable raisonnement causal. La validation des contraintes, ce sont des formules mathématiques ; l'apprentissage par l'expérience, c'est de la récupération en base de données ; le routage des modèles, c'est du scoring statistique.

Mais une fois superposées, le système se comporte comme suit :

L'IA calcule mal un nombre → elle est interceptée par la formule → elle recalcule → elle n'est renvoyée qu'après validation. Les utilisateurs ne voient jamais de sortie qui viole les lois physiques.

L'IA comprend mal le contexte → l'utilisateur corrige → l'erreur est structurée et étiquetée avec des étiquettes causales → la prochaine fois, le même scénario charge d'abord l'expérience → l'IA déclare proactivement : « J'ai déjà commis cette erreur, alors j'ai effectué cette vérification d'abord. » La même erreur ne se reproduit pas.

Dans le même scénario, différents modèles commettent des erreurs à des fréquences différentes → les données de retour ajustent automatiquement les poids de routage → les modèles avec les taux d'erreur les plus faibles sont appelés plus fréquemment. Le système évite automatiquement les modèles sujets aux erreurs.

Ce n'est pas l'intelligence de l'IA qui évolue. C'est l'architecture qui évolue.

Conclusion

Faire en sorte que l'IA comprenne véritablement la causalité — savoir que « faire A entraîne B, et ne pas faire A signifie que B n'arrivera pas » — est encore impossible dans l'environnement technologique actuel. Mais faire en sorte que l'IA simule le raisonnement causal est un problème d'ingénierie que l'on peut résoudre aujourd'hui.

La méthode consiste non pas à entraîner un meilleur modèle, mais à construire autour du modèle un ensemble de contraintes qu'il ne peut violer, un système de mémoire qu'il ne peut oublier et une logique de sélection à laquelle il ne peut échapper.

Nous l'avons fait. Trois fondateurs, zéro financement, quatre clients payants. Les employés numériques ne sont pas une vision sur une diapositive PowerPoint : ce sont du code, des bases de données et une boucle fermée en trois couches qui fonctionne aujourd'hui.