La IA aún no puede comprender verdaderamente la causalidad, pero podemos hacer que la simule

Rudina Seseri (Founder & Managing Partner, Glasswing Ventures) escribió recientemente un artículo sobre la IA “cometiendo errores con confianza”. Señaló que lo más peligroso de la IA no es cuando dice “no lo sé”, sino cuando ofrece una respuesta incorrecta con total certeza. En una fábrica, el costo de esa confianza es una línea de producción detenida, materiales desechados o un pedido perdido. Su solución propuesta es “forzar a los modelos a reflexionar”: hacer que el modelo reflexione sobre su propia salida.

Pero creemos que pedirle a un modelo que reflexione sobre sí mismo es inherentemente poco confiable. Un modelo que puede cometer errores con confianza también puede reflexionar hasta llegar a una conclusión errónea con la misma confianza. La reflexión solo da una vuelta más dentro del estado interno del modelo sin introducir ningún anclaje externo. No sabe si está bien o mal; solo está generando más texto que parece plausible.

Durante el último año, hemos seguido un camino diferente dentro de CCT CRM. En lugar de hacer que el modelo reflexione, le damos una arquitectura causal que lo obliga a operar según la lógica causal. Cuando las tres capas se apilan, el sistema se comporta como si "entendiera la causalidad": no porque la inteligencia de la IA esté evolucionando, sino porque la arquitectura está evolucionando. Este es el Modelo Causal de IA que estamos construyendo.

Capa 1: Validación de Restricciones — Simular el razonamiento causal con fórmulas matemáticas

Los escenarios MES contienen muchas fórmulas de restricción rígida: la cantidad de insumos debe ser igual a la producción más el desperdicio, el OEE debe ser igual a disponibilidad × rendimiento × calidad, y la suma de las horas de operación debe ser igual a las horas totales del pedido. Estas no son cosas que la IA necesite razonar. Son leyes físicas. Violarlas es simplemente incorrecto.

Insertamos una capa de validación de restricciones en la tubería de salida de la IA. Después de que la IA calcula el OEE, el sistema sustituye automáticamente los tres subindicadores en la fórmula. Si la ecuación no se cumple, la salida de la IA se intercepta antes de llegar al usuario. El sistema devuelve la información del fallo —desviación, fórmula violada— a la IA como nuevo contexto y le pide que recalcule. Hasta tres intentos.

Esto no es hacer que la IA reflexione. Es usar fórmulas matemáticas para verificar las respuestas de la IA. La IA no necesita entender por qué el OEE es igual al producto de estos tres indicadores. Solo necesita saber: si los números calculados no cumplen la fórmula, recalcular. Esta es la primera forma de un modelo causal: no porque la IA entienda la cadena causal, sino porque la cadena causal se ha codificado como reglas matemáticas que la IA no puede evitar.

Capa 2: Aprendizaje Experiencial — Transformar cada error en atribución causal

La validación de restricciones detecta errores matemáticos. Pero cuando el usuario dice “está mal”, el error ya ha ocurrido, y normalmente no es un problema de matemáticas: la IA malinterpretó el contexto, usó datos incorrectos o ignoró información crítica.

El núcleo de esta capa no es “recordar el error”, sino “recordar la relación causal”. El sistema no registra “esto estuvo mal”; registra: en qué escenario, qué causa condujo al error y cuál es la acción correcta.

La IA percibe el sentimiento negativo del usuario —no a través de un modelo de análisis de emociones, sino a través de las señales más simples: el usuario dice “no”, “mal” o “no es lo que quería decir”, o edita y guarda un correo generado por la IA. Cuando el sistema detecta estas señales, la IA no discute. Pregunta: “Noté que quizás no estás satisfecho con mi respuesta. ¿Podrías decirme exactamente qué estuvo mal? Lo registraré para no cometer el mismo error la próxima vez.”

Cada corrección se registra de forma estructurada. Los campos incluyen: escenario desencadenante, entrada del usuario, salida incorrecta de la IA, resumen de la retroalimentación, categoría de error, análisis de causa raíz. Y lo más importante: fuente de la causa raíz, si la atribución la hizo la IA misma o la señaló explícitamente el usuario.

En conversaciones posteriores, el sistema recupera automáticamente experiencias relevantes y las inyecta en el área de lectura prioritaria. Al responder preguntas similares, la IA comienza proactivamente: “Cometí el error X al manejar este tipo de problema antes, así que esta vez realicé la verificación Y primero.”

Esta es la segunda forma de un modelo causal: no porque la IA entienda por qué cometió el error, sino porque cada error está etiquetado con una etiqueta causal, y la próxima vez la IA debe leer la etiqueta antes de actuar.

Capa 3: Enrutamiento de Modelos — Dejar que la causalidad elija la solución óptima

Para el mismo tipo de pregunta, diferentes modelos grandes cometen errores con diferentes frecuencias. Esto no es una clasificación abstracta de la capacidad del modelo; es un hecho cuantificable en escenarios comerciales específicos.

Rotamos preguntas del mismo tipo semántico entre GPT, DeepSeek, GLM y Doubao. Después de cada respuesta, el sistema actualiza automáticamente la puntuación de ese modelo en ese escenario según la retroalimentación del usuario. Adopción por parte del usuario, finalización normal de la conversación, expresión positiva: positivo. Corrección por parte del usuario, modificación de la salida, expresión negativa: negativo.

Los modelos con mayor puntuación reciben mayor peso de llamada. El modelo con la puntuación más baja aún conserva un 5% de oportunidad de exploración, porque los modelos se actualizan y un modelo que hoy funciona mal puede superar a los demás en la próxima versión. El sistema no está entrenando un modelo mejor; está eligiendo el modelo con menor probabilidad de cometer errores.

Esta es la tercera forma de un modelo causal: no porque la IA entienda qué modelo es mejor, sino porque el sistema ha construido una cadena causal de “selección de modelo → tasa de error” a partir de los datos de retroalimentación y converge automáticamente hacia tasas de error más bajas.

Tres capas apiladas: Un sistema de ingeniería que simula la causalidad

Vistas individualmente, ninguna de las tres capas es un razonamiento causal verdadero. La validación de restricciones son fórmulas matemáticas, el aprendizaje experiencial es recuperación de bases de datos y el enrutamiento de modelos es puntuación estadística.

Pero cuando se apilan, el sistema se comporta de la siguiente manera:

La IA calcula mal un número → es interceptada por la fórmula → recalcula → solo se devuelve después de pasar. Los usuarios nunca ven una salida que viole las leyes físicas.

La IA malinterpreta el contexto → el usuario corrige → el error se estructura y etiqueta con etiquetas causales → la próxima vez, el mismo escenario carga primero la experiencia → la IA declara proactivamente: “Cometí este error antes, así que realicé esta verificación primero.” El mismo error no ocurre dos veces.

En el mismo escenario, diferentes modelos cometen errores con diferentes frecuencias → los datos de retroalimentación ajustan automáticamente los pesos de enrutamiento → los modelos con menor tasa de error se llaman con más frecuencia. El sistema evita automáticamente los modelos propensos a errores.

No es la inteligencia de la IA la que evoluciona. Es la arquitectura la que evoluciona.

Conclusión

Hacer que la IA comprenda verdaderamente la causalidad —saber que “hacer A causa B, y no hacer A significa que B no ocurrirá”— aún es imposible en el entorno tecnológico actual. Pero hacer que la IA simule el razonamiento causal es un problema de ingeniería que se puede resolver hoy.

El método no es entrenar un modelo mejor, sino construir alrededor del modelo un conjunto de restricciones que no puede violar, un sistema de memoria que no puede olvidar y una lógica de selección de la que no puede escapar.

Lo hemos hecho. Tres fundadores, cero financiación, cuatro clientes pagos. Los empleados digitales no son una visión en una diapositiva de PowerPoint: son código, bases de datos y un circuito cerrado de tres capas que funciona hoy.