IA que rinde cuentas: cuándo fiarte de una predicción

Una predicción solo sirve en operación si te dice cuánto fiarte de ella. IA que rinde cuentas significa que cada respuesta llega con cuatro cosas: la decisión, cuánto fiarte, un aviso si el dato se sale de lo que el modelo conoce y qué variables pesaron. Sin eso, un modelo que se equivoca suena igual que uno que acierta.

¿Por qué no basta con que el modelo acierte casi siempre?

Un modelo con una buena tasa de acierto sigue fallando. El problema no es que falle: es que falla con la misma voz con la que acierta. La alerta falsa y la verdadera llegan con el mismo formato, el mismo color y la misma urgencia.

En una operación que no puede fallar, eso tiene consecuencias concretas. Mandas a un técnico a revisar un equipo que estaba bien. O, al revés, alguien silencia una alerta porque las tres anteriores eran ruido, y la cuarta no lo era.

Una alerta que nadie puede comprobar acaba ignorada. No por desidia, sino porque tu equipo no tiene forma de distinguir cuándo el modelo sabe de lo que habla y cuándo está adivinando.

Por eso la pregunta útil no es «¿cuánto acierta el modelo?», sino «¿esta respuesta, ahora, merece que actúe?». Y esa pregunta solo puede contestarla el propio modelo, en cada predicción.

¿Qué tiene que traer cada predicción para que puedas actuar?

En CogniX, nuestro motor de IA predictiva, cada respuesta llega en cuatro partes. No en un informe aparte ni en un panel de métricas globales: en la misma respuesta.

Cuánto fiarte, calibrado donde las matemáticas lo permiten

Una confianza calibrada significa que, cuando el modelo dice 80 %, acierta más o menos ocho de cada diez veces. Es lo que convierte un número en algo con lo que se puede trabajar.

Pero no todos los tipos de modelo admiten esa calibración. En CogniX, la incertidumbre va calibrada donde las matemáticas lo permiten, y se dice dónde no. Preferimos enseñarte dónde está el límite a venderte una precisión que no existe.

Qué pesó: exacto, orientativo y nunca causal

La cuarta parte responde a «¿por qué?». Aquí también hay matices que conviene conocer antes de fiarse de cualquier explicación:

• En algunos modelos, el peso de cada variable se puede calcular de forma exacta.
• En otros solo se puede aproximar, y CogniX lo marca como orientativo.
• En ningún caso es una explicación causal. Que la temperatura pesara mucho en una alerta no demuestra que la temperatura sea la causa. Te dice dónde mirar primero.

Esa última línea importa más de lo que parece. Una explicación que se vende como causa lleva a reparar lo que no estaba roto.

¿Por qué distinguir lo nuevo de lo anómalo ayuda contra la fatiga de alertas?

Un detector de anomalías binario tiene dos respuestas: normal o anómalo. El problema es todo lo que cae en medio. Un equipo que arranca por primera vez, un cambio de temporada, un proceso que se reajusta: nada de eso es un fallo, pero tampoco se parece a lo que el modelo vio al entrenar.

La detección de anomalías de CogniX, DesviantiX, responde con tres veredictos:

1. Normal: dentro de lo que el modelo conoce.
2. Nuevo pero plausible: algo que no había visto, pero que no por eso es un fallo.
3. Anómalo: se sale de lo normal.

La diferencia práctica está en qué haces con cada uno, y eso lo decides tú: lo anómalo, a alerta; lo nuevo pero plausible, a revisión, sin despertar a nadie. Con solo dos veredictos, todo lo nuevo acaba en alerta, y ahí empieza la fatiga: tu equipo aprende que la mayoría de los avisos no significan nada.

Además, CogniX sigue a cada equipo por separado. Un valor puede ser normal para una bomba y raro para la de al lado. Comparar cada equipo con su propio comportamiento evita que el más ruidoso de la flota marque el listón de todos.

¿Cómo sabes que el modelo en producción es el que validaste?

Un modelo puede pasar todas las pruebas y aun así responder otra cosa en producción. Basta con que el código que prepara los datos al servir no haga exactamente lo mismo que el que los preparó al entrenar: una unidad distinta, un redondeo, una columna en otro orden. El modelo sigue respondiendo, con toda su seguridad, sobre datos que no son los que aprendió.

CogniX lo trata como requisito de publicación: cada entrenamiento deja anotadas sus respuestas esperadas, y el servicio en producción tiene que reproducirlas antes de publicarse.

Con los reentrenos pasa algo parecido. Cuando tus datos cambian, el reentreno lo dispara una persona, una tarea programada o NovaeOps, si CogniX trabaja dentro de la plataforma. El modelo nuevo entra sin parar el servicio, pero no sustituye a ciegas al que ya funciona: antes de promoverlo, lo comparas con el que está en producción. Si el nuevo es peor, no lo promueves.

¿Qué resultados tiene CogniX medidos en laboratorio?

Dos pruebas, con fecha, equipo y datos. Son medidas de laboratorio, reproducibles con el comando incluido en cada prueba, no resultados de un cliente en producción.

Detección de intrusiones (dataset público NSL-KDD, septiembre de 2026). Entrenado solo con tráfico normal, sin una sola etiqueta, y con la misma tasa de falsos positivos, del 4 %:

Y lo que no nos favorece: con un 1 % de falsos positivos, One-Class SVM queda por delante, con un 63,8 % frente a nuestro 58,2 %. Lo contamos porque el umbral que elijas cambia el resultado, y tienes que saberlo antes de decidir.

Rendimiento (agosto de 2026, Ryzen 7 7800X3D, 8 núcleos): hasta 53.700 predicciones por segundo en detección de anomalías, con un p99 de 2,84 ms, en un modelo ligero. El más pesado de los medidos llega a 19.400 por segundo. En tu hardware lo volvemos a medir.

Esos milisegundos son los que permiten poner el modelo lectura a lectura, en vez de en un proceso por lotes que te avisa al día siguiente. Lo contamos en cómo poner IA en el camino del dato sin romper la ingesta.

¿Qué no te prometemos?

Acertar siempre. La detección sin etiquetas aprende de tus datos «normales», y si esos datos traen anomalías dentro, aprende también a darlas por normales.

Lo hemos medido: con un 20 % de contaminación en los datos de entrenamiento, la detección cae a algo más de un tercio. Por eso, antes de entrenar, te ayudamos a limpiar la base. Lo medimos y te decimos cuánto afecta.

Tampoco te prometemos que la IA decida sola. El veredicto informa; qué dispara una acción automática lo decides tú con reglas. Donde importa, la IA propone y una persona aprueba.

Cinco preguntas para cualquier sistema de IA predictiva

Antes de poner un modelo en tu operación, sea nuestro o no, hazle estas preguntas:

1. ¿Cada respuesta dice cuánto fiarse de ella, o solo hay una métrica global?
2. ¿Avisa cuando el dato se sale de lo que vio al entrenar?
3. ¿Dice qué variables pesaron, y si esa explicación es exacta u orientativa?
4. ¿Cómo se comprueba que el modelo en producción responde lo mismo que el que se validó?
5. ¿Qué le pasa a la detección si los datos de entrenamiento están sucios, y está medido?

Si alguna respuesta es «no lo sabemos», ya sabes dónde está el riesgo.

¿Por dónde empezar?

Por un conjunto de datos y una pregunta concreta: qué equipo se sale de lo normal o qué valor esperas mañana. CogniX está en su versión 3, disponible para pilotos, y funciona en tu red o en el edge sin enviarnos telemetría. Dentro de NovaeOps pone el veredicto en las lecturas y se paga por veredicto entregado.

Si quieres verlo con datos como los tuyos, mira cómo funciona CogniX y pídenos una demo.