Hay una escena que se repite en cada equipo que toca inteligencia artificial por primera vez: alguien arma una automatización que "va a funcionarón", dispara un modelo a resolver algo, confía en que hará lo correcto, y una semana después el modelo está alucinando, olvidando contexto, cortando respuestas a la mitad o pidiendo dinero a clientes que no lo pidieron.

No es culpa del modelo. Es culpa de no haber pensado en quién toma las decisiones.

El problema real: un modelo abandonado

En 2024 enfrenté esto en serio. Tenía que automatizar un flujo empresarial complejo para un cliente agroindustrial: leer correos, extraer facturas, clasificarlas, guardarlas en una base de datos, sincronizarlas con un sistema de gestión, y todo esto sin intervención humana. Parecía perfecto para una IA generativa. Meter un prompt, conectar la salida directo a la base de datos, y listo.

Pasó lo que tenía que pasar. El modelo hallucina un número de factura. Inventa un cliente. Extrae tres campos de un documento de cinco. Te parte un correo en dos cuando es uno. A la tercera vez, ya no es gracioso; es dinero perdido.

Lo que descubrí es que no puedo confiarle a un modelo generativo una decisión que tenga consecuencias reales, no importa qué tan bueno sea el modelo. Un modelo es un predictor de probabilidades entrenado en patrones del pasado. Es excelente encontrando correlaciones. Pero es terrible tomando decisiones que impacten el futuro.

Necesitás a alguien entre el modelo y la realidad. Necesitás un harness.

La arquitectura que funciona: modelo → harness → mundo real

Un harness es exactamente lo que suena: un armazón. Alrededor del modelo. Su trabajo es decir "el modelo sugiere X; yo decido qué hacer con eso".

Así es como lo arreglé en la automatización para el cliente agroindustrial:

Etapa 1: El modelo hace propuestas, no decisiones. El modelo IA lee documentos y extrae candidatos: identificadores, entidades, montos, fechas. Pero no ejecuta nada. Solo los devuelve etiquetados con un nivel de confianza.

Etapa 2: El harness evalúa y filtra. Las propuestas entran a un sistema de reglas:

  • ¿Coincide la entidad con la base de datos? ✓ OK, avanza.
  • ¿El monto está dentro de los rangos históricos de esa entidad? ✓ OK.
  • ¿La confianza está por debajo de un umbral crítico? ✗ Envía a revisión manual.
  • ¿El formato no es el esperado? ✗ Rechaza y anota.

El harness decide. El modelo solo juega en los bordes, con las decisiones que ya están lo bastante seguras como para ejecutar.

Etapa 3: Ejecuta, pero dejaís audit. Una vez que el harness aprobó, la ejecución ocurre: inserto en la BD, sincronización con sistemas de gestión, archivo en almacenamiento. Pero cada paso genera un log. Si algo explotó después, tenés el trail completo.

Por qué esto importa en filosofía de sistemas

El error que ven los equipos principiantes es pensar que el progreso en IA es "conseguir un modelo mejor". Es cierto, pero es solo la mitad.

La otra mitad es arquitectura de gobernanza. Un modelo perfecto con zero gobernanza es como poner a un matemático brillante a pilotear un avión sin instrumentos. Puede hacerlo si es suficientemente bueno, pero es regresar cien años.

Lo que aprendí es que la inteligencia artificial no reemplaza la gobernanza; la expone.

Con sistemas simples —un script que copia archivos— podés tolerar un poco de caos. Si falla, reiniciás. Con sistemas que tocan datos reales, dinero, o historiales, el caos es literalmente pérdida. Un modelo que alucina clientes es un problema de 48 horas de trabajo para arreglarlo. Un modelo que alucina pagos es un problema legal.

Entonces la pregunta no es "qué tan bueno es mi modelo". Es "qué tan sólida es la jaula que lo rodea".

La lección para cualquiera que use IA en producción

Si delegás una decisión importante a una IA sin un harness de control, no estás siendo valiente. Estás siendo negligente.

Un harness no mata la velocidad. De hecho, la multiplica, porque sabés que podés iterar sin miedo. Un harness no es "burocracia para IA"; es la arquitectura que permite que IA funcione en serio.

En la automatización para el cliente, después de meter el harness, los errores bajaron significativamente. No porque el modelo mejoró —usé el mismo—. Porque las decisiones que toma el modelo ahora son solo aquellas que ya pasaron múltiples filtros de sanidad.

Eso es criterio en sistemas: no confiar en que algo funcione por suerte. Diseñar para que funcione incluso si falla.

El modelo es el motor. El harness es la transmisión. Un auto de carreras con un motor desbocado y sin embrague no va a ningún lado; va a estrellarse rápido.