Tu política de IA no gobierna nada

Piensa en un agente de IA que lleva las cuentas por pagar de una distribuidora, y lo hace bien, hasta que un proveedor cambia la cuenta bancaria en una factura. El agente actualiza la ficha, deja el pago en cola y una persona lo aprueba. Se cumplió cada regla de la política. El control que lo habría detenido nunca estuvo en el proceso.

Según una encuesta de 2025 de Pacific AI y Gradient Flow, tres de cada cuatro organizaciones tienen una política de IA, menos de la mitad vigila sus sistemas en producción y apenas una de cada seis tiene cómo reportar un incidente.

Da lo mismo un banco con un área entera de riesgo o una mediana donde el riesgo lo ve el mismo que compra. Todos tienen el documento. Pocos pueden contestar qué hizo ayer la IA, cómo decidió y quién lo autorizó.

Un agente ejecuta el proceso que le das, fiel y rápido. Si le falta un control, no nota el hueco: lo repite a toda velocidad. El único gobierno que cuenta es el control dentro del flujo, en el momento en que el agente actúa.

Una política le habla a personas

Una política dice qué puede y qué no puede hacer tu gente con herramientas de IA. La escriben y la revisan personas, y se cumple cuando alguien se da cuenta.

El gobierno funciona de otra manera. Es la verificación que se dispara en el momento de la acción, el registro que muestra que la acción ocurrió como debía, y la capacidad de probarlo después ante alguien sin motivos para creerte: el gerente de finanzas, un auditor, un regulador.

Mientras la IA solo sugería, la persona que leía el borrador era el control. Con los agentes esa persona salió de la cadena: el agente lee, aplica la regla, contabiliza y actualiza la ficha. Si moviste el trabajo al software y no moviste el control, te queda actividad de la que te enteras después.

Vuelve a la distribuidora. El encargo era leer la factura, cruzarla con la orden de compra y, dentro de la tolerancia, dejarla para pago. Cuando llega la factura con otros datos bancarios, el agente ve un campo que le enseñaron a extraer y actualiza la ficha, porque nadie acotó sus credenciales. La persona aprueba el pago porque la política exige aprobación sobre cierto monto, y revisa lo que se le pidió: monto y orden de compra.

Nadie aprobó el cambio de cuenta. No era un pago, así que nunca pasó por la aprobación. El registro dice "pago aprobado". No dice "ficha modificada, fuente: página 2 de un PDF, autorizado por: nadie". Solo lo pilla quien se siente a leer línea por línea lo que hizo el agente.

Una persona a mano probablemente también lo habría dejado pasar: comparar los datos bancarios con la ficha no estaba en el proceso de nadie. La política se cumplió entera. El control que importaba no existía.

Un comité trimestral contra algo que actúa todo el día

El gobierno tradicional supone un riesgo quieto, que se puede muestrear. Un agente es probabilístico, cambia cuando cambian los datos y actúa miles de veces antes de la próxima revisión. Un solo dato raro gatilla una acción que ninguna muestra habría visto.

Revisar un agente una vez al trimestre te dice lo que querías que pasara. No te dice lo que pasó.

Cómo se ve el gobierno dentro de la operación

Los controles viven donde el agente trabaja y se ordenan en las mismas decisiones que se toman con cualquier persona que entra:

• Qué puede tocar. Credenciales acotadas a lo que exige su cargo, nada más.

• Qué tiene prohibido. El mismo agente nunca inicia y aprueba una misma transacción. Es la separación de funciones que exigirías a cualquier persona.

• Quién revisa. Las escrituras de alto riesgo pasan por una aprobación antes de quedar firmes. Cuando no está seguro, el caso va a una persona en vez de adivinar.

• Qué queda anotado. Cada acción queda en el registro.

• Quién lo vigila. Alguien mide si su comportamiento se está desviando.

Nada de eso cabe en una política. Se construye en cómo corre el agente.

El control automático le gana al humano que reemplazó

La solución para la distribuidora es una regla en el flujo: el agente puede leer los datos bancarios de una factura, pero no puede escribirlos en la ficha del proveedor. Nunca. Si no calzan con lo registrado, la factura se detiene y una persona revisa el cambio.

O un segundo colaborador digital que solo mira: no puede contabilizar nada, y cada vez que se mueve un dato bancario avisa qué cambió, de dónde vino y quién lo tocó.

El control que resulta es mucho más fuerte que el humano. Con trescientas facturas a la semana y el dato en la página dos, nadie comparaba cada cuenta con la ficha. El control humano existía en el papel y en la práctica era una revisión al azar. El software revisa las trescientas y deja constancia.

Los agentes son el riesgo solo si se instalan con los controles guardados en un documento.

Nadie pide los controles que necesita

En el levantamiento nadie habría mencionado el campo de la cuenta bancaria. Nunca había fallado, y la gente describe el proceso que corre, no el que podría fallar. Te cuentan el camino feliz con precisión, pero no los quince lugares donde el proceso depende de que alguien note algo.

Si construyes exactamente lo que el cliente especifica, automatizas los huecos junto con el trabajo. La lista de lo que sale mal no viene en un documento de requerimientos: sale de haber hecho esto suficientes veces como para temerle a lo correcto.

Con una advertencia que vale también para nosotros: un control que el cliente no pidió igual es del cliente. Cada regla se muestra, se explica, y el cliente la acepta o la rechaza. Aplicar criterio propio en silencio dentro de los sistemas de otro sería la misma falla, con el nombre del proveedor encima.

El registro se diseña el primer día

Cuando un regulador pregunta qué pasó en marzo, el registro de cada acción existe o no existe, y ninguna revisión trimestral lo reconstruye. Por eso el gobierno no puede venir después del piloto: meterle controles a una arquitectura ya fija cuesta varias veces más. Preferimos esa conversación la primera semana, aunque nos digan exagerados.

Un tema de directorio

En Chile, la Ley 21.719 de protección de datos personales entra en vigencia el 1 de diciembre de 2026. Crea una agencia que puede investigar de oficio y multar hasta 20.000 UTM por una infracción gravísima, el triple si hay reincidencia. Si tu IA toca datos de clientes o de trabajadores, "tenemos una política" no va a ser defensa.

El costo comercial llega antes que el regulatorio. Gartner proyecta que más del 40 % de los proyectos de IA con agentes se van a cancelar antes de fines de 2027, con controles de riesgo débiles entre las causas principales. Los cancelan porque la organización no pudo gobernar lo que ya había puesto a andar.

La pregunta

Para cualquier sistema de IA que hoy actúa en tu empresa: puedes decir qué hizo, por qué y quién o qué lo autorizó. De cada acción, no de una muestra.

Si la respuesta es no, tienes software sin gobierno tomando decisiones a nombre de tu empresa, y eso no espera al próximo trimestre. El siguiente paso no es otra política. Es mirar con honestidad si hay algo que de verdad lo sujete.

Fuentes

• Pacific AI y Gradient Flow, 2025 AI Governance Survey.

• Ley 21.719 sobre protección de datos personales, Chile: publicada el 13 de diciembre de 2024, vigente desde el 1 de diciembre de 2026.

• Gartner, proyección sobre proyectos de IA con agentes (2025).