Cuando un dashboard muestra un dato que no debía, el problema queda acotado a un reporte. Cuando un asistente de IA puede consultar cualquier tabla y responder cualquier pregunta, el alcance de un error de permisos es toda la base de datos. Por eso la gobernanza es lo primero que se diseña en un proyecto de IA sobre datos, no lo último.
1. Por qué la IA cambia el problema de la gobernanza
En BI tradicional, cada reporte expone un conjunto conocido de datos. Se revisa una vez y se publica. Un agente conversacional, en cambio, puede formular consultas que nadie previó. Eso tiene tres consecuencias:
- La superficie de exposición es mayor. Todo lo que el agente puede consultar es potencialmente visible para quien le pregunta.
- El prompt no es un control de seguridad. Instrucciones como "no reveles sueldos" se pueden eludir con preguntas indirectas. Los permisos tienen que aplicarse donde están los datos.
- Las respuestas salen del sistema. Un asistente que responde correos o atiende clientes envía datos hacia afuera. Cada respuesta es una comunicación de datos.
2. Los cinco controles mínimos
3. Clasificar los datos antes de conectarlos
No todos los datos requieren el mismo nivel de protección. Una clasificación simple permite decidir qué puede consultar el agente y con qué modelo:
| Clase | Ejemplos | Tratamiento recomendado para IA |
|---|---|---|
| Pública | Catálogo de productos, precios de lista, procedimientos publicados | Cualquier modelo, sin restricciones especiales |
| Interna | Ventas agregadas, avance de proyectos, inventario | Modelos empresariales con no entrenamiento; seguridad por rol |
| Confidencial | Márgenes por cliente, contratos, remuneraciones agregadas | Seguridad por fila, registro obligatorio; preferir procesamiento en región |
| Personal / sensible | Datos de clientes persona natural, trabajadores, salud | Minimizar, enmascarar; modelos en Chile u on-premise según evaluación de impacto |
4. La dimensión legal en Chile: Ley 21.719
La Ley 21.719 de protección de datos personales entra en vigencia el 1 de diciembre de 2026 y aplica a toda empresa que trate datos de personas en Chile. Un asistente de IA que responde sobre clientes o trabajadores es un tratamiento de datos, y por lo tanto debe respetar los principios de la ley:
- Finalidad. El agente solo debe usar los datos para el propósito declarado. Un asistente de cobranza no debería responder preguntas sobre la vida personal del cliente.
- Proporcionalidad. Conectar solo los datos necesarios para los casos de uso definidos, no toda la base.
- Seguridad. Controles técnicos y organizacionales proporcionales al riesgo, incluidas las transferencias a proveedores de IA.
- Transparencia y derechos ARCOP. Las personas tienen derecho a saber qué datos se tratan y a ejercer acceso, rectificación, cancelación, oposición y portabilidad, incluso respecto de lo que procesa un sistema de IA.
- Decisiones automatizadas. Si el agente toma o recomienda decisiones que afectan a personas (crédito, selección, cobranza), hay que evaluar el derecho a no ser objeto de decisiones exclusivamente automatizadas.
Profundizamos estas obligaciones en la guía IA y algoritmos bajo la Ley 21.719 y en la de servicios en la nube.
5. ¿Modelo en la nube o modelo propio?
| Opción | Ventajas | Consideraciones |
|---|---|---|
| API de proveedor (OpenAI, Anthropic, Google) | Modelos más capaces, sin infraestructura | Datos procesados fuera de Chile; revisar contrato, retención y no entrenamiento |
| Nube hyperscaler en región (Azure OpenAI, Vertex AI, Bedrock) | Controles empresariales, integración con identidad | La región más cercana puede estar fuera de Chile; costo por consumo |
| Modelos open source en Chile u on-premise | Los datos no salen del país o de la red; costo predecible | Modelos algo menos capaces; requiere operar infraestructura |
Muchas empresas usan un enfoque mixto: datos públicos e internos con modelos comerciales, datos personales y sensibles con modelos propios. Un gateway de modelos permite aplicar esa regla de forma centralizada. Es lo que resuelve el LLM Gateway de SilocyData, desplegable en Chile o dentro de la red del cliente.
Checklist antes de salir a producción
6. Cómo lo abordamos en SilocyData
En SilocyData la implementación de agentes de IA, la capa semántica y la consultoría de cumplimiento de la Ley 21.719 están en el mismo equipo. Por eso diseñamos la gobernanza desde el primer día del proyecto: clasificación de datos, identidad propagada, seguridad por fila, enmascaramiento, registro de consultas y la elección del modelo según la sensibilidad de los datos. El resultado es un asistente que el área legal y el área de seguridad pueden aprobar, no solo el área de negocio.
Preguntas frecuentes
¿Qué es la gobernanza de datos para IA?
Es el conjunto de políticas y controles técnicos que determinan qué datos puede consultar un sistema de IA, en nombre de qué usuario, con qué propósito, dónde se procesan y cómo queda registrado. Incluye permisos por rol y por fila, enmascaramiento de datos personales, registro de consultas, reglas de retención y criterios de calidad de datos.
¿Un chat de IA puede mostrar datos que el usuario no debería ver?
Sí, si se conecta al agente con una cuenta de servicio con acceso total y se confía en que el prompt limite lo que responde. La forma correcta es que el agente consulte los datos con la identidad del usuario, de modo que la seguridad por fila y por columna se aplique en la base de datos o en la capa semántica, no en las instrucciones del modelo.
¿La Ley 21.719 aplica a los asistentes de IA que usan datos de clientes?
Sí. Cuando un asistente de IA consulta, procesa o genera respuestas con datos de personas naturales (clientes, trabajadores, proveedores persona natural), eso es tratamiento de datos personales y debe cumplir los principios de la Ley 21.719: finalidad, proporcionalidad, seguridad, transparencia y respeto a los derechos ARCOP. La ley entra en vigencia el 1 de diciembre de 2026.
¿Es seguro enviar datos de la empresa a ChatGPT, Claude o Copilot?
Depende de la modalidad. Las versiones empresariales y las API de los principales proveedores ofrecen compromisos de no entrenamiento y retención limitada, pero los datos se procesan fuera de Chile. Para datos sensibles o cuando la política de la empresa lo exige, se pueden usar modelos open source desplegados en Chile o dentro de la red de la empresa, como el LLM Gateway de SilocyData.
¿Quién implementa gobernanza de datos para proyectos de IA en Chile?
SilocyData combina en un mismo equipo la implementación de agentes de IA, la capa semántica y la consultoría de cumplimiento de la Ley 21.719, lo que permite diseñar los controles de gobernanza desde el inicio del proyecto y no como un parche posterior.
¿Tu proyecto de IA necesita pasar por legal y seguridad?
Te ayudamos a diseñar la gobernanza del agente (permisos, trazabilidad, modelo y ubicación de los datos) alineada con la Ley 21.719.
Agenda una reunión →