Cada consulta, archivo o conexión con una herramienta de inteligencia artificial puede activar procesos de transmisión, análisis, almacenamiento y acceso a terceros. El riesgo no depende únicamente del modelo: también intervienen el tipo de cuenta, la configuración, las integraciones y las prácticas de cada empresa.
Una persona abre una herramienta de inteligencia artificial, adjunta una planilla con información de clientes y pide: “Analiza estas ventas y dime qué oportunidades ves”.
La respuesta aparece en segundos. Sin embargo, detrás de esa interacción ocurrieron varias cosas: el archivo salió del entorno original, fue enviado a una plataforma externa, procesado por uno o más modelos, posiblemente almacenado y convertido en una respuesta que también puede contener información sensible.
Eso no significa que todas las herramientas de IA sean inseguras ni que los datos entregados pasen automáticamente a entrenar un modelo. Significa que utilizar inteligencia artificial también es una decisión sobre tratamiento de datos.
La pregunta correcta no es solo “¿esta IA es segura?”, sino también:
Cuando una empresa utiliza inteligencia artificial, sus datos pueden recorrer hasta seis etapas:
No todas estas etapas ocurren siempre. Dependen del producto, el contrato, la función utilizada y las políticas configuradas por la organización.
Un prompt puede contener información comercial sin que el usuario lo advierta.
Por ejemplo:
“Redacta una propuesta para nuestro cliente principal. Tiene un presupuesto de 80 millones de pesos, está evaluando despedir a 30 personas y todavía no ha pagado las últimas dos facturas”.
La persona quizás solo quería mejorar un texto, pero terminó revelando:
Los archivos presentan un riesgo similar. Una planilla puede incluir columnas ocultas, comentarios, nombres, correos electrónicos, identificadores, remuneraciones o fórmulas internas. Un documento también puede contener propiedades, historial, instrucciones o información que no era necesaria para la consulta.
La primera medida de protección, por lo tanto, no es técnica: es reducir la información entregada a lo estrictamente necesario.
Una de las confusiones más frecuentes consiste en asumir que cualquier dato enviado a una IA pasa inmediatamente a formar parte de su entrenamiento.
No necesariamente.
El procesamiento ocurre cuando el sistema utiliza la información para responder una solicitud. El entrenamiento, en cambio, supone emplear datos para desarrollar o mejorar modelos.
Muchos productos empresariales indican que no utilizan los prompts y las respuestas para entrenar sus modelos fundacionales. Sin embargo, esa promesa no significa automáticamente que:
La frase “no usamos tus datos para entrenar” responde solo una parte del problema.
Las siguientes condiciones son ejemplos y no sustituyen la revisión del contrato, la edición contratada ni la configuración efectiva de cada empresa.
| Servicio empresarial | Uso para entrenamiento | Conservación y controles relevantes |
|---|---|---|
| OpenAI API | Los datos enviados a la API no se utilizan para entrenar los modelos, salvo participación voluntaria. | Los registros de monitoreo pueden conservar contenido hasta 30 días por defecto. Algunas funciones mantienen información hasta que el cliente la elimina. Los controles de retención cero están sujetos a elegibilidad y tienen limitaciones. |
| Microsoft 365 Copilot | Los prompts, las respuestas y los datos consultados mediante Microsoft Graph no se utilizan para entrenar los modelos fundacionales. | Microsoft guarda el historial de interacción dentro del entorno de Microsoft 365. Copilot respeta los permisos existentes, lo que también puede exponer información que ya estaba compartida de forma excesiva. |
| Google Workspace con Gemini | Google señala que las interacciones empresariales no son revisadas por personas ni utilizadas para entrenar modelos fuera del dominio sin autorización. | Las interacciones se almacenan junto con el contenido de Workspace y heredan controles como prevención de pérdida de datos, regiones y permisos. |
| Claude para empresas y API de Anthropic | Las conversaciones comerciales no se utilizan para entrenamiento salvo participación voluntaria o envío explícito de comentarios. | En la API, Anthropic señala que elimina normalmente las entradas y salidas de sus sistemas dentro de 30 días, con excepciones. Los productos que permiten conservar conversaciones las almacenan para mantener el historial. |
Fuentes: OpenAI, Microsoft, Google, Anthropic sobre entrenamiento y Anthropic sobre retención.
Las diferencias entre productos empresariales y cuentas personales son especialmente importantes. Una protección anunciada para una edición corporativa no debe suponerse válida para una cuenta gratuita, una aplicación de consumo o una extensión instalada por un empleado.
La llamada shadow AI aparece cuando los trabajadores utilizan herramientas no autorizadas para resumir documentos, revisar contratos, analizar clientes o generar código.
El problema no es solo la herramienta. La empresa pierde visibilidad sobre:
Prohibir toda IA suele trasladar el uso fuera de los canales visibles. Una estrategia más efectiva consiste en entregar alternativas aprobadas, acompañadas por reglas simples y capacitación.
Una IA conectada a Drive, SharePoint, correo electrónico o un CRM normalmente hereda los permisos del usuario. Esto limita el acceso, pero no corrige permisos mal configurados.
Si una persona puede abrir una carpeta que nunca debió estar compartida con ella, un asistente también podría encontrar información de esa carpeta y utilizarla en una respuesta.
La IA puede transformar un problema antiguo de permisos en uno de descubrimiento: datos que antes estaban olvidados ahora se vuelven fáciles de localizar, resumir y relacionar.
Una plataforma puede ofrecer protecciones sólidas dentro de su entorno, pero una función externa puede aplicar otras políticas.
Un agente conectado a un CRM, un buscador web, una extensión de navegador o un servidor externo puede recibir consultas derivadas del prompt. En la documentación de OpenAI, por ejemplo, se advierte que los datos enviados a servidores MCP de terceros quedan sujetos a sus propias políticas. Microsoft también recomienda revisar los términos y permisos de los agentes conectados a Copilot.
Cada integración amplía la cadena de tratamiento y agrega una nueva pregunta: ¿qué parte de la información sale del proveedor principal?
“Borrar el chat” no siempre equivale a eliminar inmediatamente toda copia técnica.
Pueden existir:
La residencia también importa. Almacenar datos en una región no garantiza necesariamente que todo el procesamiento, los metadatos o los servicios externos permanezcan allí.
El riesgo no termina cuando la IA recibe los datos. También puede aparecer en la salida.
Un resumen puede reunir información dispersa y convertirla en una revelación sensible. Una respuesta podría mostrar datos personales, secretos comerciales o inferencias sobre trabajadores y clientes. Incluso una inferencia incorrecta puede causar daño si se utiliza para tomar una decisión.
El perfil de riesgos para IA generativa del Instituto Nacional de Estándares y Tecnología de Estados Unidos recomienda vigilar la exposición de información personal o sensible, evaluar a los proveedores y mantener un inventario de los terceros que acceden al contenido corporativo.
Una política práctica puede clasificar los datos según su nivel de sensibilidad:
| Clasificación | Ejemplos | Uso recomendado |
| Pública | Comunicados publicados, catálogos, información del sitio web | Puede utilizarse en herramientas aprobadas. |
| Interna | Procedimientos, borradores, minutas sin datos sensibles | Utilizar en entornos corporativos administrados. |
| Confidencial | Estrategias, precios futuros, contratos, información de clientes | Minimizar, anonimizar y limitar a casos autorizados. |
| Restringida | Contraseñas, claves API, datos de salud, remuneraciones, información bancaria, secretos críticos | No ingresar, salvo en un entorno expresamente aprobado con controles técnicos, contractuales y legales adecuados. |
Anonimizar no significa reemplazar un nombre por iniciales. Si la persona todavía puede identificarse combinando cargo, ubicación, empresa o antecedentes, los datos continúan siendo personales.
En Chile, la Ley 21.719 fue publicada en diciembre de 2024 y entrará en vigencia el 1 de diciembre de 2026. Hasta entonces continúa operando el marco vigente de la Ley 19.628.
La nueva regulación incorpora principios especialmente relevantes para la inteligencia artificial:
También exige una evaluación de impacto antes de iniciar tratamientos que probablemente generen un riesgo elevado, incluyendo ciertas decisiones automatizadas, tratamientos masivos y usos de datos sensibles.
Para una empresa, esto implica que contratar una plataforma reconocida no transfiere toda la responsabilidad al proveedor. La organización sigue debiendo justificar qué datos procesa, para qué los utiliza, quién puede acceder y qué medidas adoptó para reducir el riesgo.
Antes de utilizar una plataforma con información corporativa, la empresa debería responder:
Las respuestas deberían quedar documentadas. Una captura de una página comercial no reemplaza un acuerdo de tratamiento de datos, una evaluación de seguridad ni la revisión de las condiciones aplicables.
Una empresa puede reducir buena parte del riesgo con cinco decisiones iniciales:
A esto se puede agregar un registro básico con el caso de uso, responsable, proveedor, datos utilizados, integraciones, periodo de conservación y nivel de riesgo.
El objetivo no es impedir la innovación. Es evitar que cada trabajador tenga que interpretar por su cuenta contratos, configuraciones y políticas de privacidad.
Ninguna marca permite responder de forma absoluta si una IA es “segura” para una empresa.
Una misma plataforma puede ser adecuada cuando se utiliza mediante una cuenta corporativa administrada y convertirse en un riesgo cuando se usa desde una cuenta personal, con historial activado, integraciones externas y documentos sin clasificar.
La protección real depende de la combinación de cuatro factores:
La inteligencia artificial no elimina las obligaciones sobre los datos. Las vuelve más urgentes, porque reduce drásticamente el tiempo necesario para buscar, combinar, resumir y reproducir información.
La mejor regla sigue siendo sencilla: entregar a la IA solo los datos necesarios, mediante una herramienta aprobada y para un propósito que la empresa pueda explicar.