Cada consulta, archivo o conexión con una herramienta de inteligencia artificial puede activar procesos de transmisión, análisis, almacenamiento y acceso a terceros. El riesgo no depende únicamente del modelo: también intervienen el tipo de cuenta, la configuración, las integraciones y las prácticas de cada empresa.
Una persona abre una herramienta de inteligencia artificial, adjunta una planilla con información de clientes y pide: “Analiza estas ventas y dime qué oportunidades ves”.
La respuesta aparece en segundos. Sin embargo, detrás de esa interacción ocurrieron varias cosas: el archivo salió del entorno original, fue enviado a una plataforma externa, procesado por uno o más modelos, posiblemente almacenado y convertido en una respuesta que también puede contener información sensible.
Eso no significa que todas las herramientas de IA sean inseguras ni que los datos entregados pasen automáticamente a entrenar un modelo. Significa que utilizar inteligencia artificial también es una decisión sobre tratamiento de datos.
La pregunta correcta no es solo “¿esta IA es segura?”, sino también:
- ¿Qué información recibe?
- ¿Para qué la utiliza?
- ¿Durante cuánto tiempo la conserva?
- ¿Quién puede acceder a ella?
- ¿La comparte con otros servicios?
- ¿Qué ocurre cuando se elimina una conversación?
- ¿Las condiciones cambian entre una cuenta personal y una empresarial?
La respuesta breve: los datos entran en una cadena de tratamiento
Cuando una empresa utiliza inteligencia artificial, sus datos pueden recorrer hasta seis etapas:
- Recolección: la plataforma recibe el prompt, los archivos adjuntos y ciertos metadatos.
- Procesamiento: el modelo analiza la información para producir una respuesta.
- Recuperación de contexto: si existen conexiones con correo, documentos, CRM u otras aplicaciones, la IA puede consultar información adicional.
- Almacenamiento: la conversación, los archivos o los registros técnicos pueden conservarse durante un periodo determinado.
- Supervisión y mejora: algunos servicios pueden revisar interacciones para seguridad, soporte o mejora del producto, según el plan y la configuración.
- Transferencia a terceros: agentes, conectores, buscadores, extensiones o servicios externos pueden recibir parte de la información.
No todas estas etapas ocurren siempre. Dependen del producto, el contrato, la función utilizada y las políticas configuradas por la organización.
La IA recibe más que una pregunta
Un prompt puede contener información comercial sin que el usuario lo advierta.
Por ejemplo:
“Redacta una propuesta para nuestro cliente principal. Tiene un presupuesto de 80 millones de pesos, está evaluando despedir a 30 personas y todavía no ha pagado las últimas dos facturas”.
La persona quizás solo quería mejorar un texto, pero terminó revelando:
- La identidad o características de un cliente.
- Su capacidad presupuestaria.
- Una posible reestructuración laboral.
- Antecedentes financieros.
- Información sobre la relación comercial.
Los archivos presentan un riesgo similar. Una planilla puede incluir columnas ocultas, comentarios, nombres, correos electrónicos, identificadores, remuneraciones o fórmulas internas. Un documento también puede contener propiedades, historial, instrucciones o información que no era necesaria para la consulta.
La primera medida de protección, por lo tanto, no es técnica: es reducir la información entregada a lo estrictamente necesario.
Procesamiento no es lo mismo que entrenamiento
Una de las confusiones más frecuentes consiste en asumir que cualquier dato enviado a una IA pasa inmediatamente a formar parte de su entrenamiento.
No necesariamente.
El procesamiento ocurre cuando el sistema utiliza la información para responder una solicitud. El entrenamiento, en cambio, supone emplear datos para desarrollar o mejorar modelos.
Muchos productos empresariales indican que no utilizan los prompts y las respuestas para entrenar sus modelos fundacionales. Sin embargo, esa promesa no significa automáticamente que:
- La información no se almacene.
- No existan registros de seguridad.
- Nadie pueda revisarla en circunstancias excepcionales.
- Los archivos se eliminen inmediatamente.
- Las integraciones externas apliquen las mismas condiciones.
- La empresa pueda utilizar cualquier dato sin una base legal.
La frase “no usamos tus datos para entrenar” responde solo una parte del problema.
Qué declaran algunos de los principales proveedores
Las siguientes condiciones son ejemplos y no sustituyen la revisión del contrato, la edición contratada ni la configuración efectiva de cada empresa.
| Servicio empresarial | Uso para entrenamiento | Conservación y controles relevantes |
|---|---|---|
| OpenAI API | Los datos enviados a la API no se utilizan para entrenar los modelos, salvo participación voluntaria. | Los registros de monitoreo pueden conservar contenido hasta 30 días por defecto. Algunas funciones mantienen información hasta que el cliente la elimina. Los controles de retención cero están sujetos a elegibilidad y tienen limitaciones. |
| Microsoft 365 Copilot | Los prompts, las respuestas y los datos consultados mediante Microsoft Graph no se utilizan para entrenar los modelos fundacionales. | Microsoft guarda el historial de interacción dentro del entorno de Microsoft 365. Copilot respeta los permisos existentes, lo que también puede exponer información que ya estaba compartida de forma excesiva. |
| Google Workspace con Gemini | Google señala que las interacciones empresariales no son revisadas por personas ni utilizadas para entrenar modelos fuera del dominio sin autorización. | Las interacciones se almacenan junto con el contenido de Workspace y heredan controles como prevención de pérdida de datos, regiones y permisos. |
| Claude para empresas y API de Anthropic | Las conversaciones comerciales no se utilizan para entrenamiento salvo participación voluntaria o envío explícito de comentarios. | En la API, Anthropic señala que elimina normalmente las entradas y salidas de sus sistemas dentro de 30 días, con excepciones. Los productos que permiten conservar conversaciones las almacenan para mantener el historial. |
Fuentes: OpenAI, Microsoft, Google, Anthropic sobre entrenamiento y Anthropic sobre retención.
Las diferencias entre productos empresariales y cuentas personales son especialmente importantes. Una protección anunciada para una edición corporativa no debe suponerse válida para una cuenta gratuita, una aplicación de consumo o una extensión instalada por un empleado.
Los cinco principales riesgos para una empresa
1. El uso de cuentas personales
La llamada shadow AI aparece cuando los trabajadores utilizan herramientas no autorizadas para resumir documentos, revisar contratos, analizar clientes o generar código.
El problema no es solo la herramienta. La empresa pierde visibilidad sobre:
- ¿Qué información fue enviada?
- ¿Desde qué cuenta?
- ¿Con qué configuración?
- ¿Durante cuánto tiempo quedó almacenada?
- ¿Quién puede recuperar la conversación?
- ¿Qué hacer si el trabajador abandona la organización?
Prohibir toda IA suele trasladar el uso fuera de los canales visibles. Una estrategia más efectiva consiste en entregar alternativas aprobadas, acompañadas por reglas simples y capacitación.
2. Permisos internos excesivos
Una IA conectada a Drive, SharePoint, correo electrónico o un CRM normalmente hereda los permisos del usuario. Esto limita el acceso, pero no corrige permisos mal configurados.
Si una persona puede abrir una carpeta que nunca debió estar compartida con ella, un asistente también podría encontrar información de esa carpeta y utilizarla en una respuesta.
La IA puede transformar un problema antiguo de permisos en uno de descubrimiento: datos que antes estaban olvidados ahora se vuelven fáciles de localizar, resumir y relacionar.
3. Aplicaciones, agentes y conectores
Una plataforma puede ofrecer protecciones sólidas dentro de su entorno, pero una función externa puede aplicar otras políticas.
Un agente conectado a un CRM, un buscador web, una extensión de navegador o un servidor externo puede recibir consultas derivadas del prompt. En la documentación de OpenAI, por ejemplo, se advierte que los datos enviados a servidores MCP de terceros quedan sujetos a sus propias políticas. Microsoft también recomienda revisar los términos y permisos de los agentes conectados a Copilot.
Cada integración amplía la cadena de tratamiento y agrega una nueva pregunta: ¿qué parte de la información sale del proveedor principal?
4. Retención, ubicación y eliminación
“Borrar el chat” no siempre equivale a eliminar inmediatamente toda copia técnica.
Pueden existir:
- Historial visible para el usuario.
- Registros de seguridad.
- Archivos almacenados por una función específica.
- Copias sujetas a políticas de conservación corporativa.
- Datos guardados por una integración.
- Obligaciones legales que exijan una conservación mayor.
La residencia también importa. Almacenar datos en una región no garantiza necesariamente que todo el procesamiento, los metadatos o los servicios externos permanezcan allí.
5. Información sensible en las respuestas
El riesgo no termina cuando la IA recibe los datos. También puede aparecer en la salida.
Un resumen puede reunir información dispersa y convertirla en una revelación sensible. Una respuesta podría mostrar datos personales, secretos comerciales o inferencias sobre trabajadores y clientes. Incluso una inferencia incorrecta puede causar daño si se utiliza para tomar una decisión.
El perfil de riesgos para IA generativa del Instituto Nacional de Estándares y Tecnología de Estados Unidos recomienda vigilar la exposición de información personal o sensible, evaluar a los proveedores y mantener un inventario de los terceros que acceden al contenido corporativo.
Qué información debería recibir una IA
Una política práctica puede clasificar los datos según su nivel de sensibilidad:
| Clasificación | Ejemplos | Uso recomendado |
| Pública | Comunicados publicados, catálogos, información del sitio web | Puede utilizarse en herramientas aprobadas. |
| Interna | Procedimientos, borradores, minutas sin datos sensibles | Utilizar en entornos corporativos administrados. |
| Confidencial | Estrategias, precios futuros, contratos, información de clientes | Minimizar, anonimizar y limitar a casos autorizados. |
| Restringida | Contraseñas, claves API, datos de salud, remuneraciones, información bancaria, secretos críticos | No ingresar, salvo en un entorno expresamente aprobado con controles técnicos, contractuales y legales adecuados. |
Anonimizar no significa reemplazar un nombre por iniciales. Si la persona todavía puede identificarse combinando cargo, ubicación, empresa o antecedentes, los datos continúan siendo personales.
El escenario chileno cambia en diciembre de 2026
En Chile, la Ley 21.719 fue publicada en diciembre de 2024 y entrará en vigencia el 1 de diciembre de 2026. Hasta entonces continúa operando el marco vigente de la Ley 19.628.
La nueva regulación incorpora principios especialmente relevantes para la inteligencia artificial:
- Finalidad específica del tratamiento.
- Proporcionalidad y minimización.
- Responsabilidad de quien trata los datos.
- Seguridad y confidencialidad.
- Transparencia.
- Protección desde el diseño y por defecto.
También exige una evaluación de impacto antes de iniciar tratamientos que probablemente generen un riesgo elevado, incluyendo ciertas decisiones automatizadas, tratamientos masivos y usos de datos sensibles.
Para una empresa, esto implica que contratar una plataforma reconocida no transfiere toda la responsabilidad al proveedor. La organización sigue debiendo justificar qué datos procesa, para qué los utiliza, quién puede acceder y qué medidas adoptó para reducir el riesgo.
Diez preguntas antes de aprobar una herramienta de IA
Antes de utilizar una plataforma con información corporativa, la empresa debería responder:
- ¿El producto contratado es empresarial o de consumo?
- ¿Los prompts, archivos y respuestas se utilizan para entrenamiento?
- ¿La opción de entrenamiento está desactivada por defecto?
- ¿Cuánto tiempo se conserva cada tipo de información?
- ¿Es posible configurar o reducir ese periodo?
- ¿Dónde se almacenan y procesan los datos?
- ¿Qué proveedores secundarios participan?
- ¿Qué cambia al activar buscadores, agentes o conectores?
- ¿Existen controles de acceso, auditoría, cifrado y prevención de pérdida de datos?
- ¿Cómo se exporta o elimina la información al terminar el contrato?
Las respuestas deberían quedar documentadas. Una captura de una página comercial no reemplaza un acuerdo de tratamiento de datos, una evaluación de seguridad ni la revisión de las condiciones aplicables.
Una política de IA no necesita comenzar con cien páginas
Una empresa puede reducir buena parte del riesgo con cinco decisiones iniciales:
- Definir herramientas autorizadas.
- Prohibir el ingreso de credenciales y datos restringidos.
- Clasificar la información antes de cargarla.
- Revisar permisos de carpetas y sistemas conectados.
- Mantener supervisión humana en decisiones relevantes.
A esto se puede agregar un registro básico con el caso de uso, responsable, proveedor, datos utilizados, integraciones, periodo de conservación y nivel de riesgo.
El objetivo no es impedir la innovación. Es evitar que cada trabajador tenga que interpretar por su cuenta contratos, configuraciones y políticas de privacidad.
La seguridad depende del sistema completo
Ninguna marca permite responder de forma absoluta si una IA es “segura” para una empresa.
Una misma plataforma puede ser adecuada cuando se utiliza mediante una cuenta corporativa administrada y convertirse en un riesgo cuando se usa desde una cuenta personal, con historial activado, integraciones externas y documentos sin clasificar.
La protección real depende de la combinación de cuatro factores:
- Condiciones del proveedor.
- Configuración técnica.
- Calidad de los permisos internos.
- Comportamiento de los usuarios.
La inteligencia artificial no elimina las obligaciones sobre los datos. Las vuelve más urgentes, porque reduce drásticamente el tiempo necesario para buscar, combinar, resumir y reproducir información.
La mejor regla sigue siendo sencilla: entregar a la IA solo los datos necesarios, mediante una herramienta aprobada y para un propósito que la empresa pueda explicar.
Editor | El Ciclo Tomás Carmona es especialista en crecimiento de negocios, transformación digital y sistemas CRM. En El Ciclo investiga y explica cómo los cambios en tecnología, inteligencia artificial, negocios, finanzas y salud impactan la vida de las personas y las empresas. Su trabajo combina análisis, investigación y experiencia práctica para transformar noticias, estudios y tendencias en contenido claro, basado en evidencia y orientado a la toma de mejores decisiones. Su objetivo es ayudar a los lectores a comprender qué está cambiando, por qué es relevante y cómo esos cambios pueden influir en su trabajo, sus finanzas, su salud o su vida cotidiana.