Cómo proteger datos personales cuando los empleados utilizan IA generativa

La inteligencia artificial generativa se ha incorporado con rapidez al día a día de las empresas. Resumir un documento, preparar una presentación, analizar información o redactar un correo son tareas que hoy pueden resolverse en pocos minutos con ayuda de estas herramientas.

Pero esa facilidad de uso también introduce nuevos riesgos. Un empleado puede copiar en un prompt los datos de un cliente para analizar una reclamación, introducir información de una reserva para redactar una respuesta o compartir parte de un documento interno para obtener un resumen. En cuestión de segundos, información personal, confidencial o regulada puede salir del entorno habitual de control de la organización.

El desafío, por tanto, no consiste únicamente en decidir si una empresa debe utilizar inteligencia artificial, sino en establecer cómo hacerlo de forma segura. Proteger datos personales en IA requiere combinar tecnología, gobierno, formación y supervisión para aprovechar sus posibilidades sin perder el control sobre la información.

Durante años, las organizaciones han desarrollado mecanismos para proteger la información que circula por sus sistemas: controles de acceso, permisos, cifrado o herramientas de monitorización.

La IA generativa introduce una nueva variable: el propio usuario puede proporcionar directamente información a una herramienta externa mediante un prompt. Si incluye datos personales, documentación interna, credenciales o información financiera, esa información puede salir de los entornos habituales de control.

Por eso, la seguridad de la IA generativa en empresas debe formar parte de la estrategia global de protección de la información.

El riesgo no reside únicamente en grandes bases de datos. Muchas veces comienza con información aparentemente cotidiana que un profesional utiliza para realizar su trabajo.

Un equipo de atención al cliente puede introducir el contenido de una reclamación para generar una respuesta. Recursos Humanos puede utilizar una herramienta para resumir documentación relacionada con un empleado. Un establecimiento hotelero puede querer analizar comentarios o solicitudes de huéspedes. Y un profesional sanitario podría recurrir a la IA para trabajar con documentación que contiene información especialmente sensible.

En todos estos escenarios, el problema es similar: datos que estaban dentro de un entorno corporativo pueden trasladarse a un servicio cuya configuración, condiciones de uso o tratamiento de la información no han sido previamente evaluados por la empresa.

La privacidad de datos de empleados, clientes y otros colectivos requiere, por tanto, conocer qué información puede utilizarse, con qué herramientas y bajo qué condiciones.

Una estrategia eficaz debe comenzar por clasificar la información.

No supone el mismo riesgo utilizar información pública para preparar un texto que introducir datos identificativos de clientes, historiales, información financiera, contratos, credenciales o documentación confidencial.

Definir categorías de información y establecer reglas claras sobre cuáles pueden utilizarse con herramientas de IA permite reducir la posibilidad de exposiciones accidentales y facilita que los empleados sepan cómo actuar.

El uso de IA generativa puede aportar importantes mejoras de productividad, pero también genera nuevos escenarios que las organizaciones deben conocer y gestionar.

Uno de ellos es el uso de aplicaciones de IA sin aprobación corporativa, conocido habitualmente como shadow AI. Cuando los empleados recurren por iniciativa propia a herramientas externas, los equipos de seguridad pueden perder visibilidad sobre qué servicios se están utilizando y qué información se comparte con ellos.

A esto se suman otros riesgos de IA empresarial, como la exposición accidental de información confidencial, la utilización de datos para finalidades no previstas, una configuración inadecuada de las herramientas o la falta de trazabilidad sobre determinados usos.

El objetivo no debe ser frenar la adopción de la tecnología, sino crear un entorno en el que pueda utilizarse de forma controlada.

Ante estos riesgos, una primera reacción puede ser limitar o incluso prohibir el uso de determinadas herramientas. Sin embargo, cuando existe una necesidad real por parte de los empleados, una política exclusivamente restrictiva puede trasladar el uso fuera de los canales corporativos y reducir todavía más la visibilidad.

La respuesta pasa por establecer un modelo de gobierno que permita utilizar estas herramientas dentro de un marco controlado.

Esto implica determinar qué soluciones están autorizadas, qué tipos de información pueden introducirse, qué casos de uso están permitidos y qué controles deben aplicarse en función del nivel de riesgo.

También requiere definir responsabilidades claras entre áreas como Seguridad, IT, Legal, Protección de Datos y las propias unidades de negocio.

De esta forma, la empresa puede evolucionar desde un uso espontáneo de la IA hacia un modelo gestionado, donde innovación y protección de la información avanzan de forma coordinada.

No existe una única medida capaz de resolver todos los riesgos. La protección requiere combinar diferentes capas de control que aborden tanto la tecnología como las personas y los procesos.

Para avanzar hacia un uso seguro de la IA generativa, las organizaciones deben prestar especial atención a cinco aspectos:

1. Definir qué herramientas y casos de uso están autorizados. Conocer qué soluciones de IA utiliza la organización y establecer criterios claros para su aprobación permite reducir el uso de herramientas fuera de los controles corporativos.
2. Aplicar el principio de minimización de datos. Limitar la información utilizada a aquella estrictamente necesaria para cada finalidad reduce la exposición. Siempre que sea posible, también pueden emplearse técnicas de anonimización o seudonimización.
3. Controlar identidades y accesos. Definir quién puede utilizar cada herramienta, con qué permisos y para qué casos de uso ayuda a evitar accesos innecesarios y mantener una mayor trazabilidad.
4. Evaluar proveedores y condiciones de uso. Antes de incorporar una solución, es importante conocer cómo gestiona la información, qué controles ofrece y si se ajusta a los requisitos de seguridad, privacidad y cumplimiento de la organización.
5. Formar y concienciar a los empleados. Los profesionales deben conocer qué información está autorizada para su uso con herramientas de IA, cómo identificar contenidos sensibles y qué procedimiento seguir ante una duda o posible incidente.

Para proteger la información es necesario conocer primero dónde se encuentra la exposición. En el caso de la IA generativa, esa exposición no suele limitarse a un único sistema: aparecen herramientas autorizadas y no autorizadas, cuentas personales mezcladas con identidades corporativas, integraciones con repositorios o correo, y hábitos de trabajo en los que un prompt convierte datos cotidianos en un nuevo canal de salida.

Capacidades como SPIP (Security Posture Improvement Plan) permiten analizar la postura de seguridad de la organización e identificar riesgos relacionados con identidades, accesos, datos y entornos tecnológicos, priorizando las medidas de mejora según su impacto. Aplicado al perímetro GenAI, esa evaluación ayuda a responder preguntas concretas: qué servicios de IA están en uso (incluidos usos tipo shadow AI), qué identidades y permisos los alimentan, qué clases de datos pueden acabar en un prompt, y qué dependencias (cloud, SaaS, proveedores) amplían la superficie de exposición. El resultado no es una lista genérica de vulnerabilidades, sino una visión y un plan accionables para establecer la estrategia de inversión priorizada: gobierno, controles técnicos y cambios de proceso.

A esta evaluación se suma el gobierno (GRC): políticas de uso de IA, categorización de datos, casos de uso permitidos, evaluación de proveedores y definición clara de responsabilidades entre Seguridad, IT, Legal, Protección de Datos y negocio. Sin ese marco, la tecnología sola no sostiene un uso seguro y repetible.

Cuando ya existe telemetría que correlacionar —accesos, endpoints, cloud, identidad, tráfico hacia servicios SaaS—, SOC by xMDR aporta supervisión continua, investigación y capacidad de respuesta. Es importante ser precisos: xMDR no es un “filtro de prompts” ni sustituye por sí solo a un control de prevención de pérdida de datos orientado al contenido de la IA generativa. Su valor está en detectar patrones anómalos, abuso de identidad o actividad sospechosa en el entorno, y actuar con rapidez cuando las señales se dispersan entre herramientas.

En la práctica, el recorrido suele ser: descubrir, medir y priorizar (SPIP) → gobernar (GRC) e implementar controles (Ingeniería) → operar y responder (SOC by xMDR) → acompañar con consultoría y formación. Así, la protección de datos personales frente a la IA generativa deja de ser una reacción puntual y se integra en la estrategia global de seguridad —incluyendo la mirada de Prosegur Security sobre personas, procesos y tecnología—.

El desafío afecta a cualquier empresa, pero adquiere una dimensión especial en organizaciones que trabajan diariamente con grandes volúmenes de información personal o sensible.

En salud, la sensibilidad de la información hace especialmente importante controlar qué datos pueden utilizarse y bajo qué condiciones.

En retail, los equipos trabajan con información de clientes, operaciones, programas de fidelización y múltiples canales digitales, lo que amplía los posibles escenarios de exposición.

En hoteles, reservas, preferencias, información de contacto y documentación relacionada con los huéspedes forman parte de una operación donde la IA puede aportar eficiencia, pero también exige mantener criterios claros de privacidad.

En todos estos sectores, el reto es el mismo: aprovechar la innovación sin perder el control sobre la información que sostiene la relación con clientes, empleados y usuarios.

La inteligencia artificial generativa seguirá incorporándose a nuevos procesos empresariales. La cuestión ya no es únicamente si los empleados van a utilizarla, sino si la organización tendrá suficiente visibilidad y control para hacerlo de forma segura.

Proteger datos personales en IA requiere entender qué herramientas se utilizan, qué información se comparte, quién tiene acceso y qué riesgos pueden derivarse de cada caso de uso.

En Prosegur Security ayudamos a las organizaciones a abordar este desafío desde una visión integral de la ciberseguridad, combinando capacidades de evaluación como SPIP, servicios de GRC, monitorización mediante SOC by xMDR y consultoría especializada para identificar riesgos y establecer modelos de protección adaptados a cada entorno.

Porque aprovechar el potencial de la inteligencia artificial no debería implicar perder el control sobre los datos. La clave está en incorporar la innovación dentro de un modelo de seguridad capaz de acompañarla.