El análisis de Harmonic identifica los tipos de datos que los empleados suelen compartir inadvertidamente. En primer lugar, un 46% de la información introducida corresponde a datos de clientes, como reclamaciones de seguros, lo que puede resultar en la exposición de información confidencial. Un 27% se refiere a datos de los propios empleados, como evaluaciones de desempeño y decisiones de contratación, lo que compromete su privacidad. Además, un 15% de la información involucrada son datos legales y financieros, lo que genera riesgos importantes para la empresa. También se incluyen información de seguridad (7%) y código sensible (6%) en menores proporciones, pero cuya divulgación puede tener consecuencias severas.
El problema radica en que cada vez que un usuario ingresa datos en una consulta de IA, esa información puede ser utilizada más tarde en el proceso de entrenamiento del modelo. Si los datos no cuentan con la debida protección o se utilizan versiones inseguras de la herramienta, existe la posibilidad de que sean accesibles en el futuro a través de vulnerabilidades o ataques cibernéticos.
Para mitigar estos riesgos, el informe de Harmonic propone diversas recomendaciones. Una de las principales es que las empresas establezcan políticas claras que prohíban a los empleados compartir información confidencial en plataformas de inteligencia artificial. Asimismo, es crucial que los empleados reciban formación sobre el uso seguro de estas herramientas y sean conscientes de los riesgos que conllevan. Implementar herramientas de prevención de pérdida de datos (DLP) también se advierte como medida eficaz para monitorear y controlar la información que se comparte en aplicaciones de IA.
El estudio de Harmonic se basa en el análisis de datos anonimizados de organizaciones que utilizan sus soluciones de seguridad. Su método incluye el estudio de patrones de uso en la interacción de los empleados con herramientas de IA generativa, categorización de la información compartida según su sensibilidad y evaluación de consecuencias de compartir datos confidenciales, como el riesgo de filtración o mal uso.
El análisis realizado ofrecer una visión clara de qué tipos de datos se comparten más frecuentemente y en qué industrias se presenta un mayor riesgo. Esto, a su vez, resuena con las conclusiones del informe publicado recientemente por el Foro Económico Mundial, que indica que «la rápida implementación de la inteligencia artificial crea nuevas vulnerabilidades».
La falta de políticas adecuadas sobre el uso de IA y la capacitación de empleados en prácticas seguras presenta una vulnerabilidad adicional. Sin tales medidas, los empleados, al buscar facilitar y optimizar su trabajo mediante el uso de IA, pueden inadvertidamente abrir flancos en la defensa de seguridad de la empresa, exponiéndola a nuevas amenazas potenciales de ciberdelincuentes.
En resumen, el estudio de Harmonic pone en evidencia un aspecto crítico de la integración de la inteligencia artificial en entornos corporativos, donde la ubicación de la facilidad de uso puede chocar dramáticamente con las necesidades de seguridad. Para las empresas, este es un llamado de atención esencial para revisar y reforzar sus políticas de seguridad de datos, asegurándose de que el avance tecnológico no comprometa la integridad de la información confidencial.
Enlace de la fuente, haz clic para tener más información