Privacidad en la era de la IA Generativa: ¿estamos preparados para los riesgos?

En la era digital exponencial, la privacidad se ha transformado en un pilar indispensable para la protección de la información personal y sensible. Con la irrupción de tecnologías avanzadas, especialmente la Inteligencia Artificial Generativa (GAI), los desafíos y riesgos asociados a la privacidad de los datos han experimentado un crecimiento explosivo.

Según un informe reciente de McKinsey, se estima que para 2025, el 75% de las interacciones de los consumidores estarán gestionadas por tecnologías emergentes como la IA, poniendo en riesgo la privacidad de millones de personas. Esta tendencia subraya la urgencia de adoptar medidas robustas para gestionar estos riesgos, ya que la confianza del público en las tecnologías digitales se encuentra en una situación realmente crítica.

La vieja privacidad y la nueva realidad

La privacidad de los datos se refiere a la gestión adecuada de la información personal, asegurando que los datos recopilados, almacenados y utilizados por las organizaciones se manejen de manera que proteja la identidad y la confidencialidad de los individuos. Existen riesgos importantes asociados con los sistemas de GAI:

Filtración de datos: los modelos de GAI pueden filtrar datos sensibles como biométricos, de salud, de ubicación y otra información de identificación personal. Esto es particularmente preocupante durante ataques adversarios, donde los modelos pueden revelar información privada contenida en sus datos de entrenamiento.
Generación e inferencia de datos sensibles: además de filtrar información, los modelos de GAI pueden generar o inferir correctamente datos sensibles. Esto incluye la capacidad de deducir detalles personales no explícitamente proporcionados por los usuarios, lo que plantea serias preocupaciones de privacidad.

Las amenazas latentes

Oportunamente abordamos la privacidad desde una perspectiva más amplia, identificando tres amenazas principales ---> ver ¿Cómo mitigar los riesgos asociados con las tecnologías de IA en su empresa?

Recopilación masiva de datos: La implementación de tecnologías de IA requiere una recolección extensiva de datos. Sin embargo, a menudo las organizaciones carecen de claridad sobre los datos específicos que están recopilando y cómo se utilizarán. Esta falta de transparencia y la opacidad en los algoritmos resaltan una preocupante ausencia de gestión y control efectivo, creando vulnerabilidades legales y de seguridad. El NIST aborda este riesgo al enfatizar la necesidad de políticas claras y transparencia en la recopilación y el uso de datos.
Discriminación algorítmica: Los sistemas de IA pueden perpetuar sesgos inherentes que resultan en decisiones discriminatorias basadas en variables sensibles como raza, género, religión u orientación sexual. La importancia de la supervisión y revisión constante es necesaria para mitigar estos riesgos, un enfoque que también es respaldado por NIST bajo el riesgo de Toxicidad, Sesgo y Homogenización.
Pérdida de control sobre los datos: La gestión inadecuada de los datos puede llevar a filtraciones masivas de información. Los errores en las herramientas de IA pueden exponer datos sensibles, abriendo brechas de seguridad explotables por actores maliciosos. El NIST destaca la importancia de la Seguridad de la Información y la Privacidad de los Datos, proponiendo acciones específicas para asegurar el control adecuado y la protección de los datos.

¿Está preparado para liderar en la era de la privacidad de datos? Con nuestras soluciones avanzadas de privacidad y gobernanza de datos, su empresa no solo cumplirá con las regulaciones actuales, sino que también estará preparada para los cambios futuros.

Riesgos de la GAI según NIST

El informe del NIST identifica varios riesgos únicos o exacerbados por el uso de la GAI (referencia NIST AI 600-1 “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile – Abril 2024”):

Información CBRN (Chemical, Biological, Radiological, and Nuclear defense): La GAI puede facilitar el acceso a información relacionada con armas químicas, biológicas, radiológicas y nucleares, lo que puede ser peligroso si cae en manos equivocadas.
Confabulación: La generación de contenido falso presentado con confianza, conocido como confabulación, puede llevar a la desinformación y a decisiones incorrectas basadas en información errónea.
Recomendaciones peligrosas o violentas: La GAI puede producir contenido que incita a la violencia o proporciona instrucciones para actividades ilegales, lo que representa un riesgo significativo para la seguridad pública.
Privacidad de datos: Los modelos de GAI pueden filtrar, generar o inferir datos sensibles, exponiendo información privada a riesgos de seguridad y violaciones de privacidad.
Impacto ambiental: El entrenamiento de modelos de GAI consume grandes cantidades de recursos, lo que tiene un impacto ambiental considerable.
Configuración Humano-IA: La interacción entre humanos y sistemas de IA puede resultar en dependencia excesiva, sesgo de automatización o aversión algorítmica, afectando la toma de decisiones y la confianza en los sistemas.
Integridad de la información: La capacidad de la GAI para generar y difundir contenido no verificado puede facilitar la desinformación y erosionar la confianza pública en la información.
Seguridad de la información: La GAI puede reducir las barreras para capacidades cibernéticas ofensivas y aumentar la superficie de ataque disponible para ciberataques dirigidos.
Propiedad intelectual: La generación de contenido que infringe derechos de autor, marcas registradas o secretos comerciales es una preocupación importante para la GAI.
Contenido obsceno, degradante y/o abusivo: La GAI puede facilitar la creación y difusión de contenido abusivo, incluyendo material de abuso sexual infantil y imágenes íntimas no consensuadas.
Toxicidad, sesgo y homogenización: La dificultad para controlar el contenido tóxico o sesgado y la tendencia a la homogenización de los datos pueden degradar la calidad y diversidad de las salidas de GAI.
Integración de la cadena de valor y componentes: La integración no transparente de componentes de terceros puede llevar a una falta de responsabilidad y transparencia en el uso de la GAI.

Acciones para gestionar los riesgos de GAI según NIST

Para mitigar estos riesgos, el NIST propone varias acciones específicas. Aquí se detallan siete de ellas:

Comprender, gestionar y documentar los requisitos legales y reglamentarios relacionados con la IA

GV-1.1-001: Alinear el uso de GAI con las leyes y políticas aplicables, incluyendo aquellas relacionadas con la privacidad de los datos y el uso, publicación o distribución de material con licencia, patentado, registrado como marca, protegido por derechos de autor o secreto comercial.

Examinar y documentar el riesgo de privacidad del sistema de IA, tal como se identifica en la función MAP

MS-2.10-001: Acción: Colaborar con otros actores de IA, expertos en el dominio y asesores legales para evaluar el impacto de las aplicaciones de GAI en la privacidad relacionada con el sistema GAI y la procedencia de su contenido, en dominios como la salud, las finanzas y la justicia penal.
MS-2.10-005: Establecer y documentar protocolos (autorización, duración, tipo) y controles de acceso para conjuntos de entrenamiento o datos de producción que contengan información biométrica, confidencial, con derechos de autor, con licencia, patentada, personal, propietaria, sensible o registrada como marca, de acuerdo con las políticas de privacidad de datos y gobernanza de datos y las leyes de privacidad de datos.
MS-2.10-011: Verificar el cumplimiento de las regulaciones de protección de datos.

Implementar, seguir y documentar enfoques para mapear la tecnología de IA y los riesgos legales de sus componentes (incluido el uso de datos o software de terceros), al igual que los riesgos de infracción de la propiedad intelectual u otros derechos de un tercero.

MP-4.1-002: Realizar auditorías periódicas y monitorear el contenido generado por IA para riesgos de privacidad; abordar cualquier posible instancia de exposición de datos sensibles.

Existen políticas y procedimientos que abordan los riesgos de IA asociados con entidades de terceros, incluidos los riesgos de infracción de la propiedad intelectual u otros derechos de un tercero.

GV-6.1-001: Categorizar diferentes tipos de contenido GAI con los riesgos asociados de terceros (es decir, privacidad de datos, propiedad intelectual).
GV-6.1-011: Implementar un marco de evaluación de riesgos de proveedores para evaluar y monitorear continuamente el desempeño de las entidades de terceros y su adherencia a los estándares y tecnologías de procedencia de contenido (por ejemplo, firmas digitales, marcas de agua, criptografía, etc.) para detectar anomalías y cambios no autorizados; gestión de riesgos de adquisición de servicios y cadena de suministro; cumplimiento legal (por ejemplo, derechos de autor, marcas comerciales y leyes de privacidad de datos).

A medida que la Inteligencia Artificial Generativa continúa evolucionando, también lo harán los desafíos relacionados con la privacidad de los datos.

Sin una acción inmediata y decidida, enfrentamos un futuro en el que la privacidad podría convertirse en una mera ilusión, vulnerando los derechos individuales y comprometiendo la confianza pública en las tecnologías digitales.

Es esencial que las organizaciones adopten un enfoque proactivo y robusto para la gestión de riesgos, implementando las acciones recomendadas por el NIST y otras mejores prácticas.

La falta de controles y prevenciones adecuados podría llevarnos a un panorama donde la información personal esté constantemente en peligro, afectando no solo a los individuos, sino también a la estabilidad y seguridad de nuestras sociedades.

En este contexto, la colaboración entre organizaciones, reguladores y expertos será fundamental para transformar los complejos contextos de la privacidad en la era de la inteligencia artificial y asegurar un futuro donde la tecnología sirva a la humanidad sin comprometer su privacidad.

Autor Fabián Descalzo, Socio & Lider LATAM Cyber/DRAS de BDO en Argentina | Asesor C-Level | Gobierno de tecnología, Seguridad de la información, Ciberseguridad | Innovación y Transformación Digital Segura | Autor y Conferencista Internacional.

*****

BDO Argentina - Ciberseguridad y Gobierno Tecnológico; Nuestra área de servicios se enfoca en los principales pilares que brindan aseguramiento al negocio de nuestros Clientes frente a la innovación, la transformación digital y el uso de la tecnología, tanto en procesos de soporte como los de negocio y productivos.

🙌 Formá parte del Grupo Linkedin “CIBERSEGURIDAD Y GOBIERNOTECNOLÓGICO” 🔗 donde se comparte información para prevenir, proteger y educar.

Además no dejes de visitar nuestro canal de Youtube con temáticas de actualidad sobre gobierno, ciberseguridad y privacidad.