El pasado 28 de enero fue el Día Internacional de la Protección de Datos. Hace 19 años el Consejo de Europa y la Comisión Europea decidieron instaurar la fecha para reforzar la importancia de la privacidad de datos. Hoy nos encontramos en una nueva encrucijada tecnológica, planteada por la inteligencia artificial (IA). Y es que el valor de los datos se ha disparado con la llegada de esta tecnología. Abarca a todas las industrias, incluida la educación superior.

Los datos son el motor detrás de los modelos de IA; en otras palabras, es con grandes cantidades de datos confiables que la IA puede entrenarse y, así, cumplir su cometido con eficiencia y precisión. El problema es que este increíble potencial conlleva también preocupaciones y retos alrededor de la privacidad debido al valor de los datos.

El éxito de la IA pende en la delgada línea entre aprovechar su poder y mantener la información confidencial y segura. A ello hay que agregar las regulaciones. Hay estándares de IA, cumplimiento y resiliencia cibernética cada vez más estrictos y restrictivos en todos los ámbitos. Los impulsan la creciente cantidad de ataques cibernéticos, como el ransomware, y las lagunas regulatorias todavía existentes.

Por fortuna, a grandes retos, grandes oportunidades. Conviene contar con políticas de privacidad de datos claras y completas, que puedan adaptarse a un entorno de cumplimiento sumamente cambiante, como el actual. Eso, sin duda, ayudará a mitigar los desafíos de la privacidad y proteger el valor de los datos en la era de la IA.

Hacia una privacidad por diseño

Desde hace tiempo, las comunidades de IA y privacidad de datos necesitan relaciones más estrechas y colaborativas. Ahora es más crucial que nunca, debido a la llegada de la IA generativa. Esto se debe a que sus modelos —incluyendo los modelos amplios de lenguaje (Large Language Model, LLM) y las plataformas de ciencia de datos y aprendizaje automático (DSML)— ingieren grandes cantidades de datos potencialmente sensibles. Entre otros, la información de identificación personal y otro tipo de datos confidenciales.

La Organización para la Cooperación y el Desarrollo Económico (OCDE) ha sido crucial para estandarizar la terminología referente a la IA y la privacidad. Un ejemplo es su informe AI, data governance and privacy. Indica que la naturaleza de los retos variará en función de la fase del ciclo de vida y el sistema de IA en juego. Con todo, en su visión, las tecnologías emergentes para mejorar la privacidad (PET) pueden promover la privacidad por diseño basada en IA.

Se trata de herramientas digitales que permiten recopilar, procesar, analizar e intercambiar información mientras salvaguardan su confidencialidad y privacidad. En consecuencia eso fomentará la confianza, incluso con respecto al intercambio y reutilización de datos entre las organizaciones que entienden el valor de los datos.

Privacidad diseñada para proteger el valor de los datos

La privacidad por diseño implica integrar medidas de privacidad desde el inicio del sistema de IA y durante todo su ciclo de vida. Este modelo incluye limitar la recopilación de datos a lo indispensable. También implica obtener el consentimiento explícito del usuario y mantener la transparencia sobre actividades de procesamiento de datos.

El soporte tecnológico es, también, vital. Se debe habilitar el cifrado y contar con controles de acceso y evaluaciones periódicas de vulnerabilidades. Elaborar una estrategia sólida de resiliencia cibernética es un elemento prioritario cuando se conforma un modelo de privacidad por diseño.

No se trata únicamente de la seguridad y privacidad de los datos. Se busca garantizar que las organizaciones logren el círculo virtuoso alrededor de los datos. Eso incluye mantenerlos seguros y accesibles, sin importar que se encuentren on premise, en la nube o migrando entre plataformas.

También implica que sean identificables de forma transparente y brinden un registro confiable. Así, las organizaciones podrán demostrar su cumplimiento en materia de privacidad de datos, uso ético de la IA y otras prácticas y regulaciones.

La resiliencia de los datos es una tarea integral. Abarca la gestión de identidades, seguridad de dispositivos y redes y la protección de datos. Precisa mantenerse en constante evolución. Sobre todo ahora que la IA se convierte en un ingrediente fundamental de la infraestructura tecnológica de las organizaciones.