La AEPD publica criterios para garantizar la calidad de los datos en la inteligencia artificial
La inteligencia artificial está transformando la forma en la que las empresas analizan información, automatizan procesos y toman decisiones. Pero su utilización también plantea nuevos retos en materia de protección de datos.
En este contexto, la Agencia Española de Protección de Datos (AEPD) ha publicado una nota técnica en la que analiza cómo deben aplicarse los principios de exactitud, minimización y calidad de los datos cuando se utilizan sistemas de inteligencia artificial.
El documento ofrece criterios prácticos dirigidos a responsables del tratamiento, encargados y delegados de protección de datos y proporciona un marco para compatibilizar el desarrollo de soluciones basadas en IA con el cumplimiento del Reglamento General de Protección de Datos (RGPD).
La exactitud de los datos debe valorarse según la finalidad
Uno de los aspectos más relevantes de la nota técnica es la interpretación del principio de exactitud.
La AEPD recuerda que la exactitud no debe entenderse únicamente como la obligación de que todos los datos sean absolutamente verdaderos o estén permanentemente actualizados.
Lo importante es que los datos sean adecuados para la finalidad concreta del tratamiento.
Dependiendo del caso, la calidad de un dato puede venir determinada por factores como:
- Su precisión.
- Su nivel de granularidad.
- La frecuencia con la que se actualiza.
- Su relevancia para la finalidad perseguida.
- Cualquier otra característica necesaria para alcanzar el objetivo del tratamiento.
Por tanto, un dato puede no necesitar una actualización constante si esa actualización no resulta necesaria para la finalidad concreta para la que se está utilizando.
La exactitud debe analizarse teniendo en cuenta el uso que se va a realizar de los datos y los efectos que dicho tratamiento puede producir sobre las personas.
En IA no basta con comprobar cada dato individual
Los sistemas de inteligencia artificial, especialmente los que utilizan técnicas de aprendizaje automático, requieren analizar la calidad de los datos desde una perspectiva más amplia.
No es suficiente con comprobar que cada registro individual sea correcto.
También debe analizarse el conjunto de datos utilizado para entrenar el sistema
Entre otros aspectos, será necesario valorar:
- La representatividad de las muestras.
- La relevancia de los datos.
- La existencia de sesgos.
- Las características estadísticas del conjunto.
- La adecuación de los datos al contexto en el que se utilizará el sistema.
Un conjunto de datos puede estar compuesto por registros aparentemente correctos y, sin embargo, resultar inadecuado para entrenar un sistema de IA si no representa correctamente la realidad sobre la que posteriormente tendrá que operar.
Esto puede afectar directamente a la fiabilidad de los resultados y generar representaciones o predicciones sesgadas.
La calidad también debe evaluarse en los resultados de la IA
La responsabilidad sobre la calidad del tratamiento no termina cuando los datos entran en el sistema.
La AEPD señala también la importancia de analizar los resultados generados por la inteligencia artificial, especialmente cuando estos pueden afectar a personas físicas.
Estos resultados pueden incluir:
- Inferencias.
- Perfiles.
- Predicciones.
- Clasificaciones.
- Decisiones automatizadas.
Cuando estos resultados puedan tener consecuencias sobre las personas, será necesario prestar especial atención a que no produzcan representaciones incorrectas, distorsionadas o desproporcionadas que puedan perjudicar sus derechos o intereses.
Por tanto, la supervisión de un sistema de IA debe contemplar tanto la calidad de los datos de entrada como la fiabilidad y los posibles efectos de sus resultados.
¿Son compatibles los datos sintéticos con el RGPD?
La nota técnica también aborda algunas de las técnicas utilizadas habitualmente en el desarrollo de sistemas de inteligencia artificial.
La AEPD contempla que determinadas herramientas pueden ser compatibles con el principio de exactitud aunque los datos utilizados no reproduzcan exactamente la realidad individual.
Entre ellas se encuentran:
Datos sintéticos: información generada artificialmente que puede utilizarse para determinados fines de desarrollo, entrenamiento o prueba.
Anonimización: técnicas destinadas a impedir que los datos puedan asociarse con una persona identificada o identificable.
Privacidad diferencial: técnicas que permiten obtener información estadística reduciendo el riesgo de identificar a personas concretas.
Corrección o reducción de sesgos: mecanismos destinados a detectar y minimizar determinados sesgos presentes en los datos o en los resultados.
La utilización de estas técnicas no supone por sí misma un incumplimiento del RGPD. Lo determinante será que sean adecuadas para la finalidad perseguida y que el tratamiento respete los derechos de las personas afectadas.
La gobernanza del dato adquiere una importancia estratégica
Uno de los principales mensajes que se desprenden de la publicación es la necesidad de establecer una adecuada gobernanza del dato
Las empresas deberían definir antes de iniciar un tratamiento cuáles son los requisitos de calidad que deben cumplir los datos y establecer mecanismos para comprobar que estos requisitos se mantienen durante el ciclo de vida del sistema.
Esto puede implicar:
- Definir criterios objetivos de calidad.
- Establecer métricas de seguimiento.
- Documentar los criterios utilizados.
- Revisar periódicamente los conjuntos de datos.
- Identificar posibles sesgos.
- Supervisar los resultados generados.
- Mantener trazabilidad sobre las decisiones adoptadas.
Todo ello se relaciona directamente con el principio de responsabilidad proactiva establecido por el RGPD.
¿Qué deberían revisar las empresas que utilizan IA?
La publicación de la AEPD supone una buena oportunidad para que las organizaciones revisen sus procedimientos relacionados con la inteligencia artificial.
En particular, conviene comprobar:
1. La finalidad del tratamiento
Debe estar claramente definida la finalidad para la que se recopilan y utilizan los datos.
2. La calidad de los conjuntos de datos
No solo debe revisarse la corrección de los registros individuales, sino también la representatividad y adecuación del conjunto de datos.
3. Los posibles sesgos
Es recomendable establecer mecanismos que permitan detectar y corregir posibles sesgos antes de que puedan afectar a los resultados del sistema.
4. Los resultados generados
Cuando la IA genere perfiles, predicciones o decisiones que puedan afectar a personas, deben establecerse mecanismos adecuados de supervisión y revisión.
5. La documentación
Los criterios utilizados para determinar la calidad de los datos deben quedar documentados, incluyendo las métricas y mecanismos de control utilizados.
6. La gobernanza durante todo el ciclo de vida
La calidad del dato no debería analizarse únicamente en el momento de poner en funcionamiento el sistema. Debe existir un seguimiento continuo mientras el sistema permanezca operativo.
IA y protección de datos: innovación con responsabilidad
La publicación de la AEPD aporta un marco interpretativo de especial interés para las empresas que utilizan o están incorporando inteligencia artificial a sus procesos.
El RGPD continúa siendo plenamente aplicable a estos tratamientos, pero la calidad de los datos debe analizarse atendiendo a la finalidad concreta, la idoneidad del tratamiento y los posibles efectos sobre las personas.
La principal conclusión es clara: la calidad del dato deja de ser una cuestión exclusivamente técnica y se convierte también en un elemento esencial del cumplimiento normativo y de la gobernanza empresarial.
Para las organizaciones, esto significa que incorporar IA no consiste únicamente en seleccionar una herramienta tecnológica. También es necesario conocer qué datos utiliza, comprobar que son adecuados para la finalidad perseguida, controlar posibles sesgos y supervisar los resultados que genera.
La publicación de la AEPD ofrece, en este sentido, una referencia útil para avanzar hacia una inteligencia artificial más responsable, fiable y compatible con la protección de datos.
¿Necesitas adaptar el uso de IA de tu empresa?
En Avalora Consultores ayudamos a las empresas a avanzar en su transformación digital con soluciones prácticas y adaptadas a sus necesidades.
Si tu empresa utiliza inteligencia artificial o está valorando incorporarla a sus procesos, podemos ayudarte a analizar sus implicaciones y a establecer una estrategia adecuada de gobernanza y cumplimiento.