Propuesta 22

Exigir el consentimiento explícito de cada ciudadana y ciudadano para someter sus datos a cualquier procedimiento automatizado.

Explicación detallada

Según el artículo 5-1 del RGPD, los datos personales tratados deben ser "pertinentes y limitados a lo necesario para los fines del tratamiento".

La inteligencia artificial de la red 5G recogerá datos continuamente, lo que va en contra de este principio de minimización de datos.

El Comité Económico y Social Europeo ha publicado el dictamen titulado Despliegue seguro de la 5G en la UE – Aplicación de la caja de herramientas de la UE (Secure 5G deployment - EU toolbox). El punto 4.16 dice

"El Reglamento General de Protección de Datos (RGPD) debe completarse con directrices de aplicación claras para lograr una aplicación uniforme y un alto nivel de protección de los datos y de los consumidores, habida cuenta de la interconectividad de las máquinas y los objetos, y las normas sobre responsabilidad civil y seguro de los productos deben revisarse para tener en cuenta una situación en la que las decisiones serán tomadas cada vez más por los programas informáticos en un entorno totalmente seguro."

En el punto 4.18 se afirma:

"Las conversaciones sobre las normas técnicas son una aclaración necesaria que permitirá a las empresas volver a competir y llevar a cabo estas actividades clave para implementar tecnologías avanzadas como el 5G y la inteligencia artificial (IA) en todos los mercados."

Diversos estudios han demostrado que la inteligencia artificial en realidad reproduce automáticamente la discriminación previa en los procesos de aprendizaje de las máquinas. La máquina "aprende" según las decisiones que ya ha tomado en el pasado sistematizándolas - por lo tanto, la inteligencia artificial es un poderoso motor para reproducir y agravar la discriminación.

Por lo tanto, los procedimientos automatizados sólo deberían permitirse tras el consentimiento explícito de cada ciudadano.

Los argumentos jurídicos de nuestra propuesta son los siguientes

— El artículo 22 del RGPD, formulado como "derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado", otorga el derecho a rechazar que una decisión relativa al individuo sea sometida a un algoritmo.

— Informe de la ONU - Inteligencia artificial y privacidad, y privacidad de los niños: "... tanto el tratamiento de los datos como la decisión que se adopte como resultado de ese tratamiento entrañan riesgos potenciales para los titulares de datos.”