Förslag 22

Ett uttryckligt samtycke från varje medborgare ska krävas, innan personuppgifter lämnas vidare till automatiserade system.

Detaljerad förklaring

Enligt artikel 5-1 i dataskyddsförordningen GDPR, ska personuppgifter som behandlas vara “adekvata, relevanta och inte för omfattande i förhållande till de ändamål för vilka de behandlas (uppgiftsminimering)”.

Artificiell intelligens i 5G-nätet kommer att samla in uppgifter kontinuerligt, vilket strider mot denna princip om uppgiftsminimering.

Europeiska ekonomiska och sociala kommittén, har publicerat ett yttrande med titeln "Säker 5G-användning - EU:s verktygslåda". I punkt 4.16 anges följande:
“Den allmänna dataskyddsförordningen (GDPR) bör utökas med tydliga tillämpningsriktlinjer så att en enhetlig tillämpning och en hög skyddsnivå för data och konsumenter uppnås med tanke på möjligheten att sammankoppla maskiner och föremål, och man bör se över bestämmelserna om civilrättsligt ansvar och produktförsäkringar för att anpassa dessa till en situation där besluten i allt större utsträckning fattas av programvaran i en helt säker miljö.”

I punkt 4.18 anges följande:

“Diskussionerna om tekniska standarder är ett nödvändigt förtydligande som kommer att göra det möjligt för företag att på nytt konkurrera och bedriva denna grundläggande verksamhet, som gör det möjligt att införa avancerad teknik såsom 5G och artificiell intelligens (AI) på alla marknader.”

Olika studier har visat att artificiell intelligens faktiskt automatiskt ökar existerande diskriminering genom maskinella inlärningsprocesser. Maskinen "lär sig" enligt de val den gjort sedan tidigare, genom att systematisera dem - därför är artificiell intelligens en mäktig drivkraft som skapar och förvärrar diskriminering.

Därför bör automatiserade förfaranden endast tillåtas efter att den enskilde medborgaren lämnat sitt uttryckliga samtycke.

De rättsliga argumenten för vårt förslag är följande:

— Artikel 22 i dataskyddsförordningen GDPR, formulerad som
"rätten till mänskligt ingripande i ett automatiserat beslut", ger rätt att motsätta sig att ett beslut som rör en enskild individ ska fattas av en algoritm.

— FN-rapporten Artificiell intelligens och integritet, samt barns integritet:
"...både databehandlingen och det beslut som fattas som ett resultat av denna behandling, innebär potentiella risker för den registrerade."