Voorstel 22
Vraag de expliciete toestemming van elke burger om zijn of haar gegevens aan eender welke geautomatiseerde procedure te kunnen onderwerpen.
Toelichting
Volgens artikel 5-1 van de GDPR moeten de verzamelde persoonlijke gegevens "toereikend, ter zake dienend en beperkt blijven tot hetgeen noodzakelijk is voor de verwezenlijking van de doeleinden waarvoor zij worden verzameld".
De kunstmatige intelligentie van het 5G-netwerk zal voortdurend gegevens verzamelen, wat indruist tegen dit beginsel van gegevens-minimalisering.
Het Europees Economisch en Sociaal Comité heeft een advies uitgebracht met de titel "Veilige uitrol van 5G - EU-toolbox". In paragraaf 4.16 staat:
"De algemene verordening gegevensbescherming (GDPR) moet worden aangevuld met duidelijke uitvoeringsrichtlijnen om een consistente uitvoering en een hoog niveau van gegevens- en consumentenbescherming te bereiken met het oog op de onderlinge verbondenheid van machines en objecten, en de regels inzake wettelijke aansprakelijkheid en productverzekering moeten worden herzien om rekening te houden met een situatie waarin beslissingen steeds vaker worden genomen door software in een volledig afgeschermde omgeving."
In paragraaf 4.18 staat:
"Gesprekken over technische normen zijn een noodzakelijke verduidelijking waardoor bedrijven weer kunnen concurreren en deze belangrijke activiteiten kunnen uitvoeren om geavanceerde technologieën zoals 5G en kunstmatige intelligentie (AI) op alle markten te implementeren."
Verschillende studies hebben aangetoond dat kunstmatige intelligentie in feite automatisch eerdere discriminatie in machineleerprocessen reproduceert. De machine "leert" op basis van de keuzes die zij reeds in het verleden heeft gemaakt door deze te systematiseren - kunstmatige intelligentie is dus een krachtige motor die discriminatie reproduceert en verergert.
Daarom zouden geautomatiseerde procedures alleen mogen worden toegestaan na uitdrukkelijke toestemming van elke individuele burger.
De juridische argumenten voor ons voorstel zijn:
— Artikel 22 van de GDPR, dat is geformuleerd als een "recht op menselijke tussenkomst bij een geautomatiseerd besluit", geeft het recht te weigeren dat een besluit over de individu aan een algoritme wordt onderworpen.
— VN-rapport - Kunstmatige intelligentie en privacy en de privacy van kinderen: "... zowel de gegevensverwerking als het besluit dat als gevolg van die verwerking wordt genomen, houdt potentiële risico's in voor de betrokkene."
(Bijgewerkt in augustus 2022: Staten zouden een moratorium moeten instellen op de verkoop en het gebruik van kunstmatige intelligentiesystemen totdat er voldoende waarborgen zijn ingebouwd, zei Michelle Bachelet, hoofd mensenrechten van de VN, in 2021. Zij uitte haar bezorgdheid over het "ongekende niveau van toezicht over de hele wereld door overheid en particuliere partijen", dat volgens haar "onverenigbaar" is met de mensenrechten. De Pegasus-spionagesoftware die door de NSO-groep op de markt werd gebracht, trof duizenden mensen in 45 landen op vier continenten).
(Bijgewerkt in januari 2023: Open brief ondertekend door 14 organisaties van over de hele wereld werd gestuurd naar de regeringen en parlementen in de hele wereld met het dringende verzoek om wetgeving te creëren ter bescherming van het menselijk brein en lichaam tegen aanvallen van neurotechnologieën.
"Zodra we algoritmen hebben die ons beter kunnen begrijpen dan wijzelf, kunnen ze onze verlangens voorspellen, onze gevoelens manipuleren en zelfs namens ons beslissingen nemen. En als we niet oppassen, kan het resultaat de opkomst van digitale dictaturen betekenen" Juval Noach Harari, World Economic Forum in Davos, 2018
Brief beschikbaar in het Duits https://schutzschild-ev.de/offener-brief-zur-schaffung-von-rechtsvorschriften-zum-schutz-vor-angriffen-durch-neurotechnologien/
en in het Engels https://schutzschild-ev.de/wp-content/uploads/2022/06/Open-letter-to-create-legislation-to-protect-against-attacks-by-neurotechnologies.pdf
)
