Návrh 22

Požadovať od každého občana výslovný súhlas s tým, aby sa jeho údaje mohli podrobiť akémukoľvek automatizovanému spracovaniu.

Podrobné vysvetlenie

Podľa článku 5-1 GDPR musia byť spracúvané osobné údaje „relevantné a obmedzené na to, čo je nevyhnutné na účely, na ktoré sa spracúvajú“.

Umelá inteligencia v 5G sieti bude zbierať dáta nepretržite, čo je v rozpore s týmto princípom minimalizácie dát.

Európsky hospodársky a sociálny výbor zverejnil stanovisko s názvom Bezpečné nasadenie 5G – súbor nástrojov EÚ. V bode 4.16 sa uvádza: „Všeobecné nariadenie o ochrane údajov (GDPR) by malo byť doplnené o jasné implementačné usmernenia, aby sa dosiahla jednotná implementácia a vysoká úroveň ochrany údajov s ohľadom na vzájomnú prepojenosť strojov a predmetov, ako aj pravidlá civilného poistenia zodpovednosti a produktov by sa malo prehodnotiť tak, aby vyhovovalo situácii, keď sa rozhodnutia budú čoraz viac prijímať pomocou softvéru v plne bezpečnom prostredí.“

V bode 4.18 sa uvádza: „Rozhovory o technických normách sú nevyhnutným objasnením, ktoré spoločnostiam umožní opäť súťažiť a vykonávať tieto kľúčové činnosti s cieľom implementovať pokročilé technológie, ako sú 5G a umelá inteligencia (AI) na všetkých trhoch."

Rôzne štúdie ukázali, že umelá inteligencia v skutočnosti automaticky reprodukuje predchádzajúcu diskrimináciu v procesoch strojového učenia. Stroj sa „učí“ podľa rozhodnutí, ktoré už urobil v minulosti, ich systematizáciou – umelá inteligencia je preto výkonným motorom na reprodukciu a zosilnenie diskriminácie.

Automatizované postupy by preto mali byť povolené len po výslovnom súhlase každého jednotlivého občana.

Právne argumenty pre náš návrh sú:

— Článok 22 GDPR, formulovaný ako „právo na ľudský zásah pri automatizovanom rozhodovaní“, dáva právo odmietnuť, aby rozhodnutie týkajúce sa jednotlivca podliehalo algoritmu.

— Správa OSN – Umelá inteligencia a súkromie a súkromie detí: „...tak spracovanie údajov, ako aj rozhodnutia prijaté v dôsledku tohto spracovania predstavujú potenciálne riziká pre dotknutú osobu.“