Návrh 22

Vyžadovat, aby by byl od každého občana získán jednoznačný souhlas než by jeho údaje mohly být podrobeny jakékoli automatizované proceduře.

Detailed explanation

Podle článku 5-1 GDPR musí být zpracování osobních údajů „přiměřené a omezené jen na to, co je nezbytné pro účely, pro které jsou zpracovávány“.

Umělá inteligence v síti 5G bude nepřetržitě shromažďovat data, což je v rozporu se zásadou minimalizace dat.

The European Economic and Social Committee has published the Opinion called Secure 5G deployment– EU toolbox. Point 4.16 states:
"The General Data Protection Regulation (GDPR) should be supplemented with clear implementation guidelines in order to achieve uniform implementation and a high level of data and consumer protection in view of the interconnectivity of machines and objects, and the rules on civil liability and product insurance should be revised to cater for a situation where decisions will increasingly be taken by software in a fully secure environment."

In the point 4.18 is stated:
"The conversations on technical standards are a necessary clarification that will allow companies to compete once again and to carry out these key activities in order to implement advanced technologies such as 5G and artificial intelligence (AI) in all markets."

Různé studie Různé studie prokázaly, že umělá inteligence ve skutečnosti automaticky opakuje předchozí diskriminaci v procesech strojového učení. Stroj se "učí" podle rozhodnutí, která již v minulosti učinil, tím, že je systematizuje - umělá inteligence je tedy výkonným mechanismem pro reprodukování a prohlubování diskriminace.

Automatizované postupy by proto měly být povoleny pouze po výslovném souhlasu každého jednotlivého občana.

Právní argumenty pro náš návrh jsou následující:

— Article 22 of the GDPR, formulated as the "right to human intervention in an automated decision", gives the right to refuse that a decision concerning the individual be subjected to an algorithm.

— UN report - Artificial intelligence and privacy, and children’s privacy:
"...both the data processing and the decision made as a result of that processing have potential risks for the data subject."