Antrag 22

Sorgen Sie dafür, dass die ausdrückliche Zustimmung jedes Bürgers verlangt werden muss, damit Daten von Bürgern einem automatisierten Verfahren unterzogen werden können.

Ausführliche Erklärung

Gemäß Artikel 5-1 des GDPR müssen die verarbeiteten personenbezogenen Daten "für die Zwecke, für die sie verarbeitet werden, erheblich und auf das erforderliche Maß beschränkt sein".

Die künstliche Intelligenz des 5G-Netzes wird kontinuierlich Daten sammeln, was diesem Grundsatz der Datenminimierung zuwiderläuft.

Der Europäische Wirtschafts- und Sozialausschuss hat eine Stellungnahme mit dem Titel "Sichere 5G-Einführung - EU-Toolbox" veröffentlicht. In Ziffer 4.16 heißt es:
„Der General Data Protection Regulation (GDPR) sollte durch klare Umsetzungsleitlinien ergänzt werden, um angesichts der Vernetzung von Maschinen und Gegenständen eine einheitliche Umsetzung und ein hohes Niveau des Daten- und Verbraucherschutzes zu erreichen, und die Vorschriften über die zivilrechtliche Haftung und die Produktversicherung sollten überarbeitet werden, um einer Situation Rechnung zu tragen, in der Entscheidungen zunehmend von Software in einer vollständig sicheren Umgebung getroffen werden."

In Ziffer 4.18 wird festgestellt:
"Die Gespräche über technische Standards sind eine notwendige Klarstellung, die es den Unternehmen ermöglichen wird, wieder wettbewerbsfähig zu werden und diese Schlüsselaktivitäten durchzuführen, um fortschrittliche Technologien wie 5G und künstliche Intelligenz (KI) auf allen Märkten zu implementieren."

Verschiedene Studien haben gezeigt, dass künstliche Intelligenz bei maschinellen Lernprozessen tatsächlich automatisch vorherige Unterscheidungen reproduziert. Die Maschine "lernt" anhand der Entscheidungen, die sie in der Vergangenheit bereits getroffen hat, indem sie diese systematisiert - daher ist künstliche Intelligenz ein mächtiger Motor zur Reproduktion und Verschärfung von Diskriminierung.

Deshalb sollten automatisierte Verfahren nur nach ausdrücklicher Zustimmung jedes einzelnen Bürgers erlaubt sein.

Die rechtlichen Argumente für unseren Vorschlag sind:

- Artikel 22 des GDPR, formuliert als "Recht auf menschliches Eingreifen in eine automatisierte Entscheidung", gibt das Recht zu verweigern, dass eine Entscheidung, die den Einzelnen betrifft, einem Algorithmus unterworfen wird.

- UN-Bericht - Künstliche Intelligenz und Privatsphäre sowie die Privatsphäre von Kindern: "... sowohl die Datenverarbeitung als auch die als Ergebnis dieser Verarbeitung getroffene Entscheidung bergen potenzielle Risiken für die betroffene Person."

(Aktualisiert im August 2022: Staaten sollten ein Moratorium für den Verkauf und die Nutzung von Systemen der künstlichen Intelligenz verhängen, bis angemessene Sicherheitsvorkehrungen getroffen sind, sagte die UN-Menschenrechtsbeauftragte Michelle Bachelet im Jahr 2021. Sie äußerte sich besorgt über das "noch nie dagewesene Ausmaß der weltweiten Überwachung durch staatliche und private Akteure", das mit den Menschenrechten "unvereinbar" sei. Die von der NSO-Gruppe vertriebene Spionagesoftware Pegasus betraf Tausende von Menschen in 45 Ländern auf vier Kontinenten.)