11.05.2023

"Schutz von Grundrechten in den Mittelpunkt stellen"

Position zur Regulierung Künstlicher Intelligenz abgestimmt

Die Ausschüsse für Inneres, Binnenmarkt und Verbraucherschutz haben ihre Position zum AI Act festgelegt. Diese Verordnung wäre das erste ausschließliche Gesetz zur Regulierung von Künstlicher Intelligenz, das somit weltweit zum Vorbild werden könnte. Demnach sollen KI-Systeme in Risikokategorien unterteilt werden. KI-Systeme mit nicht vertretbaren Risiken werden verboten. Die Nutzung von KI-Systemen mit hohen oder niedrigen Risiken, werden durch Transparenzpflichten zum Schutz der Grundrechte begrenzt.

Birgit Sippel, innenpolitische Sprecherin der S&D-Fraktion:
„Ein menschenzentrierter Ansatz muss von der Entwicklung bis zum Einsatz von KI stets im Fokus stehen. KI soll den Menschen dienen und sie weder überwachen, manipulieren, analysieren noch über sie richten. Wo immer Menschen durch eine KI-Entscheidung direkt betroffen sind, etwa bei der Vergabe eines Kredites, muss diese von Menschen kontrolliert und ggf. auch geändert werden können.

Insbesondere im Bereich der Strafverfolgung sowie der Migrations- und Grenzkontrollpolitik gibt es Interesse an der Verwendung von Systemen zur biometrischen Verhaltensanalyse mithilfe von KI-Systemen. Gerade diese Bereiche beruhen bereits auf einem unausgewogenen Machtverhältnis. Wir dürfen nicht zulassen, dass durch den Einsatz von KI-Systemen eine Kultur des Verdachts gegen Personen automatisiert und normalisiert wird. Das EU-Parlament muss hier eine starke Position einnehmen und Grundrechte in den Mittelpunkt stellen.

Der Einsatz von KI kann mit demokratischen Grundregeln nur dann erfolgreich und breit akzeptiert werden, wenn größtmögliche Transparenz und Verständlichkeit über den Einsatz von KI-Systemen sichergestellt sind. Aus diesem Grund müssen wir den Bias aus den Trainings- und Testdaten ausradieren, damit Algorithmen bestehende gesellschaftliche Diskriminierungsstrukturen nicht verschärfen und zementieren.

Damit die KI-Verordnung zum umfassendsten Schutz der Grundrechte führt, muss die wirksame Durchsetzung durch das Schließen von Rechtsschutzlücken und Schlupflöchern garantiert werden."

René Repasi, binnenmarkt- und verbraucherschutzpolitischer Sprecher der Europa-SPD:
"KI dringt mit rasender Geschwindigkeit in immer neue Lebensbereiche vor. Um das enorme Potential dieser Entwicklung nutzbar machen zu können, bedarf es flexibler Regulierung. Die einheitliche Anwendung in ganz Europa mit einer breiten Definition und scharfen Anwendungsverboten wird die Wettbewerbsfähigkeit der europäischen Wirtschaft stärken.

Wir müssen sicherstellen, dass KI-Anwendungen keinesfalls gegen Bürgerinnen und Bürger verwendet werden. Deswegen ist unabdingbar, dass Unternehmen Gewerkschaften vor Anwendung hochriskanter KI-Systeme am Arbeitsplatz miteinbeziehen, um Sicherheit und Wohlbefinden von Arbeitnehmer*innen sicherzustellen.

Auch Verbraucher*innen müssen in besonderem Ausmaße vor missbräuchlichen Verwendung von KI-Anwendungen, beispielsweise bei bei Versicherungen und Banken, geschützt werden. Die Vergabe von Krediten an Privatpersonen darf zum Beispiel nicht alleine einer KI zu überlassen werden.

Nur durch wirksame Regulierung können Risiken für Arbeitnehmer*innen sowie Verbraucher*innen eingedämmt und das volle Potential künstlicher Intelligenz ausgeschöpft werden."

Die sozialdemokratische Fraktion hat sich zum Beispiel dafür eingesetzt, vorausschauende Polizeiarbeit, biometrische Überwachung und den Einsatz biometrischer Daten für Emotionserkennung zu verbieten. Außerdem wurde die Rolle der unabhängigen Datenschutzbehörden gestärkt und eine verpflichtende Folgenabschätzung für die Auswirkungen auf die Grundrechte eingeführt. Die Verpflichtung zur Anhörung von Gewerkschaften vor dem Einsatz von KI am Arbeitsplatz wurde verankert. Auch der kollektive Rechtsschutz, das Recht auf Einreichung einer Beschwerde sowie der Schutz von Whistleblowern zählen zu den zentralen Eckpfeilern der sozialdemokratischen Errungenschaften.

Nach der Annahme in den federführenden Ausschüssen wird das Plenum voraussichtlich am Mittwoch, 14. Juni 2023 über die Parlamentsposition zu der Verordnung abstimmen. Im Anschluss können die Verhandlungen mit dem Rat beginnen.