Anzeige

KI-Gesetz: EP-Ausschüsse stimmen für erste Regeln für Künstliche Intelligenz

Um eine menschenzentrierte und ethische Entwicklung der Künstlichen Intelligenz (KI) zu garantieren, haben die federführenden Ausschüsse des Europäischen Parlaments neue Transparenz- und Risikomanagementregeln für KI-Systeme gebilligt.

Am Donnerstag (11. Mai 2023) haben der Binnenmarktausschuss und der Ausschuss für bürgerliche Freiheiten in Straßburg den Entwurf eines Verhandlungsmandats für die ersten Regeln für Künstliche Intelligenz mit 84 Ja-Stimmen, sieben Nein-Stimmen und zwölf Enthaltungen angenommen.

In ihren Änderungsanträgen zum Kommissionsvorschlag wollen die Europaabgeordneten sicherstellen, dass KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Außerdem wollen sie eine einheitliche und technologieneutrale KI-Definition, sodass sie für die KI-Systeme von heute und morgen gelten kann.

Risikobasierter Ansatz für KI – Verbotene KI-Praktiken

Die Vorschriften folgen einem risikobasierten Ansatz und legen Verpflichtungen für Anbieter und Nutzerinnen und Nutzer fest, die sich nach dem Grad des Risikos richten, das die KI erzeugen kann. KI-Systeme, die ein inakzeptables Risiko für die Sicherheit von Menschen darstellen, wären strengstens verboten. Dazu gehören Systeme, die unterschwellige oder absichtlich manipulative Techniken einsetzen, die Schwachstellen von Menschen ausnutzen oder für Social Scoring (Klassifizierung von Menschen auf der Grundlage ihres Sozialverhaltens, ihres sozioökonomischen Status oder persönlicher Merkmale) verwendet werden.

Die Abgeordneten änderten die Liste erheblich, um Verbote für aufdringliche und diskriminierende Anwendungen von KI-Systemen aufzunehmen, wie etwa:

  • biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
  • biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
  • biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
  • prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
  • Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und
  • wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).

Hochriskante AI

Die Abgeordneten haben die Klassifizierung der Hochrisikobereiche um die Bereiche Gesundheit, Sicherheit, Grundrechte und Umwelt erweitert. Sie fügten auch KI-Systeme zur Beeinflussung von Wählerinnen und Wählern in politischen Kampagnen und in Empfehlungssystemen, die von Social-Media-Plattformen (mit mehr als 45 Millionen Nutzern gemäß dem Gesetz über digitale Dienste) verwendet werden, der Liste der Hochrisikobereiche hinzu.

KI für allgemeine Zwecke – Transparenzmaßnahmen

Die Abgeordneten haben Verpflichtungen für Anbieter von Foundation-Modellen – ein neuer und sich rasch entwickelnder Bereich der KI – aufgenommen, die einen soliden Schutz der Grundrechte, der Gesundheit und Sicherheit sowie der Umwelt, der Demokratie und der Rechtsstaatlichkeit gewährleisten müssen. Sie müssten Risiken bewerten und abmildern, Auslegungs-, Informations- und Umweltanforderungen einhalten und sich in der EU-Datenbank registrieren lassen.

Generative Foundation-Modelle wie GPT müssten zusätzliche Transparenzanforderungen erfüllen und beispielsweise offenlegen, dass die Inhalte durch KI generiert wurden. Auch müssten Modell so konzipieren sein, dass es keine illegalen Inhalte generiert und keine Zusammenfassungen urheberrechtlich geschützter Daten veröffentlichen werden.

Förderung von Innovation und Schutz der Rechte der Bürger

Um KI-Innovation zu fördern, haben die Abgeordneten Ausnahmen für Forschungstätigkeiten und KI-Komponenten unter Open-Source-Lizenzen in die Vorschriften aufgenommen. Das neue Gesetz fördert Reallabore (regulatory sandboxes) oder kontrollierte Umgebungen, die von öffentlichen Behörden eingerichtet werden, um KI vor ihrem Einsatz zu testen.

Die Abgeordneten wollen das Recht der Bürgerinnen und Bürger stärken, Beschwerden über KI-Systeme einzureichen und Erklärungen zu Entscheidungen zu erhalten, die auf risikoreichen KI-Systemen basieren und ihre Rechte erheblich beeinträchtigen. Die Abgeordneten haben auch die Rolle des EU-Amtes für künstliche Intelligenz neugefasst, das mit der Überwachung der Umsetzung des KI-Regelwerks betraut werden soll.

„Eine bahnbrechende Gesetzgebung, die den Herausforderungen der Zeit standhalten muss“

Nach der Abstimmung sagte der Ko-Berichterstatter Brando Benifei (S&D, Italien): „Wir stehen kurz davor, eine bahnbrechende Gesetzgebung auf den Weg zu bringen, die den Herausforderungen der Zeit standhalten muss. Es ist von entscheidender Bedeutung, das Vertrauen der Bürger in die Entwicklung der KI zu stärken, den europäischen Weg für den Umgang mit den außerordentlichen Veränderungen, die bereits stattfinden, festzulegen und die politische Debatte über KI auf globaler Ebene zu lenken. Wir sind zuversichtlich, dass unser Text ein Gleichgewicht zwischen dem Schutz der Grundrechte und der Notwendigkeit herstellt, den Unternehmen Rechtssicherheit zu bieten und die Innovation in Europa zu fördern.“

Mitberichterstatter Dragos Tudorache (Renew, Rumänien) sagte: „Angesichts der tiefgreifenden Auswirkungen, die KI auf unsere Gesellschaften und Volkswirtschaften haben wird, ist das KI-Gesetz wahrscheinlich der wichtigste Rechtsakt in diesem Mandat. Es ist die erste Rechtsvorschrift dieser Art weltweit, was bedeutet, dass die EU eine Vorreiterrolle dabei spielen kann, KI menschenzentriert, vertrauenswürdig und sicher zu machen. Wir haben uns dafür eingesetzt, die KI-Innovation in Europa zu unterstützen und Start-ups, KMU und der Industrie Raum für Wachstum und Innovation zu geben und gleichzeitig die Grundrechte zu schützen, die demokratische Kontrolle zu stärken und ein ausgereiftes System der KI-Governance und -Durchsetzung zu gewährleisten.“

Nächste Schritte

Bevor die Verhandlungen mit dem Rat über die endgültige Form des Gesetzes beginnen können, muss der Entwurf des Verhandlungsmandats vom gesamten Parlament gebilligt werden; die Abstimmung wird für die Sitzung vom 12. bis 15. Juni erwartet.

Quelle: Europäisches Parlament

KÖNNTE SIE AUCH INTERESSIEREN

Schlagzeilen

Anzeige

Fachmagazin EU-Recycling

Translation