KI-Gesetz: erste Regulierung der künstlichen Intelligenz

Als Teil ihrer digitalen Strategie will die EU künstliche Intelligenz (KI) regulieren, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen. KI kann viele Vorteile mit sich bringen, zum Beispiel eine bessere Gesundheitsfürsorge, einen sichereren und saubereren Verkehr, eine effizientere Fertigung sowie eine billigere und nachhaltigere Energieversorgung.
Im April 2021 hat die Kommission den ersten EU-Rechtsrahmen für KI vorgeschlagen. Darin wird empfohlen, dass KI-Systeme, die in verschiedenen Anwendungen eingesetzt werden können, je nach dem Risiko, das sie für die Nutzer darstellen, analysiert und eingestuft werden. Die verschiedenen Risikostufen unterliegen zu mehr oder weniger Regulierung. Nach ihrer Verabschiedung werden dies die weltweit ersten rechtlichen Vorschriften für KI sein.

Was das Parlament von der KI-Gesetzgebung erwartet

Das Europäische Parlament will vor allem sicherstellen, dass die in der EU eingesetzten KI-Systeme sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. KI-Systeme sollten von Menschen und nicht von der Automatisierung überwacht werden, um schädliche Ergebnisse zu verhindern.

Das Parlament möchte außerdem eine technologieneutrale, einheitliche Definition für KI festlegen, die auf zukünftige KI-Systeme angewendet werden könnte.

Gesetz über künstliche Intelligenz: ein risikobasierter Ansatz

Die neuen Vorschriften legen Verpflichtungen für Anbieter und Nutzer fest, die sich nach dem Risiko, das von dem KI-System ausgeht, richten. Obwohl viele KI-Systeme ein minimales Risiko darstellen, müssen sie bewertet werden.

Unannehmbares Risiko

KI-Systeme stellen ein unannehmbares Risiko dar, wenn sie als Bedrohung für Menschen gelten. Diese KI-Systeme werden verboten. Sie umfassen:

kognitive Verhaltensmanipulation von Personen oder bestimmten gefährdeten Gruppen, zum Beispiel sprachgesteuertes Spielzeug, das gefährliches Verhalten bei Kindern fördert;
Soziales Scoring: Klassifizierung von Menschen auf der Grundlage von Verhalten, sozioökonomischem Status und persönlichen Merkmalen;
biometrischen Echtzeit-Fernidentifizierungssystemen, zum Beispiel Gesichtserkennung.

Einige Ausnahmen können zulässig sein: So werden beispielsweise System zur nachträglichen biometrischen Fernidentifizierung, bei denen die Identifizierung erst mit erheblicher Verzögerung erfolgt, zur Verfolgung schwerer Straftaten und nur nach gerichtlicher Genehmigung zugelassen.

Hochrisiko-KI-Systeme

KI-Systeme, die ein hohes Risiko für die Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen darstellen, gelten als hochriskant und werden in zwei Hauptkategorien eingeteilt.

1. KI-Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen. Dazu gehören Spielzeug, Luftfahrt, Fahrzeuge, medizinische Geräte und Aufzüge.

2. KI-Systeme, die in acht spezifische Bereiche fallen, und die in einer EU-Datenbank registriert werden müssen:

biometrische Identifizierung und Kategorisierung von natürlichen Personen;
Verwaltung und Betrieb von kritischen Infrastrukturen;
allgemeine und berufliche Bildung;
Beschäftigung, Verwaltung der Arbeitnehmer und Zugang zur Selbstständigkeit;
Zugang zu und Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen;
Strafverfolgung;
Verwaltung von Migration, Asyl und Grenzkontrollen;
Unterstützung bei der Auslegung und Anwendung von Gesetzen.

Alle KI-Systeme mit hohem Risiko werden vor dem Inverkehrbringen und während ihres gesamten Lebenszyklus bewertet.

Generative KI

Generative Foundation-Modelle wie ChatGPT müssten zusätzliche Transparenzanforderungen erfüllen:

Offenlegung, dass der Inhalt durch KI generiert wurde;
Gestaltung des Modells, um zu verhindern, dass es illegale Inhalte erzeugt;
Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für das Training verwendet wurden.

Begrenztes Risiko

KI-Systeme mit begrenztem Risiko sollten minimale Transparenzanforderungen erfüllen, die es den Nutzern ermöglichen, fundierte Entscheidungen zu treffen. Nach der Interaktion mit den Anwendungen kann der Nutzer dann entscheiden, ob er sie weiter verwenden möchte. Die Nutzer sollten darauf aufmerksam gemacht werden, wenn sie mit KI interagieren. Dies gilt auch für KI-Systeme, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren (zum Beispiel Deepfakes).

Nächste Schritte

Am 14. Juni 2023 haben die Abgeordneten ihre Verhandlungsposition zum Gesetz über künstliche Intelligenz angenommen. Nun beginnen die Gespräche mit den EU-Mitgliedstaaten im Rat über die endgültige Ausgestaltung des Gesetzes.

Ziel ist es, bis Ende des Jahres eine Einigung zu erzielen.