Für den Einsatz von künstlicher Intelligenz (KI) sollen in der EU künftig strengere Regeln gelten. Unterhändler:innen von Europa-Parlament und EU-Staaten verständigten sich vergangene Woche in Brüssel nach langen Verhandlungen auf den „AI Act“, das erste umfassende KI-Gesetz der Welt.
Die Regeln sollen unter anderem die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen, dass bei der KI-Entwicklung keine Urheberrechte verletzt werden.
Außerdem müssen Entwickler:innen klar kenntlich machen, dass durch KI geschaffene Texte, Bilder und Töne auf dieser Technologie beruhen. Verschärfte Vorgaben soll es für „risikoreiche“ Anwendungen geben, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und Personalverwaltung. Dort sollen eine Kontrolle durch den Menschen über KI, eine technische Dokumentation und ein System zum Risikomanagement festgeschrieben werden.
Die wichtigsten Punkte der vorläufigen Einigung im Überblick
Im Vergleich zum ursprünglichen Kommissionsvorschlag lassen sich die wichtigsten neuen Elemente der vorläufigen Einigung wie folgt zusammenfassen:
- Regeln für KI-Modelle mit großen Auswirkungen, die in Zukunft Systemrisiken verursachen können, sowie für KI-Systeme mit hohem Risiko
- ein überarbeitetes System der Governance mit einigen Durchsetzungsbefugnissen auf EU-Ebene
- Ausweitung der Liste der Verbote, jedoch mit der Möglichkeit der biometrischen Fernidentifizierung durch Strafverfolgungsbehörden im öffentlichen Raum, vorbehaltlich der Einhaltung von Schutzmaßnahmen
- besserer Schutz der Rechte durch die Verpflichtung der Betreiber:innen von KI-Systemen mit hohem Risiko, vor der Inbetriebnahme eines KI-Systems eine Folgenabschätzung für die Grundrechte durchzuführen
EU-Kommissionschefin Ursula von der Leyen feiert die Einigung auf den „AI Act“ als historisch. Bürgerrechtler:innen, Verbraucherschützer:innen und die IT-Branche sehen es anders. Die Absprachen sähen zwar im Prinzip ein Verbot der biometrischen Gesichtserkennung im öffentlichen Raum in Echtzeit vor, erläutert die Initiative European Digital Rights (EDRi). Dieses enthalte aber mehreren Ausnahmen, etwa für die Suche nach bestimmten Opfern, Verdächtigen und zur Verhinderung von Terroranschlägen. Obwohl diese Bedingungen enger seien, als von den Regierungsvertretern gefordert, „eröffnen sie dennoch die Möglichkeit, diese Systeme auf gefährliche, diskriminierende Weise und für Massenüberwachung zu nutzen“.
Quellen: consilium.europa.eu, tagesschau.de, heise.de