Gesetzesentwurf EU will Künstliche Intelligenz zähmen

Stand: 21.04.2021 17:24 Uhr

Die EU-Kommission hat einen Gesetzentwurf zum Umgang mit Künstlicher Intelligenz vorgestellt. Dabei geht es vor allem um die Regulierung von KI-Anwendungen, die mit Risiken für den Menschen verbunden sind.

Von Matthias Reiche, ARD-Studio Brüssel

Das Potenzial Künstlicher Intelligenz, kurz: KI, ist groß. Ebenso wie die mit der KI verbundenen Risiken. Die EU-Kommission wolle deshalb mit klaren Regeln Vertrauen schaffen, sagt Vizepräsidentin Margrethe Vestager. "Unser Vorschlag beschäftigt sich deshalb nicht mit der KI selbst, sondern mit ihren Anwendungen." Die EU-Kommission habe dabei einen verhältnismäßigen und risikobasierten Ansatz nach einer simplen Logik gewählt: "Je höher das Risiko einer spezifischen Nutzungsart der KI, desto strenger die Regeln."

Vier Kategorien von "Gefahrenpotenzial"

Auf dieser Grundlage habe Brüssel vier Kategorien aufgestellt, in die sich die einzelnen Anwendungen einordnen lassen. Die meisten KI-Systeme fallen dabei nach Meinung der EU-Kommission in die Kategorien "kleines" oder "gar kein" Risiko wie zum Beispiel Videospiele oder Filter für Spamnachrichten. Hier sieht der Gesetzentwurf keine Regelungen vor. Allerdings soll auch bei den harmloseren Anwendungen immer völlig klar sein, wenn man es beispielsweise in einer Telefonhotline mit einer Künstlichen Intelligenz zu tun hat.

Ganz besonders wachsam aber müsse man bei den sogenannten Hochrisikoanwendungen sein, erklärt Kommissionsvizepräsidentin Vestager: "Zum Beispiel geht es hier um KI, die genutzt wird, um Bewerbungen für die Universität oder einen Job auszuwählen. Es kann auch um Systeme gehen, die die Kreditwürdigkeit von jemanden bewerten. Oder eine Software, die genutzt wird in selbstfahrenden Autos oder in Medizinprodukten, was auch Risiken für unsere Sicherheit bringen könnte."

In diesen Fällen müssen die jeweiligen Anbieter garantieren, dass ihr Produkt regelkonform ist. So soll es eine genaue Dokumentation für Entwicklung und Nutzung solcher Systeme geben, ebenso wie eine exakte Kontrolle der verwendeten Daten. Gänzlich verboten ist die Anwendung Künstlicher Intelligenz bei der generalisierten Überwachung oder Manipulation der Bevölkerung, ebenso wie das so genannte Social Scoring, bei dem Menschen aufgrund ihres sozialen Verhaltens bewertet werden.

Biometrie nur unzureichend geregelt?

Die FDP-Politikerin Nicola Beer ist trotzdem nicht wirklich zufrieden mit dem Papier. Denn darin fehle das klare Verbot von Gesichtserkennung im öffentlichen Raum, wie die Vizepräsidentin des EU-Parlaments kritisiert: "Der derzeitige Entwurf würde eine Massenüberwachung mit Hilfe biometrischer KI-Algorithmen ermöglichen. Hier wird meines Erachtens eine rote Linie überschritten. Dies dürfen wir nicht zulassen."

Patrick Breyer, der für die Piratenpartei im EU-Parlament sitzt, sieht das ähnlich: Das neue KI-Gesetz könne von den EU-Ländern beispielsweise bei der Strafverfolgung auch so ausgelegt werden, dass es die biometrische Massenüberwachung dort ermöglicht, wo sie heute rechtswidrig ist. "Dass die Kommission ausgerechnet Massenüberwachung unserer Telekommunikation und biometrische Massenüberwachung weithin ermöglichen will, das ist völlig inakzeptabel."

Dem Entwurf muss noch im EU-Parlament und im Rat der Mitgliedstaaten zugestimmt werden. Bis zu zwei Jahre kann dieser Gesetzgebungsprozess dauern.

Über dieses Thema berichtete Deutschlandfunk am 21. April 2021 um 17:00 Uhr.

Darstellung: