Die EU hat sich auf das weltweit erste Gesetz zur Regulierung künstlicher Intelligenz geeinigt. Dieser Einigung ging ein zweieinhalb Jahre andauerndes Ringen voraus. Nun steht ein rechtlicher Rahmen für Regulierung, Entwicklung und den Einsatz von KI.
Eine große Herausforderung bei der Gesetzgebung war es, angemessene Regulierungen für eine Technologiesparte zu finden, die sich sehr schnell weiterentwickelt. Gerade bei der besonders leistungsfähigen, generativen KI sind die zu erwartenden Entwicklungssprünge noch nicht absehbar. Daneben galt es, sowohl Grundrechte zu schützen als auch Sicherheitsanliegen zu befriedigen und die Europäische Union als attraktiven Technologie-Standort zu erhalten.
Im Prozess der Gesetzgebung gab es Druck von vielen Seiten – u.a. von Unternehmen und Lobbyisten – gegen die geplanten Regulierungen bei generativen KI-Modellen. Es gab Befürchtungen, die EU könne sich dadurch selbst einschränken und internationale Tech-Unternehmen verschrecken. Sogar die Deutsche Bundesregierung hatte sich zuletzt gegen Regulierungen ausgesprochen. Doch letzten Endes wogen der Datenschutz und die Wahrung der individuellen Grundrechte mehr. Man bedenke, dass Künstliche Intelligenz generell auch das Potenzial zur Massenüberwachung in sich birgt: Abschreckendes Beispiel ist China mit seinem “social scoring”-System. Hier können Bürgerinnen und Bürger mithilfe von intelligenter Gesichtserkennung lückenlos überwacht und sanktioniert werden.
Stimmen zum KI-Gesetz der EU
Mit dem Gesetz sind die meisten Parlamentarier zufrieden und überzeugt, einen Kompromiss erzielt zu haben, der gut für die EU-Bürgerinnen und Bürger ist und Vertrauen in KI-Modelle sicherstellen wird.
“Unter dem Strich ist es ein gutes Gesetz, das auf die Herausforderungen unserer Zeiten sehr gut reagiert und die dringendsten Fragen beantwortet.”
Sergey Lagodinsky, EU-Abgeordneter der Grünen
Daneben gibt es auch vereinzelt Stimmen, denen die Pläne entweder zu weit oder nicht weit genug gehen z.B. beim Schutz vor Massenüberwachung. Beschwerden gab es auch über die geplanten aufwändigen Auflagen für Unternehmen. Die neue Rechtssicherheit beim Einsatz von künstlicher Intelligenz wurde hingegen begrüßt.
KI-Regulierung nach Risikoklassen
Mit dem EU-Gesetz wurden nun Regulierungen für KI anhand von zwei Risikoklassen geschaffen. Besonders leistungsfähige KI soll demnach auch stärker reguliert werden und höhere Auflagen erfüllen müssen. Das betrifft bspw. Bestimmungen zur Dokumentation von Trainingsdaten. Zudem wurde beschlossen, dass künftig eine neue EU-Behörde die Entwicklung von Künstlicher Intelligenz überwachen soll. In ihren Zuständigkeitsbereich soll auch fallen, die Technologieentwicklung zu beobachten und gegebenenfalls notwendige Reformen der Gesetzgebung anzuregen.
KI-Einsatz zur Überwachung?
Was den Einsatz von KI zur flächendeckenden Überwachung und/oder Strafverfolgung angeht, gab es im Vorfeld wohl die größten Kontroversen. Hier erlaubt das EU-Gesetz nun unter bestimmten, eng gesteckten Bedingungen die biometrische Identifizierung von Einzelpersonen. Damit das nicht missbraucht wird, hat das EU-Parlament entsprechende rechtliche Hürden eingebaut. Erlaubt ist die Identifizierung daher nur ganz gezielt bei gesuchten Verdächtigen in Fällen von schweren Straftaten. Ebenfalls erlaubt soll sein, Vermisste oder Opfer von schweren Straften zu suchen. Der EU-Abgeordnete der Piratenpartei sieht hier dennoch die Gefahr von Massenüberwachung gegeben und befürchtet, die Regelung könne ausgenutzt werden.
Kategorisch verboten wird hingegen der Einsatz von KI-Systemen, die Personen biometrisch kategorisieren und sensible personenbezogene Merkmale wie die sexuelle Orientierung oder religiöse Überzeugungen verwenden. Die Strafverfolgungsbehörden dürfen auch nicht einfach so flächendeckend Bilder aus dem Internet und aus Überwachungskameras scannen und für Gesichtserkennungsdatenbanken nutzen.
Die EU hat damit den ersten Schritt getan. Weitere Gesetze für die Entwicklung und den Einsatz von KI sind weltweit zu erwarten. Um aktuell noch bestehende rechtliche Unsicherheiten zu beseitigen und die positiven Potenziale von KI voll ausschöpfen zu können, sind diese auch unvermeidlich. Wir bleiben für euch dran und werden weiter berichten.
Quelle: tagesschau.de
