Das Europaparlament verabschiedete diese Woche das weltweit erste KI-Gesetz (AI Act). Ganz deutlich wurde hier das Bestreben, nicht den Fehler der Vergangenheit zu wiederholen und neue Technologien so lange unreguliert zu lassen, bis es zu spät ist. Schon gar nicht bei einer Zukunftstechnologie, die sich so rasant und unvorhersehbar entwickelt, wie die künstliche Intelligenz. Deshalb ist das KI-Gesetz der EU als historisch zu bezeichnen, doch es kann nur ein erster Schritt in die richtige Richtung sein.
Quelle: DALL-E 3 prompted by Flutlicht GmbH
Künstliche Intelligenz wird in so gut wie allen Lebensbereichen eine signifikante Rolle spielen oder tut dies bereits. Als erster Kontinent stellt Europa nun dafür Regeln auf und begibt sich dabei auf teilweise unbekanntes Terrain. Das Gesetz hat zum Ziel, die Nutzung von KI in der Europäischen Union sicherer zu machen. Ein wesentlicher Punkt dabei: KI-Systeme sollen in erster Linie von Menschen überwacht werden und nicht von anderen Technologien.
Die Grundsatzfrage: Wie viel Regulierung verträgt eine Technologie, die einerseits unerhörtes Potential für Optimierungen in allen möglichen gesellschaftlichen Bereichen hat, andererseits aber auch massive Missbrauchsgefahren birgt?
Quelle: pixabay
Risikoklassen
Die Gesetzgeber einigten sich hier auf Risikoklassen für Unternehmen, Organisationen und Geschäftsmodelle. Je höher das Risiko, desto höher die Auflagen bezüglich Analyse, Dokumentation und Transparenz.
- Hohes Risiko: kritische Infrastruktur, Bildung, Öffentliche Dienstleistungen, Strafverfolgung, Justiz, etc.
- Begrenztes Risiko: Chatbots, KI-Tools zur Text-, Bild-, Videoerstellung etc.
- Minimales Risiko: Videospiele, Spamfilter etc.
Darüber hinaus gibt es eine Klasse mit inakzeptablem Risiko, wie Social-Scoring- oder bestimmte biometrische Identifizierungssysteme, die per KI-Gesetz der EU künftig verboten sind.
Hier setzt allerdings einer der heftigsten Kritikpunkte an der Gesetzgebung an: biometrische Überwachungssysteme wurden so gut wie keinen Einschränkungen unterworfen. Viele Menschenrechtsorganisationen sehen dies als eine Gefahr für die Grundrechte.
Quelle: pixabay
Kennzeichnungspflicht
Was viele Verbraucherschützer*innen und auch wir als Kommunikationsprofis längst forderten, wird nun umgesetzt: Texte, Bildmaterial und Videos, die mithilfe von KI erstellt wurden, müssen im Internet oder auf Social Media Plattformen klar gekennzeichnet werden.
Ob und wie das in der Praxis durchsetzbar ist, wird die Zukunft zeigen. Wer Deep Fakes in Umlauf bringt wird sich vermutlich erst einmal wenig um gesetzliche Vorgaben scheren. Hier muss man abwarten, wie Überwachung und Verfolgung realisiert werden können und mit welchen Konsequenzen Übeltäter*innen rechnen müssen. Sanktionen müssen die Mitgliedstaaten erst noch beschließen. Für Privatpersonen soll es die Option geben, sich bei den nationalen Behörden zu beschweren, falls sie Verstöße entdecken.
Problem: all dies muss viel schneller passieren als bei normalen Gesetzgebungen. Schon die avisierten zwei Jahre bis zur vollständigen Implementierung der KI-Regulierung in den Mitgliedsstaaten scheint angesichts der Entwicklungsgeschwindigkeit von KI eine kleine Ewigkeit. Verbotene Systeme müssen innerhalb von sechs Monaten vom Markt genommen werden.
Als zentrale Koordinationsstelle wurde im Februar 2024 das Europäische AI-Büro aus der Taufe gehoben, das die ordentliche und fristgerechte Umsetzung des EU KI-Gesetzes in den Mitgliedsstaaten überwachen und forcieren soll.
Fazit
Der EU AI Act ist zweifelsfrei ein ebenso wichtiger wie richtiger Schritt, um den Einsatz von künstlicher Intelligenz sicherer zu machen. Die Gefahr: wie bei früheren Technologiethemen hinkt der Gesetzgeber vermutlich stets mehr als einen Step hinter den aktuellen Entwicklungen hinter. Grundlage für den Erfolg wird sein, wie eng die Mitgliedsstaaten kooperieren, wie effektiv die Bestimmungen überwacht und durchgesetzt werden und wie schnell man notwendige Erweiterungen ins Regelwerk aufnehmen kann. An der längst fälligen Kennzeichnungspflicht wird sich rasch erkennen lassen, wie realistisch die Durchsetzung in der Praxis ist.
Auch interessant:
Leitfaden: KI-Guidelines erstellen (Juni 2024)
20 Jahre Flutlicht (1/4): Zwei Dekaden Agenturleben im Tech-Universum
