EU AI Act: Fluch oder Segen?

„Europa ist die erste Region, die einen sicheren Rechtsrahmen schafft, um KI einzuordnen. Dabei werden wir von anderen Ländern gerade sehr stark beobachtet. Diese Länder, so zum Beispiel die USA oder auch China, werden vermutlich nun nachziehen und sich an der Verordnung orientieren, die sich kontinuierlich weiterentwickeln und immer wieder dem neuesten Stand der Technik anpassen muss“, sagt Bettina Hart, Rechtsanwältin und von der Bitkom zertifizierte Datenschutzbeauftragte ist.

Dämmt AI Act die KI in der EU ein?

Dennoch ruft die neue KI-Verordnung durchaus gemischte Reaktionen hervor. Die EU- Institutionen werden zwar für ihren Durchhaltewillen und den erfolgreichen Abschluss gelobt, doch die Wirtschaft kritisiert, dass das Gesetz die Vision und den Ehrgeiz der Tech-Startups und Unternehmen nicht widerspiegelt. Vertreter der Zivilgesellschaft begrüßen bestimmte Schutzmaßnahmen, bemängeln jedoch die Mitsprache der KI-Entwickler bei der Einstufung als Hochrisiko-KI. Bedenken bezüglich des Biometrie-Kompromisses werden geäußert, während andere die Vermeidung von Überregulierung betonen. Die vielfältigen Reaktionen verdeutlichen die anhaltende Diskussion über die künftige KI-Regulierung in Europa.

Florian Meyer, Informatik-Ingenieur und Patentanwalt bei Meissner Bolte, sagt: „Die Regulierung wird eher dazu führen, dass Unternehmen gezielt KI-Systeme anbieten, die mit der Gesetzgebung der EU vereinbar sind – so wie es bei der DSGVO in Bezug auf Server und Speicherung auch geschehen ist.“

Bettina Hart ergänzt: „Auf der einen Seite wird es in manchen Bereichen sicherlich zu Einschränkungen kommen, denn letztlich gehen der Schutz des Persönlichkeitsrechts und der Schutz vor Manipulationen ganz klar vor. Wir alle wollen nicht in einer Welt leben, in der wir der KI unterworfen sind. Auf der anderen Seite öffnet die KI-Verordnung Innovationen grundsätzlich die Tür. Forschung und Entwicklung werden sich an die neuen Anforderungen anpassen.“

Großen Playern geht KI-Verordnung nicht weit genug

Manchen geht die KI-Verordnung nicht weit genug. Zur Überraschung vieler treten große Player im KI-Business für eine noch stärkere Regulierung ein. Florian Meyer vermutet: „Dahinter könnte auch eine Taktik stehen, um neuen Unternehmen in dem Bereich den Einstieg zu erschweren. Die großen Firmen haben in der Regel mehr Ressourcen, um die regulatorischen Anforderungen zu erfüllen (sog. Lobby Capture), und sind damit klar im Vorteil gegenüber Start-ups.“

Eines der Ziele der EU ist es, die Gefahren, die von künstlicher Intelligenz ausgehen, zu minimieren, zum Beispiel Desinformation und Manipulation (Fake News), Diskriminierung aufgrund einseitiger Datengrundlage, die Beeinflussung der Politik oder des Verhaltens des Individuums, Bedrohung der Cybersicherheit und viele mehr. „Es ist wichtig, dass Maßstäbe für die ethische und moralische Beurteilung gesetzt werden und so auch Raum für Diskussionen geschaffen wird“, so Bettina Hart. „Dabei geht es nicht nur um bewusste Täuschung, sondern auch darum, Fahrlässigkeit und einen unbedarften Umgang mit KI zu verhindern.“

KI generierte Produkte können direkten Einfluss auf Rezipienten nehmen

Florian Meyer erklärt: „Datensätze sind häufig geprägt von kulturellen Vorurteilen. Schon allein die Entscheidung darüber, welche Daten man einer KI-Anwendung zur Verfügung stellt, macht einen Unterschied bei dem von KI erstellten Endprodukt, sei es beispielsweise ein Bild, Text oder Video. Vorurteile können aufgrund einseitiger Trainingsdaten entstehen – zum Beispiel durch ein automatisiertes ‚Credit-Rating-System‘, bei dem Hautfarbe, Geschlecht oder Religion eine Rolle spielen. Damit nimmt das durch KI generierte Produkt direkten Einfluss auf seine Rezipienten.“

Neben Schutz und Sicherheit des Einzelnen verfolgt die EU mit der KI-Verordnung gleichzeitig das Ziel, bessere Bedingungen für die Entwicklung und Nutzung von KI zu erarbeiten. Sie schafft Rechtssicherheit für Betreiber und Anwender und soll dazu führen, dass KI in Zukunft keine illegalen Inhalte mehr generieren kann. In der Folge wird KI zukünftig wahrscheinlich durch Hinweise zu ihrer Kategorisierung gekennzeichnet sein und in manchen Bereichenverschwinden, während sie in anderen vermehrt eingesetzt wird. Florian Meyer: „Wir stehen der KI-Verordnung auf jeden Fall positiv gegenüber und sind gespannt auf ihren genauen Wortlaut und die daraus resultierenden Konsequenzen.“