Data Governance im Jahr 2025: KI verändert alles

Unternehmen müssen sicherstellen, dass sie einen einheitlichen Ansatz für das KI-Management verfolgten, sagt Ann Maya von Boomi im Interview.

KI verändert auch das Thema Data Governance. Das Rad dreht sich enorm schnell. Wie können Unternehmen bei diesem hohen Tempo den Überblick behalten und ihr Data- und KI-Governance permanent anpassen?

Ann Maya: Um die Daten- und KI-Governance-Praktiken auf dem neuesten Stand zu halten, sollten Unternehmen KI-gesteuerte Datenmanagement- und Governance-Tools in ihre täglichen Geschäftsabläufe einbetten. Auf diese Weise können sie sicherstellen, dass die Datenverarbeitung in kritischen Datenpipelines kategorisiert, klassifiziert, synchronisiert, gespeichert und verarbeitet wird – und zwar mit angemessenen rollenbasierten Zugriffskontrollen. Nur so können sie sich dynamisch an die Rahmenbedingungen anpassen.

Was sollte die Grundlage für eine starke Data & AI Governance sein?

Ann Maya: Eine solide Grundlage für die Daten- und KI-Governance erfordert zumindest hohe Standards für die Datenqualität, eine transparente Datenabfolge, robuste Sicherheitsprotokolle und definierte Verantwortungsrollen.

Wie schätzen Sie den Bedarf an Daten- und KI-Governance ein, um KI-Gesetze wie das EU-KI-Gesetz einzuhalten? Wie viel Gewicht sollten Unternehmen dem Aufbau einer starken Daten- und KI-Governance beimessen?

Erstens muss sichergestellt werden, dass das Unternehmen einen einheitlichen Ansatz für das KI-Management verfolgt. Es drohen saftige Geldstrafen und die Beeinträchtigung der Handelsmöglichkeiten in der EU. Die gute Nachricht ist jedoch, dass vieles von dem, was für den Aufbau eines starken Daten- und KI-Governance-Rahmens erforderlich ist, auf praktische Art und Weise getan werden kann. Und dieser Rahmen wird von unschätzbarem Wert sein, wenn es darum geht, Unternehmensdaten vor der bevorstehenden Welle der KI-Disruption zu schützen und gleichzeitig die Vorteile der KI-Innovation zu nutzen. Die Umstellung auf Low-Code- oder KI-gesteuerte Datenverwaltungslösungen kann dazu beitragen, dass Unternehmen wertvolle Zeit, Kosten und Mühe sparen und gleichzeitig die Compliance-Anforderungen erfüllen können.

Welche Leitlinien würden Sie empfehlen, um eine für 2025 geeignete Daten- und KI-Governance zu schaffen?

Ann Maya: Erstens muss sichergestellt werden, dass das Unternehmen einen einheitlichen Ansatz für das KI-Management verfolgt. Das bedeutet, dass eine Daten-Hub implementiert werden muss, der den Aufbau verteilter KI-Agenten ermöglicht. Gleichzeitig muss eine zentrale Kontrolle und Steuerung der Prozesse beibehalten werden, von denen KI-Initiativen gespeist werden.

Dazu gehören die Nutzung von sicherem Low-Code und die KI-gesteuerte Integration aller Daten und Anwendungen – zum Beispiel Data Mastering und Governance –, die Sicherstellung robuster Autorisierungsmechanismen für automatisierte Workflows mit RBAC, die Implementierung eines sicheren API-Lebenszyklus- und Gateway-Managements, die Erlangung vollständiger Transparenz und Beobachtbarkeit über alle Prozesse hinweg sowie die Suche nach einer Möglichkeit zur Überwachung und Steuerung der KI-Agenten, die in Ihrer Umgebung eingesetzt werden.

Wenn diese grundlegenden Elemente vorhanden sind, ist es einfacher, klare Richtlinien für die Datennutzung festzulegen – von der Erfassung über die Verarbeitung und Speicherung bis hin zur Nutzung –, die mit den Werten und Zielen Ihres Unternehmens übereinstimmen. Diese Richtlinien sollten auch die Einhaltung von Vorschriften wie dem EU AI Act, DSGVO und PDPL berücksichtigen.

Welche Rolle spielt der Mensch in dieser weitgehend automatisierten Prozessstruktur?

Ann Maya: Es  gibt keinen Ersatz für menschliche Aufsicht und Verantwortlichkeit. Die Bildung eines funktionsübergreifenden Teams, das die Verantwortung, Rechenschaftspflicht und Aufsicht teilt, wird Unternehmen dabei helfen, sich an schwierige Herausforderungen anzupassen, zum Beispiel das Erkennen und Verhindern von Verzerrungen, das Management von Nachhaltigkeit und TCO sowie die Validierung der Genauigkeit.

Erst dann können Organisationen regelmäßig und proaktiv Risiken managen – technische, betriebliche, ethische und Reputationsrisiken – und dabei im Auge behalten, dass KI neue Herausforderungen mit sich bringt. Transparenz und Erklärbarkeit in Bezug auf KI-Agenten und alle KI-Initiativen werden für die Aufrechterhaltung von Governance und Compliance in einer sich schnell verändernden KI-Landschaft von entscheidender Bedeutung sein.

Wie wichtig ist verantwortungsvolle KI in diesem Mix?

Ann Maya: Verantwortungsvolle KI ist für jede KI-Initiative von zentraler Bedeutung, vielleicht sogar eine der wichtigsten. Dies sollte kein nachträglicher Gedanke sein, genauso wie die Priorität der Fairness. Es obliegt uns allen, dafür zu sorgen, dass sie mit äußerster Sorgfalt aufgebaut werden. Wenn Unternehmen sich auf autonomere Systeme zubewegen, müssen sie darauf vertrauen, dass die Systeme, die wir aufbauen, die Werte und die Ethik, auf die das Unternehmen stolz sein kann, korrekt widerspiegeln und dass die entsprechenden Kontrollen und Abgleiche vorhanden sind.

Denken Sie nur an die Auswirkungen von Verzerrungen in der Gesundheitsdiagnostik, unfairen Kreditbewertungen in Finanzmodellen oder fehlgeleiteter Gesichtserkennung in der Strafverfolgung – die menschlichen Kosten und der Imageschaden könnten immens sein.

Darüber hinaus könnte ein reaktiver Kreislauf mehr Kosten und Aufwand verursachen als die Entwicklung von Möglichkeiten zur Nachverfolgung und Kontrolle durch eine transparente Überwachung der Daten. Verantwortungsvolle KI kann durch die Einhaltung guter Richtlinien und Leitlinien zum Datenschutz sowie durch konfigurierbare Leitplanken erreicht werden, die diese widerspiegeln. Die Verankerung von Transparenz, Sicherheit und Verantwortlichkeit in jeder Phase des KI-Lebenszyklus, unterstützt durch kontinuierliche Überwachung, zentralisierte Kontrolle und Governance, ist der beste Weg, um sich anzupassen und sicher.

 

Ann Maya

ist EMEA CTO bei Boomi.

 

 

 

 

Anzeige

Lesen Sie auch : Bosch forciert KI-Pläne