Grenzüberschreitender Einsatz generativer KI verursacht Datenschutzverletzungen

Die rasche Einführung von GenAI-Technologien durch Endnutzer hat die Entwicklung von Maßnahmen zur Datenverwaltung und -sicherheit überholt und aufgrund der für den Einsatz dieser Technologien erforderlichen zentralisierten Rechenleistung Bedenken hinsichtlich der Datenlokalisierung aufkommen lassen. Dies wird laut Gartner bis 2027 vermehrt zu KI-bezogenen Datenschutzverletzungen führen.

„Unbeabsichtigte grenzüberschreitende Datenübertragungen treten häufig aufgrund unzureichender Aufsicht auf, insbesondere wenn GenKI ohne klare Beschreibungen oder Ankündigungen in bestehende Produkte integriert wird“, so Jörg Fritsch, VP Analyst bei Gartner. “Organisationen bemerken Veränderungen in den Inhalten, die von Mitarbeitern mit GenKI-Tools erstellt werden. Diese Tools können zwar für genehmigte Geschäftsanwendungen verwendet werden, bergen jedoch Sicherheitsrisiken, wenn sensible Eingabeaufforderungen an KI-Tools und APIs gesendet werden, die an unbekannten Orten gehostet werden.“

Globale KI-Standardisierungslücken

Das Fehlen einheitlicher globaler Best Practices und Standards für KI und Datenverwaltung verschärft die Herausforderungen, indem es zu einer Marktfragmentierung führt und Unternehmen dazu zwingt, regionalspezifische Strategien zu entwickeln. Dies kann ihre Fähigkeit einschränken, ihre Geschäftstätigkeit global zu skalieren und von KI-Produkten und -Dienstleistungen zu profitieren.

„Die Komplexität der Verwaltung von Datenströmen und die Aufrechterhaltung der Qualität aufgrund lokaler KI-Richtlinien kann zu betrieblichen Ineffizienzen führen“, so Fritsch. “Unternehmen müssen in fortschrittliche KI-Governance und Sicherheit investieren, um sensible Daten zu schützen und die Einhaltung von Vorschriften zu gewährleisten. Diese Notwendigkeit wird wahrscheinlich das Wachstum auf den Märkten für KI-Sicherheits-, Governance- und Compliance-Dienstleistungen sowie für Technologielösungen vorantreiben, die die Transparenz und Kontrolle über KI-Prozesse verbessern.“

KI-Governance wird zu einem globalen Mandat

Gartner prognostiziert, dass KI-Governance bis 2027 weltweit in allen Gesetzen und Vorschriften für KI zur Pflicht wird. „Unternehmen, die die erforderlichen Governance-Modelle und -Kontrollen nicht integrieren können, könnten einen Wettbewerbsnachteil erleiden, insbesondere wenn ihnen die Ressourcen fehlen, um bestehende Data-Governance-Rahmenbedingungen schnell zu erweitern“, warnt Fritsch.

Um die Risiken von KI-Datenschutzverletzungen, insbesondere durch grenzüberschreitenden GenKI-Missbrauch, zu minimieren und die Einhaltung von Vorschriften sicherzustellen, empfiehlt Gartner Unternehmen mehrere strategische Maßnahmen:

Verbesserung der Datenverwaltung
Gewährleistung der Einhaltung internationaler Vorschriften und Überwachung unbeabsichtigter grenzüberschreitender Datenübertragungen durch die Erweiterung der Datenverwaltungsrahmen um Richtlinien für KI-verarbeitete Daten. Dies beinhaltet die Einbeziehung von Datenherkunfts- und Datenübertragungsfolgenabschätzungen in die regelmäßigen Datenschutzfolgenabschätzungen.

Einrichtung von Governance-Ausschüssen
Bildung von Ausschüssen zur Verbesserung der KI-Aufsicht und zur Gewährleistung einer transparenten Kommunikation über KI-Einsätze und Datenverarbeitung. Diese Ausschüsse müssen für die technische Aufsicht, das Risiko- und Compliance-Management sowie die Kommunikation und Entscheidungsberichterstattung zuständig sein.

Stärkung der Datensicherheit
Verwenden Sie fortschrittliche Technologien, Verschlüsselung und Anonymisierung, um sensible Daten zu schützen. Überprüfen Sie beispielsweise Trusted Execution Environments in bestimmten geografischen Regionen und wenden Sie fortschrittliche Anonymisierungstechnologien wie Differential Privacy an, wenn Daten diese Regionen verlassen müssen.

Investieren Sie in TRiSM-Produkte
Planen und verteilen Sie Budgets für Produkte und Funktionen des Trust, Risk und Security Management (TRiSM), die auf KI-Technologien zugeschnitten sind. Dazu gehören KI-Governance, Datensicherheits-Governance, sofortige Filterung und Schwärzung sowie die synthetische Generierung unstrukturierter Daten. Gartner prognostiziert, dass Unternehmen, die KI TRiSM-Kontrollen anwenden, bis 2026 mindestens 50 % weniger ungenaue oder illegitime Informationen verwenden und so fehlerhafte Entscheidungen reduzieren werden.