Datenschutztag: Navigieren an der Schnittstelle von KI und Datenschutz

Zum Datenschutztag am 28. Januar ein kurzes Interview mit Gartner-Analyst Nader Saad Henein zum Status Quo beim Datenschutz.

Wie hat der “datengesteuerte” Entscheidungsansatz Prozesse verändert, insbesondere in Anbetracht der zunehmend personenbezogenen Daten?

Nader Saad Henein: In den letzten zwei Jahrzehnten seit der Einführung des Datenschutztages hat sich der Begriff “datengesteuert” verselbständigt und ist zur Grundlage der meisten Entscheidungen geworden. Diese Daten sind oft sehr persönlich und geben – fast minutengenau – Auskunft darüber, was wir tun, mit wem wir sprechen und was wir sagen.

Was ist neu an KI-gestützter Datenanalyse?

Obwohl die künstliche Intelligenz eine wahre Renaissance erlebt, nutzen wir seit fast vier Jahrzehnten Tools aus dem Bereich der KI, die es Unternehmen ermöglichen, hinter die Rohdaten zu blicken und Erkenntnisse über unsere Vorlieben, unsere Abneigungen, unseren Geisteszustand und unsere Wahlabsichten zu gewinnen.

Wie trägt das KI-Gesetz der EU im kommenden Jahr dazu bei, eine klare und transparente Struktur zu schaffen, damit Einzelpersonen die Verwendung und die Auswirkungen ihrer Daten in KI-Anwendungen nachvollziehen können?

Wenn sich der Hype um die generative KI gelegt hat, beginnt die eigentliche Arbeit für Unternehmen und Regierungen, die diese Technologie leise, aber gewissenhaft in alle Dienste integrieren, die unser Leben beeinflussen. Mit diesem Wissen erwarten wir, dass sich das kommende Jahr auf die Überschneidung von KI und Datenschutz konzentrieren wird. KI ist nichts anderes als datengesteuert, daher muss es eine klare und transparente Struktur geben, durch die der Einzelne versteht, wie seine Daten verwendet werden und welche Auswirkungen dies auf sein Leben hat. Dies ist das Kernstück des KI-Gesetzes der EU, in dem jede Nutzung von KI einer Risikobewertung unterzogen und in eine entsprechende Risikostufe eingeordnet werden muss, wobei jede Stufe mit einer Reihe von Verantwortlichkeiten für Transparenz, Einwilligung und Kontrolle einhergeht, um die Grundrechte zu schützen.

Wie können Arbeitgeber Bedenken berücksichtigen, um ein Arbeitsumfeld zu schaffen, das die Fortschritte der KI mit den Interessen der Wissensarbeiter in Einklang bringt?

Für Unternehmen erfordert dies einen obligatorischen Prozess der Katalogisierung und Kategorisierung der von ihnen entwickelten KI-Fähigkeiten, aber – was noch wichtiger ist – der KI-Fähigkeiten, die in fast jeder von ihnen genutzten Lösung enthalten sind.

Was die Verbraucher betrifft, so werden KI-Dienste in freier Wildbahn – wie ChatGPT – und Hunderte anderer KI-getriebener Dienste zunehmend Verhaltenskodizes annehmen, um ein gewisses Maß an Sorgfaltspflicht in Bezug auf das Vertrauen in KI zu demonstrieren, aber es wird Versäumnisse geben und diese werden öffentlich werden.

Was die Arbeitnehmer betrifft, so prognostizieren wir eine Verzehnfachung der gewerkschaftlichen Organisierung und der Arbeitskampfmaßnahmen unter den Wissensarbeitern aufgrund der zunehmenden KI-Angst.

Nader Saad Henein

ist VP-Analyst bei Gartner und Experte für den Schutz von personenbezogenen Daten sowie ein überzeugter Verfechter des Datenschutzes.