DSGVO und generative KI: Passt das zusammen?

Mit den Vorteilen generativer KI gehen ernsthafte Herausforderungen einher, insbesondere in Bezug auf Datenschutz und Sicherheit, sagt Bastian Maiworm von AmberSearch.

Die Integration von KI-Technologien in Unternehmensprozesse wirft viele Fragen auf: Wer haftet für KI-generierte Antworten? Wie DSGVO-konform ist der Einsatz von KI? Und was passiert mit den Daten, die in das KI-Modell eingegeben werden? Diese Fragen zeigen die Unsicherheiten und potenziellen Risiken auf, denen sich Unternehmen gegenübersehen, wenn sie auf generative KI setzen. Es ist wichtig, nicht nur die Chancen, sondern auch die Risiken zu kennen und diese proaktiv anzugehen. 

Laut Umfragen ist eines der größten Bedenken beim Einsatz von generativer KI die Frage, wie sicher und datenschutzkonform diese Lösungen in die bestehenden IT-Systeme integriert werden können. Unternehmen stehen vor Herausforderungen wie der Haftung für KI-generierte Inhalte, der Frage, ob ihre Daten für das Training von KI-Modellen genutzt werden, und wer die Rechte an den generierten Inhalten hält. 

In diesem Kontext spielt die Datenschutz-Grundverordnung (DSGVO) eine entscheidende Rolle. Als zentrales Regelwerk zum Schutz personenbezogener Daten in der EU stellt die DSGVO sicher, dass sowohl die Daten von Bürgern als auch Unternehmen geschützt werden. Dies stärkt nicht nur das Vertrauen der Verbraucher, sondern bietet auch Unternehmen, die DSGVO-konform arbeiten, erhebliche Vorteile im globalen Wettbewerb. 

Rechtliche Anforderungen und KI-Anwendungen 

Unternehmen, die generative KI einsetzen, müssen sich klar über die rechtlichen Anforderungen im Klaren sein. Dabei geht es vor allem um die Themen Datenverarbeitung, Datenschutz, Privatsphäre und Haftungsrisiken. Besonders bei der Verarbeitung von großen Datenmengen können personenbezogene Informationen nicht immer einfach herausgefiltert werden. Daher müssen Unternehmen sicherstellen, dass der Einsatz dieser Daten nur unter Einhaltung der DSGVO erfolgt. 

Um eine rechtliche Sicherheit zu gewährleisten, sollten Unternehmen mit vertrauenswürdigen KI-Anbietern zusammenarbeiten und den Einsatz von KI in ihrer Datenschutzerklärung transparent machen. Besonders bei cloudbasierten KI-Lösungen ist es wichtig, dass ein Auftragsverarbeitungsvertrag (AVV) abgeschlossen wird, der detailliert die Maßnahmen zum Schutz der Daten regelt. 

Der EU AI-Act – Was Unternehmen wissen müssen 

Mit der Einführung des EU AI-Acts im Juni 2024 gibt es nun klare Vorgaben für die Entwicklung und den Einsatz von KI-Systemen innerhalb der EU. Der AI-Act unterteilt KI-Anwendungen in verschiedene Risikoklassen und legt fest, welche sicherheitstechnischen Anforderungen Unternehmen erfüllen müssen.  

So soll der ethisch verantwortungsvolle Umgang mit KI sichergestellt werden. Insbesondere Systeme mit hohem Risiko, wie etwa Social Scoring, unterliegen strengen Auflagen und in einigen Fällen sogar Verboten. 

Unternehmen müssen daher ihre KI-Anwendungen regelmäßig bewerten, die Dokumentation pflegen und ihre Mitarbeiter schulen, um sicherzustellen, dass die Systeme den rechtlichen Vorgaben entsprechen und die Haftungsrisiken minimiert werden. 

Wie kann man generative KI DSGVO-konform einsetzen? 

Unternehmen, die generative KI einführen, haben verschiedene Möglichkeiten, dies DSGVO-konform zu tun. Dazu zählen: 

  • Hosting auf eigenen Servern (On-Premise-Lösungen) 
  • Nutzung von Cloud-Diensten, die DSGVO-konform arbeiten 
  • Integration in bestehende IT-Systeme mit Berücksichtigung der Zugriffsrechte 

Je nach gewählter Lösung muss sichergestellt werden, dass die Verarbeitung und Speicherung der Daten den Anforderungen der DSGVO entsprechen. Die meisten Unternehmen setzen auf Cloud-Lösungen, da diese kostengünstiger und skalierbarer sind. Bei der Implementierung von KI-Systemen sollten Unternehmen auch sicherstellen, dass sie sich der Risiken bewusst sind, die durch den Einsatz von Drittanbietern entstehen können. 

Bastian Maiworm ist Co-Founder von amberSearch.

 

Anzeige

Silicon - IT Deep Dive
sponsorisé
Deutsche Telekom: KI im Mittelstand