Guten Morgen lieber Kunde, ich bin ein Bot

Ob personalisierte Produktempfehlungen, Sentiment-Analysen auf Facebook oder immer erreichbare Chatbots: KI-basierte Anwendungen revolutionieren den Kundendienst und erfüllen die Erwartungen der Verbraucher nach einer digitalisierten und personalisierten Erfahrung. Auch wenn die neuen Möglichkeiten sehr verlockend sind, sollten Unternehmen sich bewusst machen, dass die Verantwortung für den Einsatz der Tools bei ihnen liegt. Folgende Kriterien helfen dabei, dass sich die künstliche Unterstützung richtig anfühlt.

Transparenz

Viele Verbraucherinnen und Verbraucher sind skeptisch. Sie denken bei KI an Überwachung, Undurchsichtigkeit und Manipulation. Umso schlimmer, wenn das Unternehmen den Einsatz KI-gestützter Tools nicht klar kommuniziert. Namen, Stimmen oder Bilder von Bots sollten dem Kunden daher signalisieren, dass er nicht mit einem Menschen interagiert. Auch bei Auswahlverfahren, wie zum Beispiel einer Online-Kreditvergabe, haben Antragstellende ein Recht darauf zu erfahren, welche Algorithmen zu einer Entscheidung geführt haben. Unternehmen sollten sicherstellen, dass der Einsatz von KI ethisch vertretbar ist und dass ihre Entscheidungen und Algorithmen transparent und nachvollziehbar sind, so dass das Vertrauen in die Technologie wächst.

Data Governance

KI erleichtert das Erfassen und Verarbeiten riesiger Datenmengen. Doch die Ergebnisse hängen entscheidend von der Datenqualität ab. Daher ist es wichtig, dass Verantwortliche das System nur mit korrekten und aktuellen Informationen füttern. Die KI übernimmt beim Training mit historischen Daten übrigens Entscheidungsmuster des Unternehmens. Hat die Firma früher zum Beispiel bestimmte Bewerbergruppen diskriminiert, wird ein Algorithmus dieses Verhalten wiederholen. Solch eine voreingenommene Klassifizierung von Daten ist klar unethisch.

Human Oversight

Bei all den Vorzügen dieser neuen Anwendungen kann eine KI die menschliche Einschätzung nicht ersetzen. Unternehmen sollten daher automatisierte Vorgänge ruhig in die Hände der Bots legen, aber Mitarbeitenden das letzte Wort überlassen. Vor allem in Situationen, in denen Einfühlungsvermögen gefragt ist, zum Beispiel beim Melden eines Unfalls bei der Versicherung oder bei einer Reklamation, muss ein echter menschlicher Kontakt möglich sein.

Datensicherheit

Bei der Interaktion mit Kundinnen und Kunden sammeln KI-Tools wie Bots viele persönliche Daten. An dieser Stelle sollten Unternehmen Mechanismen integrieren, die die Informationen nach der Verarbeitung wieder löschen. Gelingt es Hackern hingegen, Daten aus Chatverläufen mit Bots abzufangen, verlieren Nutzende das Vertrauen in die Technologie.

Nachhaltigkeit

Für das Trainieren der Algorithmen benötigen Experten riesige Datenmengen – und belegen damit komplette Rechenzentren. Auch hier liegt die Verantwortung für einen schonenden Ressourcenverbrauch bei den Unternehmen. Bevor Firmen sich für den Einsatz von KI-Anwendungen entscheiden, sollten sie hinterfragen, ob Aufwand und Nutzen im richtigen Verhältnis stehen. Auch andere Analysemethoden sind zielführend, ohne dafür einen immensen Energieverbrauch in Kauf zu nehmen.

Beim Einsatz KI-gestützter Kundeninteraktionen dürfen wir unsere gesellschaftliche Verantwortung nicht vergessen. Solange KI eine wirkliche Entlastung für alle Beteiligten bietet, ist sie auch ethisch vertretbar. Allerdings brauchen Unternehmen einen kritischen Blick, um zu verhindern, dass eine Automatisierung, die eigentlich Prozesse vereinfachen soll, auf Vorurteilen basiert und diskriminiert. Die von der EU veröffentlichten Richtlinien für einen ethischen Einsatz von Künstlicher Intelligenz bieten hier eine sehr gute Orientierung. Bei jeder Entscheidung sollte generell der Kunde im Zentrum stehen und KI so eingesetzt werden, dass die Firma ihm bestmöglich bei seinem Anliegen helfen kann.

Lesen Sie auch : KI auf dem Prüfstand

David Hefendehl

ist Digital Strategist bei Macaw.

Roger Homrich

Recent Posts

KI auf dem Prüfstand

LLMs besitzen einerseits innovative neue Fähigkeiten, stellen Unternehmen allerdings auch vor diverse Herausforderungen: ob EU…

10 Stunden ago

Rechenzentren: Deutschland verliert Anschluss

Server-Ausbau in den USA und China macht große Fortschritte, deutscher Weltmarktanteil sinkt. Lichtblicke in Frankfurt…

14 Stunden ago

KI steigert Nachfrage nach hybriden Workplace-Umgebungen

Der Markt für Workplace Services gerät in Bewegung. Das bestmögliche digitale Nutzererlebnis gilt als Schlüssel…

15 Stunden ago

Hagebau erreicht E-Mail-Sicherheit mit der NoSpamProxy Cloud

Schutz für 10.000 Postfächer über rund 200 Domains: Private-Stack-Variante kombiniert Vorteile einer Cloud-Lösung mit Sicherheit…

1 Tag ago

Rechenzentrumsnetzwerke als Schlüssel für Desaster Recovery

Huawei Connect Paris: Innovationen rund um Data Center, Storage und IT-Sicherheit.

2 Tagen ago

Cybersecurity mit KI: Strategischer Vorteil oder Sicherheitsrisiko?

Mit KI optimieren Hacker ihre Angriffsversuche. Ist CIAM eine Lösung, mit der sich Unternehmen vor…

2 Tagen ago