Guten Morgen lieber Kunde, ich bin ein Bot
KI unterstützt die Interaktion mit Kunden, kann sie aber auch in die Flucht schlagen, warnt Gastautor David Hefendehl von Macaw.
Ob personalisierte Produktempfehlungen, Sentiment-Analysen auf Facebook oder immer erreichbare Chatbots: KI-basierte Anwendungen revolutionieren den Kundendienst und erfüllen die Erwartungen der Verbraucher nach einer digitalisierten und personalisierten Erfahrung. Auch wenn die neuen Möglichkeiten sehr verlockend sind, sollten Unternehmen sich bewusst machen, dass die Verantwortung für den Einsatz der Tools bei ihnen liegt. Folgende Kriterien helfen dabei, dass sich die künstliche Unterstützung richtig anfühlt.
Transparenz
Viele Verbraucherinnen und Verbraucher sind skeptisch. Sie denken bei KI an Überwachung, Undurchsichtigkeit und Manipulation. Umso schlimmer, wenn das Unternehmen den Einsatz KI-gestützter Tools nicht klar kommuniziert. Namen, Stimmen oder Bilder von Bots sollten dem Kunden daher signalisieren, dass er nicht mit einem Menschen interagiert. Auch bei Auswahlverfahren, wie zum Beispiel einer Online-Kreditvergabe, haben Antragstellende ein Recht darauf zu erfahren, welche Algorithmen zu einer Entscheidung geführt haben. Unternehmen sollten sicherstellen, dass der Einsatz von KI ethisch vertretbar ist und dass ihre Entscheidungen und Algorithmen transparent und nachvollziehbar sind, so dass das Vertrauen in die Technologie wächst.
Data Governance
KI erleichtert das Erfassen und Verarbeiten riesiger Datenmengen. Doch die Ergebnisse hängen entscheidend von der Datenqualität ab. Daher ist es wichtig, dass Verantwortliche das System nur mit korrekten und aktuellen Informationen füttern. Die KI übernimmt beim Training mit historischen Daten übrigens Entscheidungsmuster des Unternehmens. Hat die Firma früher zum Beispiel bestimmte Bewerbergruppen diskriminiert, wird ein Algorithmus dieses Verhalten wiederholen. Solch eine voreingenommene Klassifizierung von Daten ist klar unethisch.
Human Oversight
Bei all den Vorzügen dieser neuen Anwendungen kann eine KI die menschliche Einschätzung nicht ersetzen. Unternehmen sollten daher automatisierte Vorgänge ruhig in die Hände der Bots legen, aber Mitarbeitenden das letzte Wort überlassen. Vor allem in Situationen, in denen Einfühlungsvermögen gefragt ist, zum Beispiel beim Melden eines Unfalls bei der Versicherung oder bei einer Reklamation, muss ein echter menschlicher Kontakt möglich sein.
Datensicherheit
Bei der Interaktion mit Kundinnen und Kunden sammeln KI-Tools wie Bots viele persönliche Daten. An dieser Stelle sollten Unternehmen Mechanismen integrieren, die die Informationen nach der Verarbeitung wieder löschen. Gelingt es Hackern hingegen, Daten aus Chatverläufen mit Bots abzufangen, verlieren Nutzende das Vertrauen in die Technologie.
Nachhaltigkeit
Für das Trainieren der Algorithmen benötigen Experten riesige Datenmengen – und belegen damit komplette Rechenzentren. Auch hier liegt die Verantwortung für einen schonenden Ressourcenverbrauch bei den Unternehmen. Bevor Firmen sich für den Einsatz von KI-Anwendungen entscheiden, sollten sie hinterfragen, ob Aufwand und Nutzen im richtigen Verhältnis stehen. Auch andere Analysemethoden sind zielführend, ohne dafür einen immensen Energieverbrauch in Kauf zu nehmen.
Beim Einsatz KI-gestützter Kundeninteraktionen dürfen wir unsere gesellschaftliche Verantwortung nicht vergessen. Solange KI eine wirkliche Entlastung für alle Beteiligten bietet, ist sie auch ethisch vertretbar. Allerdings brauchen Unternehmen einen kritischen Blick, um zu verhindern, dass eine Automatisierung, die eigentlich Prozesse vereinfachen soll, auf Vorurteilen basiert und diskriminiert. Die von der EU veröffentlichten Richtlinien für einen ethischen Einsatz von Künstlicher Intelligenz bieten hier eine sehr gute Orientierung. Bei jeder Entscheidung sollte generell der Kunde im Zentrum stehen und KI so eingesetzt werden, dass die Firma ihm bestmöglich bei seinem Anliegen helfen kann.
ist Digital Strategist bei Macaw.
