Wie wichtig ist eine vertrauenswürdige KI?

Wie können die Verantwortlichen Entscheidungen, die eine KI-Anwendung trifft, transparent gestalten? Wie beherrschen sie mögliche Risiken des KI-Einsatzes? Die Antworten darauf sind wesentlich für die Akzeptanz der Technologie durch Verbraucher. Der IT-Dienstleister adesso hat im Rahmen einer repräsentativen Studie KI-Experten in Unternehmen zum Thema „Trustworthy AI“ befragt. Demnach glaubt die Mehrheit, dass KI bei Kunden einen Vertrauensvorschuss genießt. Gleichzeitig wünschen sich die Teilnehmenden der Studie mehr Kontrollmechanismen. ​

Licht ins Dunkel der KI-Entscheidung bringen

Einige der Entscheidungen auf Basis intelligenter Algorithmen beeinflussen das Leben von Menschen auf unmittelbare Art. Beispielsweise wenn sich die Empfehlung einer Assistenz-Software auf die Personalauswahl auswirkt. Oder dafür sorgt, dass eine Bank einen Kreditantrag ablehnt. In diesen Fällen müssen die Verantwortlichen Licht ins Dunkel der KI-Entscheidungen bringen. Das reicht von der Herkunft und Charakteristika der Trainingsdaten, die eine KI nutzt, über die Durchschaubarkeit und Verständlichkeit des Algorithmus bis hin zum Einhalten regulatorischer Vorgaben sowie ethischer Grundwerte. Eine Transparenz von KI fordert auch der EU Artificial Intelligence Act von April 2021. Dieser besagt, dass Nutzer ein Recht darauf haben, informiert zu werden, mit welcher Art von KI sie interagieren.

Adesso hat 500 Entscheider, die in Unternehmen mit KI-Anwendungen arbeiten und die Systeme entwickeln, zum Thema Trustworthy AI befragt. Die wichtigsten Erkenntnisse der Studie:

Großes Vertrauen in KI

Die Mehrheit hat hohe Erwartungen an die Anwendung. So erhoffen sich 88 Prozent durch den Einsatz von KI bessere Entscheidungen treffen zu können. Genauso optimistisch sind die Teilnehmenden der Studie bei der Frage, wie Anwendende zu der Technologie stehen. 61 Prozent sind davon überzeugt, dass Verbraucher KI als grundlegend vertrauenswürdig einstufen.

Trotzdem finden vier von fünf der Befragten, KI sollte grundsätzlich nicht ohne menschliche Kontrolle eingesetzt werden. 54 % sind zudem der Meinung, dass das Nutzen von KI-Technologien stärker reguliert werden sollte. Im Banken- und Finanzdienstleisterumfeld unterstützen sogar drei Viertel diese Forderung. Besonders populär ist die Idee eines eigenen Expertenrats im Gesundheitswesen (87 %) und in der öffentlichen Verwaltung (83 %).

KI am Arbeitsplatz

Aus Sicht der Studienteilnehmenden müssen Unternehmen die Mitarbeitenden stärker in KI-Projekte einbeziehen. Nur so entwickeln sie das nötige Vertrauen in die Technologie. 70 Prozent der Befragten sehen eine große Herausforderung darin, die eigene Belegschaft auf die Zusammenarbeit mit KI-Anwendungen vorzubereiten. Besonders kritisch bewerten die Studienteilnehmenden aus der Automotive-Branche die Situation: Hier befürchten 91 %, dass es schwierig wird, die eigenen Teams von der Mensch-Maschine-Kooperation zu überzeugen.

Adesso führte die Umfrage gemeinsam mit der Kölner Marktforschungsagentur heute & morgen im Mai 2022 durch. Die Studie ist kostenfrei per Download erhältlich: https://ki.adesso.de/de/topics/trustworthy-ai.html