Übernehmen Algorithmen die Weltherrschaft?

Da gibt es beispielsweise die Kreditkarten-Transaktionen. Obwohl jede Transaktion an der Kasse in Bruchteilen von Sekunden ausgeführt wird, laufen dahinter extrem komplexe Analyseprogramme in Echtzeit ab, bei denen die angefragte Transaktion auf mögliche Betrugshinweise geprüft wird. Als Folge kann eine Transaktion sofort abgelehnt werden, weil der Computer der Ansicht ist, dass es sich um eine gestohlene Kreditkarte handelt. Hunderte oder sogar tausende an Parametern können von diesen Analyse-Programmen in Millisekunden berücksichtigt werden. Damit übersteigt deren Präzision und Leistungsfähigkeit jede menschliche Analyse- und Entscheidungsmöglichkeit.

Ähnlich verhält es sich in der Oberbekleidungs-Branche. Hier haben Predictive-Analytics bereits vielerorts den Einkäufer ersetzt. Die Programme analysieren den aktuellen Abverkauf und die neuesten Modetrends. Das alles wird dann mit den soziodemografischen Daten der eigenen Filialbetriebe verknüpft und das Ergebnis sind konkrete Bestelllisten für jedes Produkt, jeden Lieferanten und jedes Geschäft. „Smarter Commerce“ heißt das bei IBM, und der IT-Riese hat hierfür bereits einen eigenen Geschäftsbereich aus dem Boden gestampft.

Nun sollte man meinen, dass die Ablehnung einer betrügerischen Kreditkarten-Transaktion oder eine bessere Bestellung von Kleidungsstücken, bei der am Saisonende weniger Überschuss anfällt, ja durchaus positiv zu bewerten sind. Doch die Problematik sitzt tiefer: Der Mensch wird zum Handlanger der Computer-Algorithmen, denn er ist nicht mehr in der Lage die vom Computer getroffenen Entscheidungen nachzuvollziehen – geschweige denn, sich darüber hinweg zu setzen.

Bestes Beispiel dafür ist das in den USA immer weiter um sich greifende “Predictive Policing”. Das bedeutet, dass der Einsatz von Polizeistreifen nicht mehr nach Routineplänen sondern nach Vorgaben eines Computers erfolgt. Hierbei werden Algorithmen genutzt, die die Wahrscheinlichkeit für eine Straftat nach Art, Ort, Tag und Uhrzeit vorhersagen. Entsprechend dieser Wahrscheinlichkeit erfolgt dann der Einsatz von Streifenwagen und Fußpatrouillen. “Heute traut sich kein Einsatzplaner mehr, die Einsätze entgegen der Vorschlagsliste vorzunehmen, selbst geringfügige Abänderungen kommen nicht mehr vor”, sagte ein Sprecher der Polizei von Memphis. Deren Polizei-Department ist auf diesem Gebiet am weitesten fortgeschritten und nutzt eine von der University of Memphis entwickelte Software in Verbindung mit IBMs Predictive-Analytics-Tools.

Computer-Algorithmen entscheiden inzwischen auch immer häufiger über die Routen von Flugzeugen und dem Bordpersonal. Vor allem, wenn es Abweichungen vom Normalfall gibt, entscheiden Computer über die erforderlichen Änderungen am Flugplan, den Umbuchungen und den neuen Crew-Einsätzen. Der mit vielen Bildschirmen ausgestatte abgedunkelte Einsatzraum gehört immer mehr der Vergangenheit an.

Ähnlich verhält es sich mit den Einsatzplänen für die Techniker im Außendienst bei den Strom- und Telefongesellschaften. Wird eine Störung gemeldet, weiß der Computer sofort, welche Probleme es in der Vergangenheit gab, welche Probleme es in der Umgebung gab – oder bereits gibt. Der Person an der Störungsannahme werden ganz spezielle, auf diesen Fall abgestimmte, Fragen auf dem Bildschirm eingespiegelt und am Ende entscheidet der Computer welche Priorität dieses Problem bekommt, welcher Techniker für dieses Problem am besten geeignet ist, wo sich dieser gerade befindet und welche Einsatzplanänderungen erforderlich sind, um dieses Problem in der kürzest möglichen Zeit zu beheben. Dem Einsatz-Manager bleibt nur noch eine Aktion: Das Klicken auf “Einsatzänderungen akzeptiert!”

Auch in der Auto- und Maschinenwartung wird die menschliche Einschätzung und Entscheidung immer häufiger durch Computer-Programme ersetzt. So startete BMW einst eine Software-Entwicklung um die Häufigkeit von bestimmten Reparaturen zu erkennen, doch mit der Zeit wurde das System um umfangreiche Pattern-Analysen erweitert. Damit lassen sich inzwischen teure Reparaturen oder gravierende Fahrzeugausfälle vorhersehen und durch entsprechende vorbeugende Aktivitäten vermeiden.

Viele Autohersteller verwenden derartige Daten und Algorithmen inzwischen auch für das Design und die Ausstattung eines neuen Modells. “Wir sind nicht mehr weit davon entfernt, dass man für ein neues Automodell nur noch ein Programm starten muss – und kurz danach laufen die Fließbänder an, weil vom Design über die Konstruktion bis zu den Maschinenbefehlen alles direkt aus dem Computer kommt”, meint Christopher Steiner, Autor des neuen Bestsellers ‘Automate This’.
Dieser Trend hat nur einen Haken: Verantwortlich bleibt weiterhin der Mensch. Ob unattraktives Auto, unverkäufliche Ware oder ein Reparatur-Chaos – der Schuldige ist der, der die Unterschrift geleistet hat. “Trotz bester Algorithmen gibt es vorerst keinen Ersatz für die persönliche Haftung. Computer sind juristisch gesehen immer noch reine Entscheidungshilfen“, sagt Christopher Wasd vom Beratungshaus PricewaterhouseCoopers.

Tipp: Wie gut kennen Sie IBM? Überprüfen Sie Ihr Wissen – mit 15 Fragen auf silicon.de