Der schwierige Weg zum Einsatz von KI

Laut PwC wird der weltweite Umsatz mit KI bis zum Jahr 2030 auf über 15 Billionen US-Dollar steigen. Allerdings müssen sich Unternehmen darüber im Klaren sein, dass der erfolgreiche Einsatz von KI keine leichte Aufgabe ist. Unternehmen müssen zunächst die erforderliche Menge an Daten sammeln, um ihre Modelle zu trainieren. Die tatsächlich benötigte Datenmenge hängt sowohl von der Komplexität der Aufgabenstellung als auch von der Komplexität des Lernalgorithmus ab. Diese Daten müssen dann etikettiert werden, damit sie die verschiedenen Elemente, die das KI-Modell erkennen und analysieren soll, unterscheiden können. Dies ist eine mühsame Aufgabe, die Zeit und Kosten erfordert, um die Objekte, Bewegungen und Eingaben zu identifizieren, die die KI erkennen soll. Helfen können spezialisierte Tools für die Automatisierung dieses Etikettierungsprozesses.

Große Anzahl vorhandene KI-Modelle

Dann müssen die Benutzer ihre Modelle auswählen. Nur wenige erstellen ihre eigenen Modelle, da dies mit einem enormen Aufwand verbunden ist. Darüber hinaus gibt es bereits eine große Anzahl von bereits vorhandenen Modellen, die für die meisten Anwendungsfälle ausgewählt werden können. Die Auswahl dieser Modelle kann jedoch eine weitere Herausforderung darstellen. Die Entwickler müssen mehrere Faktoren abwägen, wie z. B. die Genauigkeit, die Gesamtzahl der Berechnungen oder die schiere Größe des Modells.

Beispielsweise werden in einem Geschäft, das ganz auf Kassen verzichten will, Hunderte bis Tausende KI-gesteuerte Kameras benötigt, um festzustellen, was im Geschäft vor sich geht. Weitere Herausforderungen ergeben sich, wenn Entwickler verschiedene Optionen ausprobieren und versuchen, ihre unterschiedlichen Bedürfnisse unter einen Hut zu bringen. Möglicherweise entscheiden sie sich zunächst für ein Modell wie MobileNet-SSD, stellen dann aber fest, dass dessen Genauigkeit nicht den Anforderungen entspricht, und wechseln zu einer Alternative wie Yolo oder Efficient-Det – Modelle, die eine höhere Genauigkeit bieten, aber mehr Rechenleistung erfordern.

KI-Schulung mit Trainingsdaten

Wenn diese Elemente vorhanden sind, kann das Training der KI-Modelle beginnen, damit sie wissen, was sie erkennen, wie sie reagieren und wie sie Verhalten vorhersagen können. Dazu gehören in der Regel Trainingsdaten, mit denen das Modell simuliert, gefüttert und im Laufe der Zeit kontinuierlich verbessert wird. Das Training wird in der Regel in der Cloud durchgeführt, da diese eine hohe Verarbeitungsleistung bietet und Cloud-Dienste wie Microsoft Azure über leicht verständliche Mechanismen für das Training von Modellen verfügen.

Wenn die Zeit für den vollen Betrieb gekommen ist, müssen Unternehmen ihre KI-Modelle auf Live-Systemen einsetzen. Dies kann eine besonders schwierige Phase sein, in der viele Projekte ins Stocken geraten. Ein Bericht aus dem Jahr 2020 zeigt, dass 40 Prozent der Unternehmen angaben, dass es mehr als einen Monat dauert, ein ML-Modell einzusetzen. Einer der Gründe für diesen Zeitaufwand ist, dass viele Unternehmen die architektonischen und technischen Besonderheiten ihres Edge-KI-Beschleunigers nicht berücksichtigen.

Um ein bevorzugtes ML-Modell erfolgreich in einem realen System einsetzen zu können, muss es in eine Inferenzpipeline integriert werden, die Ergebnisse erzeugt, auf die eine Anwendung reagieren kann. Hier kommen eine ganze Reihe neuer Faktoren und Überlegungen ins Spiel, die das Modell auf dem Papier” in ein einsatzfähiges Edge-System überführen.

Die Bedeutung von Tools

In dieser Phase werden Tools, die den Prozess der Überführung des gewählten Modells in die Live-Bereitstellung begleiten, zu einem entscheidenden Faktor für den Erfolg. Um ein System aus der Cloud in den Edge-Bereich zu bringen, sind Tools erforderlich, die sich leicht installieren und einrichten lassen und die – ohne spezielle Konfiguration – in der Lage sind, das Modell optimal in das für den gewählten Edge-KI-Beschleuniger erforderliche Format zu konvertieren.

In diesem Stadium – wo das Modell quantisiert und kompiliert wird – können KI-Projekte auf Genauigkeitsprobleme stoßen. KI-Modelle werden meist im 32-Bit-Format trainiert, um eine hohe Genauigkeit zu gewährleisten. Wenn sie jedoch zum Einsatz kommen, muss das Modell in das 8-Bit-Ganzzahlformat quantisiert werden, das KI-Beschleuniger zur Verarbeitung von Modellen verwenden und das die Modellgröße um etwa das Vierfache reduziert.

Ein erneutes Training kann auch erforderlich sein, wenn Entwickler ihre Modelle an die spezifischen Anforderungen des KI-Beschleunigers anpassen müssen, auf dem das Modell eingesetzt werden soll. Diese können architektonische Beschränkungen aufweisen, die bedeuten, dass das Modell nicht ohne Leistungs- oder Genauigkeitseinbußen ausgeführt werden kann, wie sie derzeit bestehen. Dies kann für KI-Initiativen ein Schmerzpunkt sein, und auch hier müssen die Entwickler ihre Tools sorgfältig auswählen, um die Notwendigkeit einer Umschulung in diesen Bereichen zu begrenzen oder zu vermeiden.

Der Konvertierungsprozess kann zu einem erheblichen Genauigkeitsverlust führen, wenn er nicht sorgfältig durchgeführt wird. Aus diesem Grund sind Werkzeuge, die diesen Genauigkeitsverlust auf ein Minimum reduzieren, für den Erfolg entscheidend.

KI-Modelle immer wieder neu trainieren

Der Übergang von der Schulung zum Einsatz findet nicht nur einmal statt. Tatsächlich wird ein gut gepflegtes KI-Modell im Laufe seiner Lebensdauer wahrscheinlich ständig neu trainiert und eingesetzt. Schließlich lernen KI-Modelle, und während sie in einem bestimmten Anwendungsfall arbeiten, sammelt das System Informationen, um zu lernen, wie es die erforderlichen Vorgänge präziser und effizienter durchführen kann. Wenn ein Modell korrekt arbeitet, sollte es in der Lage sein, vorauszusehen, was in einem normalen Bereich von Aktivitäten passiert.

Wenn jedoch neue Dinge auftreten, müssen die Modelle die neuen Daten einbeziehen. Dies ist zwar ein Beispiel für einen Cloud-basierten KI-Algorithmus, aber laut einer Studie der Bank of England gab mehr als ein Drittel der britischen Banker an, dass ihre ML-Modelle während der Pandemie Probleme hatten. Sie hatten noch nie einen derartigen Schock erlebt und daher diese Möglichkeit nicht in ihr Verständnis einbezogen. Diese Modelle hätten neu trainiert werden müssen, und viele dieser KI-Modelle müssen dies ständig tun, um ihre Analysefähigkeiten zu aktualisieren und die inhärente Lernfähigkeit zu nutzen.

Bohnen und Karotten unterscheiden

Ein erneutes Training wird auch dazu verwendet, ein Modell für einen bestimmten Anwendungsfall zu verfeinern. Frei verfügbare Modelle werden in der Regel mit Datensätzen wie Google Open Images trainiert, die online leicht zugänglich sind. Diese können eine Vielzahl von Datentypen umfassen, und Entwickler müssen ihre Modelle oft neu trainieren, um sie an den spezifischen Datensatz anzupassen, den ihr KI-Modell analysieren soll. Wenn zum Beispiel ein Bilderkennungsmodell trainiert wurde, die Entwickler es aber in einem Geschäft einsetzen möchten, muss es möglicherweise neu trainiert werden, um Bohnen- oder Karottenbüschel zu erkennen.

Der Einsatz von KI kann eine Herausforderung sein, und viele bleiben auf ihrer Reise, die mit Hindernissen gespickt sein kann, stecken. Der Schlüssel zum Erreichen des Ziels liegt jedoch in der sorgfältigen Auswahl der richtigen Tools und Beschleuniger für den Einsatz von KI-Modellen. Diese Entscheidungen machen den Unterschied zwischen einer effektiven, funktionierenden KI-Anwendung und einer, die am Straßenrand stehen bleibt.

Ravi Annavajjhala

ist CEO von Kinara. Der Silicon-Valley-Veteran hat mehr als 20 Jahre Erfahrung in den Bereichen Geschäftsentwick-lung, Marketing und Technologie. Ravi hat einen Master-Abschluss in Elektrotechnik von der West Virginia University und einen MBA von der Wharton School der University of Pennsylvania.