Keepler: “Die Einführung generativer KI verlangt eine ordnungsgemäße Überprüfung der generierten Inhalte vor der Bereitstellung”

Die Generative KI ist momentan in aller Munde. Seit Open AI ChatGPT ins Leben gerufen hat, wird diese neue Entwicklung der künstlichen Intelligenz auf allen Ebenen thematisiert. Es handelt sich dabei nicht nur um eine Technologie, die in der Geschäftswelt angesiedelt ist. Vielmehr hat sie den Zugang zur Nutzung von KI demokratisiert, indem sie durch zahlreiche Anwendungsmöglichkeiten für jeden und jede Zweckbestimmung verfügbar gemacht wurde.

Die Unternehmen sind von dieser Entwicklung überwältigt, versuchen aber, die Vorteile zu erkennen, die sie für ihre Geschäftsziele bringen kann. Zu den Stimmen, die die Diskussion zum Thema Generative KI anführen, gehört Keepler Data Tech, ein Cloud-basiertes Unternehmen für Datendienste, das seinen Kunden hilft, ihre Unternehmen datengesteuert zu führen.

Als Datenexperten sieht Keepler in der Generativen KI ein großes Potenzial, welches es zu nutzen und zu steuern gilt. Die Geschwindigkeit, mit der sich alles rund um die KI weiterentwickelt, und die Notwendigkeit, die Kunden bei diesem Anpassungsprozess zu begleiten, hat zur Ernennung

von Ramiro Manso als Head of Generative AI geführt. Ramiro ist einer der Data Leads des

Unternehmens, der den Bereich Daten seit dem Start von Keepler leitet. Jetzt steht er vor der

Herausforderung, Generative KI im Unternehmen einzuführen, die notwendigen internen Kapazitäten aufzubauen und bei der Implementierung solcher Lösungen auf Kundenseite mitzuwirken.

Wir haben mit ihm gesprochen, um zu verstehen, wie Generative KI Unternehmen verändern kann.

– Für diejenigen, die mit dem Thema noch nicht vertraut sind: Was ist Generative KI? Welche Unterschiede gibt es im Vergleich zur klassischen KI?

Generative KI ist eine (relativ) neue Disziplin im Bereich der künstlichen Intelligenz, die versucht, basierend auf einer Anfrage oder Aufforderung neue Beobachtungen zu generieren (Text, Audio, Bilder …). Der Hauptunterschied zu anderen Disziplinen besteht darin, dass in Fällen wie einem ML-Klassifikationsmodell ein Unterscheidungskriterium oder eine Decision Boundary angestrebt wird, die die Beobachtungen in Klasse A oder B (oder C oder D …) trennt.

Anhand eines bildbasierten Beispiels lässt sich der Unterschied folgendermaßen erklären: Das Erkennungsmodell wird mit Bildern von Katzen trainiert, um Katzen in neuen Bildern zu identifizieren, und das GenKI-Modell wird mit Bildern von Katzen trainiert, um neue Bilder von Katzen zu erfinden.

– Inwieweit kann Generative KI die Datenverarbeitung und Informationsgenerierung revolutionieren?

Wir sind tatsächlich an einem Punkt angelangt, an dem es darum geht, die reale Kapazität dieser Modelle bei der Verarbeitung von Informationen zu bewerten, vor allem in Bezug auf natürliche Sprache. Das Erstellen von Vorlagen, das Umformulieren von Texten je nach Kontext, das Identifizieren von Elementen in Inhalten … Eines der einfachsten, aber effektivsten Beispiele ist für mich die Fähigkeit, Informationen zusammenzufassen. Ich habe die verschiedenen Methoden ausprobiert, die sich im Laufe der Zeit herauskristallisiert haben: LDA für Topic Modelling, tf-idf für Schlüsselsätze in einem Text, rekurrente Netze für Zusammenfassungen … Dies ist das erste Mal, dass man behaupten kann, dass Informationen so zusammengefasst werden, wie es ein Mensch tun würde.

Die Auswirkungen der Anwendung dieser Technologien auf den Bereich der Datenverarbeitung sind gewaltig. Ganz zu schweigen davon, dass die Technologie sogar auch zur Programmierung von Codes verwendet werden kann! Automatische Generierung von Tests, Kommentaren und sogar des Codes selbst.

– Jeden Tag kommen neue Anwendungen der Generativen KI auf den Markt. Haben wir es in diesem Bereich mit einer Spekulationsblase zu tun oder ist das Potenzial tatsächlich so groß, dass es zur Schaffung von so viel Angebot führt?

Vermutlich beides. Es handelt sich um eine bahnbrechende Technologie, die viele verschiedene Bereiche betrifft. Die eher klassische Disziplin des Machine Learning (auch wenn ich sie nur ungern als „traditionell“ bezeichne, aber um dies genauer zu erklären, bräuchten wir mehr Zeit) hatte auf der Ebene der prädiktiven und präskriptiven Analytik einen enormen Einfluss auf Unternehmensbereiche. Hier handelt es sich um ein ähnliches Szenario, aber mit einer viel kleineren technischen Einstiegshürde und einer viel größeren potenziellen Auswirkung.

Aber es ist nicht alles Gold, was glänzt. Wir müssen uns darüber im Klaren sein, dass diese Modelle zwar hervorragend dazu geeignet sind, Informationen zu synthetisieren, aber das bedeutet nicht, dass sie diese auch verstehen. Das Verständnis dafür, was tatsächliche Fähigkeiten und was nur Illusionen sind, wird diejenigen, die diese Disziplin richtig verstanden haben, von den Menschen unterscheiden, die dem Hype zum Opfer gefallen sind.

– Welche hauptsächlichen Anwendungsmöglichkeiten sehen Sie für Unternehmen, die diese Technologie nutzen möchten?

Der erleichterte Zugang zu Informationen durch neue Techniken zur Suche und Zusammenfassung von Inhalten ist wahrscheinlich einer der wichtigsten Anwendungsbereiche, mit denen ein Unternehmen zunächst arbeiten sollte. Die Erstellung von Vorlagen, entweder in Form von Dokumenten oder Entwürfen, basierend auf bestimmten Vorgaben, ist ein weiterer wichtiger Anwendungsbereich für den Anfang.

Das bedeutet nicht, dass dies die einzigen Bereiche sind, aber sie gehören wohl zu den am besten zugänglichen. Etwas komplexere Beispiele könnten sich auf die Personalisierung von Inhalten und/oder Kundenerlebnissen konzentrieren, entweder durch die Anpassung von Marketingstrategien an die Charakteristika der einzelnen Personen oder Segmente oder auf der Grundlage ihrer Kaufpräferenzen. Es können auch automatisierte Berichte aus verschiedenen Datenquellen generiert werden, um den internen Teams eines Unternehmens die Entscheidungsfindung durch Abgleich von Informationen zu erleichtern.

Nicht alles muss in Schriftform vorliegen. Man denke an das Rapid Prototyping von Grafikdesigns, die Verbesserung von Computer-Vision-Modellen durch Bildvergrößerungstechniken auf der Grundlage von Bilderzeugung und -vervollständigung oder auch an die Erzeugung von kontextbezogener Musik auf der Grundlage von Videoinhalten.

Dies sind alles Beispiele mit mehreren Komplexitätsstufen (und Durchführbarkeitsstufen), die diese Technologien jetzt ermöglichen. Eine der größten Herausforderungen besteht darin, den besten Weg zu finden, um sie intern in einem Unternehmen richtig umzusetzen.

– Wie kann ein Unternehmen wie Keepler, gemessen an seinem Know-how und seiner Erfahrung, die Einführung einer solchen Technologie in Angriff nehmen?

Bei Keepler begegnen wir der Entwicklung von Technologien wie der Generativen KI durch kontinuierliche interne Schulungen und die ständige Beobachtung aufkommender Technologien. Wir führen interne Beurteilungen durch, um ihr Potenzial und die notwendigen Voraussetzungen für die richtige Anwendung zu ermitteln. Darüber hinaus analysieren wir die möglichen Anwendungen in unserem Unternehmen und verfolgen die raschen Veränderungen hinsichtlich der Frameworks und Services, die sie unterstützen.

Zwei unserer Unternehmenswerte sind die kontinuierliche Verbesserung und die Wertschöpfung. Sie leiten uns in unserem Engagement, auch im Zeitalter der Generativen KI weiterhin innovativ zu sein und bahnbrechende Lösungen anzubieten.

– Wie integrieren Sie die Generative KI in Ihre Dienstleistungen? Könnten Sie uns dazu Genaueres sagen?

Im Hinblick auf die Integration von Generativer KI in unsere Dienstleistungen haben wir eine Strategie entwickelt, die auf der Beantwortung dieser Schlüsselfragen basiert. Zunächst haben wir geprüft, welche Bereiche unserer bestehenden Dienstleistungen von Generativer KI in Bezug auf Genauigkeit, Leistung oder Effizienz profitieren könnten. Wir haben genauer untersucht, wie wir aktuelle Lösungen erweitern und verbessern können, indem wir Generative KI als zusätzliches Tool zur Optimierung der Ergebnisse einsetzen.

Darüber hinaus haben wir neue Geschäftsmöglichkeiten erschlossen, die ohne diese Technologie nicht möglich gewesen wären. Wir konzentrieren uns darauf, Bereiche zu identifizieren, in denen die Erstellung von Inhalten, die Personalisierung und die datengesteuerte Entscheidungsfindung ein höheres Maß an Qualität und Effektivität erreichen können.

– Was sollten große Unternehmen beachten, die mit dieser Technologie Anwendungsfälle lösen wollen?

Wenn man beginnt, Anwendungsfälle mit Technologien wie der Generativen KI anzugehen, sollten bestimmte Schlüsselaspekte beachtet werden. Zum einen unterliegen die zugehörigen Frameworks und Tools einem ständigen Wandel und sind nicht unbedingt produktionsreif und erfordern eine angemessene Bewertung ihres Status, ihrer potenziellen Probleme und ihrer Grenzen. Außerdem sind generative Sprachmodelle nicht deterministisch (was bei ML-Modellen nichts Neues ist, außer bei Seeds), was bedeutet, dass Qualitätskontrollmechanismen eingerichtet werden müssen und eine ordnungsgemäße Überprüfung der generierten Inhalte sichergestellt werden muss, bevor sie an die Benutzer geliefert werden.

Zum anderen müssen Unternehmen auch die Risiken berücksichtigen, die mit generativen Sprachmodellen verbunden sind, wie z. B. die Gefahr von Voreingenommenheit und die Generierung unangemessener Inhalte. Daher ist es wichtig, strenge KI-Ethik- und Governance-Richtlinien und -Praktiken einzuführen.

Nicht zuletzt ist es wichtig, interne Teams und Kunden über die Möglichkeiten und Grenzen dieser Modelle aufzuklären, um zu vermeiden, dass (intern oder extern) irreführende oder potenziell schädliche Informationen verbreitet werden. Oder einfach nur, um die Erwartungen an die Fähigkeiten der Technologien richtig einzuschätzen. Das kann jeder nachvollziehen, der lange genug im Bereich der Informationsverarbeitung gearbeitet hat.

– Ein weiteres brisantes Thema sind die ethischen Aspekte der Generativen KI, wie z. B. der Missbrauch der Technologie, die Erstellung von Fakes, die Vernichtung von Arbeitsplätzen … Wie sieht die Realität in dieser Hinsicht auf kurze Sicht aus?

Das ist eine komplizierte Frage, vor allem bei einer Technologie, die noch so neu ist und bei der wir noch keine genaue Vorstellung von den tatsächlich vorhandenen Möglichkeiten und Grenzen haben und wie sie sich in Zukunft entwickeln könnten.

Kurzfristig sind die größten Herausforderungen der Missbrauch der Technologie und die Generierung von Fake-Inhalten. Es besteht das Risiko, dass generative Modelle dazu verwendet werden, irreführende oder manipulative Informationen zu erstellen (die verschiedenen Arten von Fakes, die Sie erwähnten), was negative Auswirkungen auf das Vertrauen in der Öffentlichkeit haben kann sowie zur Verbreitung von Fake News und Falschmeldungen führen kann. Darüber hinaus ist auch die Abschaffung bestimmter Arbeitsplätze durch generative Automatisierung ein aktuelles Problem, entweder, weil man zu stark auf die Fähigkeiten dieser Technologien vertraut oder weil Quantität Vorrang vor Qualität hat.

– Und auf lange Sicht?

Auf lange Sicht werden diese ethischen Herausforderungen wahrscheinlich noch komplexer werden, wenn die Technologie weiter voranschreitet. Da die generativen Modelle immer ausgefeilter werden, können sich die derzeitigen Bedenken hinsichtlich des Datenschutzes durch den technologischen Fortschritt noch verstärken. Ähnliches könnten wir bei Prozessen beobachten, bei denen die Entscheidungsfindung durch generative Systeme zu sehr automatisiert wurde. Es ist von entscheidender Bedeutung, diese Herausforderungen proaktiv anzugehen und geeignete ethische Rahmenbedingungen und Vorschriften einzuführen, um die verantwortungsvolle und sichere Nutzung Generativer KI zu gewährleisten.