Open Source und KI: Passt das zusammen?
“Uns geht es vielmehr darum aufzuzeigen, wie Open-Source-KI realisierbar ist”, sagt Jan Wildeboer von Red Hat im Interview.
Wie passen Open Source und KI zusammen?
Jan Wildeboer: Das Mindestkriterium für Open-Source-KI liegt in der Kombination von Open-Source-lizenzierten Modellgewichten mit Open-Source-Softwarekomponenten. Dies ist ein Ausgangspunkt für Open-Source-KI, aber nicht das endgültige Ziel. Die Aufgabe für die Open-Source-Community, die Regulierungsbehörden und die Industrie ist unserer Meinung nach, sich beim Training und der Feinabstimmung von KI-Modellen weiterhin um eine größere Transparenz und eine Ausrichtung an Open-Source-Entwicklungsprinzipien zu bemühen. Beim Begriff Open-Source-KI streben wir somit keine formale Definition an, uns geht es vielmehr darum aufzuzeigen, wie Open-Source-KI realisierbar und für eine möglichst große Zahl von Communities, Unternehmen und Anbietern zugänglich wird.
Wichtige Themen im KI-Bereich sind für Sie das InstructLab-Projekt und Granite 3.0. Welche Möglichkeiten bieten sie?
InstructLab senkt die Hürde für den Einstieg in die KI-Modellentwicklung erheblich. Auch für Nutzer, die keine Data Scientists sind. In InstructLab können Domain-Experten aus verschiedenen Bereichen ihre Kenntnisse und ihr Wissen einbringen, und zwar einerseits für den internen Gebrauch und andererseits auch für die Entwicklung eines offen zugänglichen Open-Source-KI-Modells für Upstream Communities. Die Granite-3.0-Modellfamilie wiederum deckt ein breites Spektrum an KI-Anwendungsfällen ab, von der Codegenerierung über die Verarbeitung natürlicher Sprache bis hin zur Gewinnung von Erkenntnissen aus großen Datensätzen – alles unter einer Open-Source-Lizenz.
Welche Funktion nimmt Open Source in Ihrem KI-Portfolio ein?
Open-Source-Technologien und -Entwicklungsprinzipien bilden den Kern unserer KI-Angebote. So basiert Red Hat OpenShift AI auf Kubernetes, KubeFlow und OCI-konformen Containern sowie einer Vielzahl anderer Cloud-nativer Open-Source-Technologien. Red Hat Enterprise Linux AI beinhaltet die Open-Source-lizenzierte Granite-LLM-Familie von IBM und das Open-Source-Projekt InstructLab.
Die Arbeit von Red Hat im Bereich Open-Source-KI geht aber weit darüber hinaus und umfasst viele Tools, die für die tatsächliche Nutzung und den produktiven Einsatz von KI erforderlich sind. So sind wir in einer ständig steigenden Zahl von Upstream-Projekten und -Communities aktiv. Dazu gehören unter anderem RamaLama, ein Open-Source-Projekt, das auf das einfache lokale Management von KI-Modellen abzielt, TrustyAI, ein Open-Source-Toolkit für den Aufbau vertrauenswürdiger KI-Workflows, das Projekt Climatik, das KI in Bezug auf den Energieverbrauch nachhaltiger gestalten soll, und Podman AI Lab, ein Entwickler-Toolkit zur Erleichterung von Experimenten mit Open-Source-LLMs.
Darüber hinaus unterstreicht unsere jüngste Ankündigung rund um Neural Magic unsere KI-Vision, Unternehmen kleinere und optimierte KI-Modelle bereitzustellen, einschließlich Open-Source-lizenzierter Modelle. Unter Nutzung des vLLM-Inferenzservers können Unternehmen dabei einen KI-Stack aufbauen, der nur auf transparenten und unterstützten Technologien basiert.
Welche Bedeutung nimmt im KI-Kontext die Hybrid Cloud ein?
Aus Sicht von Red Hat ist die Hybrid Cloud die ideale Infrastrukturbasis für Open-Source-KI. Gerade die Hybrid Cloud bietet die dringend benötigte Flexibilität bei der Wahl der besten Umgebung für die jeweiligen KI-Workloads. Zudem unterstützt sie bei der Optimierung von Performance, Kosten, Skalierbarkeit und Sicherheit. Unsere Lösungen sind auf diese Ziele ausgerichtet und wir arbeiten dabei erfolgreich mit Industriepartnern, Kunden und der breiteren Open-Source-Community zusammen, um Open-Source-KI-Innovationen weiter voranzutreiben. Dabei besteht ein immenses Potenzial, diese offene Zusammenarbeit im Bereich der KI auszuweiten. Wir sehen eine Zukunft, die sowohl die transparente Arbeit an Modellen als auch deren Training umfasst. Generell werden wir auch weiterhin Bemühungen unterstützen, die das Ziel verfolgen, die Welt der KI weiter zu öffnen und zu demokratisieren.
ist EMEA Evangelist bei Red Hat.
