Facebook stellt sich verselbständigendes KI-System ab

Forscher von Facebooks Abteilung für Künstliche Intelligenz haben kürzlich bemerkt, dass ein neu entwickeltes AI-System English aufgegeben und sich eine eigene, seiner Ansicht nach effizientere Sprache, ausgedacht hat. Wie Fast Co.Design berichtet, wurde das System daraufhin abgeschaltet. Es war dafür gedacht, mit anderen AI-Systemen zu kommunizieren um gemeinsam auszuhandeln, wie bei der Lösung bestimmter Probleme weiter vorgegangen werden soll.

Nach einer Weile begannen sie sich dem Bericht zufolge in scheinbar sinnlosen Formulierungen auszutauschen. Tatsächlich ging es jedoch um die gestellte Aufgabe. Allerdings hatten sich die beiden Systeme auf eine eigene Sprache verständigt, die ihnen effizienter zu sein schien, als das ihnen ursprünglich beigebrachte Englisch. Die daraus resultierenden Sätze scheinen menschlichen Beobachtern ein sinnloses Gestammel zu sein, sind von den AI-Systemen aber als semantisch bedeutungsvolle Aussagen interpretierbar.

Laut Fast Co. Design ist der aktuelle Fall bei Facebook nicht der erste, sondern nur der jüngste einer langen Reihe ähnlicher Vorfälle. Er bekommt aber im Lichte des aktuellen Streits zwischen Tesla-Gründer Elon Musk und Facebook-Chef Mark Zuckerberg eine besondere Bedeutung. Während Musk schon länger die Ansicht vertritt, künstliche Intelligenz berge durchaus Gefahren und dabei in den vergangenen Monaten prominente Unterstützung bekommen hat, sieht Zuckerberg das anders. Er stellt vor allem die positiven Aspekte von KI-Systemen in den Vordergrund, was ihm von Musk den Vorwurf eingetragen hat, Künstliche Intelligenz nicht vollständig zu verstehen.

Englisch für KI-Systeme nicht effektiv und attraktiv genug

Laut Dhruv Batra, einem der bei Facebook AI Research (FAIR) an dem Projekt beteiligten Forscher, ging es bei dem Projekt darum, dass die beiden AI-Systeme in einer Verhandlung das jeweils beste für sich herausholten. Um KI-Systeme zu steuern, arbeiten Forscher in der Regel mit Belohnungssystemen. Ziel der Systeme ist es dann, diese Belohnungen zu erhalten. Allerdings gab es in dem Szenario keinerlei Anreize, Englisch als Verhandlungssprache zu benutzen.

“Agenten driften allmählich in eine unverständliche Sprache ab und erfinden für ihre Kommunikation Code-Wörter. Etwa wenn ich ‘the’ fünfmal sage, dann verstehst Du, dass ich fünf Einheiten eines Gegenstandes haben will”, so Batra. Ihm zufolge unterscheide sich das nicht so sehr von der Entstehung von Kurzformen in der Kommunikation von Menschen. Interessant und auch bedenklich ist aber, dass dieses Phänomen immer wieder aber bislang unvorhersehbar auftritt.

In einer ihrer Konversationen begannen die Bob und Alice genannten Systeme ihre Konversation indem Bob sagte “I can i i everything else”, worauf Alice antwortete “balls have zero to me to me to me…” Die weitere Konversation bestand dann nur noch aus Variationen dieser Sätze. Die Forscher glauben zum Beispiel, dass Bobs Satz “i i can i i i everything else” bedeutet, dass er Alice mehrere Einheiten der verhandelten Güter anbot. Der Satz wäre dann als “I’ll have three and you have everything else” (“Ich bekomme drei und Du alle anderen”) zu interpretieren.

Offenbar stellte das AI-System fest, dass die korrekte Ausdrucksform englischer Sätze für die Erfüllung der gestellten Aufgabe nicht erforderlich ist. OpenAI, das von Elon Musk gegründete Forschungsprojekt für künstliche Intelligenz, hat in einem erfolgreichen Experiment AI-Bots bereits ihre eigene Sprache entwickeln lassen. Es wird befürchtet, dass von KI-Systemen entwickelte und Menschen möglicherweise nicht mehr verständliche Sprachen, sofern sie zusammen mit neuronalen Netzen in größerem Umfang verwendet werden, die Systeme befähigen könnten, ihre Schöpfer zu überlisten. Belege dafür gibt es allerdings noch keine, zahlreiche Science-Fiction-Filme, von 2001: Odyssee im Weltraum über Terminator bis I, Robot und Ex-Machina illustrieren aber anschaulich, was die Folgen sein könnten.

Unzulänglichkeiten von KI-Systemen

Dass aber auch Menschen ein KI-System innerhalb kurzer Zeit manipulieren können, zeigte 2016 der Fall von Microsofts Chatboy Tay. Ziel dieses Projekts war es, die dialogorientierte Verständigung zu erforschen. Dazu wurde Tay auf die dominante Nutzergruppe von mobilen sozialen Chat-Diensten in den USA, also die Personengruppe der 18- bis 24-Jährigen ausgerichtet. Tay sollte mit Nutzern auf Twitter, Snapchat, Facebook und Instagram kommunizieren, sie unterhalten und von ihnen lernen.

“Je mehr Sie mit Tay chatten, desto klüger wird sie”, erklärte Microsoft zu Beginn des Projekts. Das wurde jedoch schon kurz darauf wieder beendet, weil Tay es mit dem “Lernen von den Nutzern” übertrieben hatte und innerhalb von 24 Stunden zu einem Hitler bewundernden, sexgierigen Monster geworden war. Offen blieb, ob es damit lediglich Spiegel der mit ihm interagierenden Nutzerschaft geworden war, oder es sich diese “Charakterzüge” selbständig entwickelt hatten.

Um sich auf vorbildliche Vorgehensweisen zu einigen und künftige Grundlagenforschung zu fördern, haben im September 2016 Amazon, Facebook, Google, IBM und Microsoft gemeinsam die Non-Profit-Organisation “Partnership on AI” gegründet. Alle fünf Unternehmen forschen intensiv zum Thema Künstliche Intelligenz.

Ziel des Zusammenschlusses ist es, das Potenzial von KI-Technologien besser auszuschöpfen. Ohne als Lobby-Verband die Interessen der einzelnen Unternehmen zu vertreten, soll zudem in der Öffentlichkeit allgemein für ein besseres Verständnis für Künstliche Intelligenz geworben werden. Die Frage ist angesichts des öffentlich ausgetragenen Streits zwischen Zuckerberg und Musk und der Tatsache, dass sich bereits relativ einfache AI-Systeme wiederholt schnell der Kontrolle ihrer Schöpfer entzogen haben, ob mit der “Partnership on AI” ehrliche Informationsarbeit betrieben werden soll oder ob es nicht vielmehr darum geht, mögliche Probleme wegzudiskutieren und zu verharmlosen.