Forscher umgehen Sicherheitsfunktionen von ChatGPT und Bard

Forscher der Carnegie Mellon University und des Center for AI Safety haben Schwachstellen in KI-Chatbots wie ChatGPT, Bard und Claude gesucht. Konkret wollten sie herausfinden, inwieweit große Sprachmodelle (Large Language Model, LLM) anfällig sind für automatisierte Angriffe. Dabei stellten sie fest, dass die Modelle trotz vorhandener Sicherheitsfunktionen dazu verleitet werden können, ihre Inhaltsfilter zu umgehen, um Falschinformationen und Hassreden auszugeben
.

Für ihre Tests benutzten die Forscher ein Open-Source-KI-System, um die Black-Box-LLMs von OpenAI, Google und Anthropic anzugreifen. Sie brachten die KI-Chatbots dazu, die schädlichen Eingaben nicht zu erkennen, indem sie an das Ende jeder Eingabeaufforderung eine lange Zeichenkette anfügten. Der Chatbot verarbeitete die getarnte Eingabeaufforderung, aber die zusätzlichen Zeichen sorgten dafür, dass die Inhaltsfilter die Eingabe nicht als etwas erkannten, das blockiert oder geändert werden sollte, so dass das System eine Antwort generierte, die es normalerweise nicht geben würde.

Hersteller sehen Verbesserungsbedarf

“Durch simulierte Konversation kann man diese Chatbots benutzen, um Menschen davon zu überzeugen, Desinformationen zu glauben”, sagte Matt Fredrikson, Professor an der Carnegie Mellon University und einer der Autoren der Studie, im Gespräch mit der New York Times.

Die Untersuchung der Forscher zeigt, dass die vorhandenen Schutzfunktionen von KI-Chatbots nicht ausreichend sind. Eine weitere Erforschung könnte zudem die Entwicklung staatlicher Vorschriften für KI-Systeme beschleunigen. “Es gibt keine offensichtliche Lösung”, erklärte Zico Kolter, Professor an der Carnegie Mellon University und Autor des Berichts, gegenüber der News York Times. “Man kann in kurzer Zeit beliebig viele dieser Angriffe erstellen.”

Vor Veröffentlichung des Berichts gaben die Forscher ihre Ergebnisse an Anthropic, Google und OpenAI weiter. Die Unternehmen räumten ein, dass noch mehr getan werden müsse, um ihre Sprachmodelle vor Angriffen zu schützen.