IT-Trends 2024: KI-basiertes Wettrüsten geht in die nächste Runde

Das WatchGuard Threat Lab sieht unter anderem bösartigen Prompt-Engineering-Tricks, die auf LLM abzielen. Das gleiche gilt für „Vishers“, die ihre bösartigen Operationen mit KI-basierten Sprach-Chatbots ausweiten, und Hacker, die es auf moderne VR/MR-Headsets abgesehen haben.

Aber auch auf der Verteidigerseite wird sich dank zunehmender Automatisierung ganz sicher einiges verändern. Es zeichnet sich deutlich ab, dass im Zuge der zunehmenden Komplexität bei der Absicherung von Unternehmen und dem voranschreitenden Fachkräftemangel professionelle Managed Security Services auf Basis integrierter Sicherheitsplattformen immer stärker an Schlagkraft gewinnen. Die wichtigsten Vorhersagen des WatchGuard Threat Lab

Prompt Engineering überlistet Large Language Models (LLM)

Das Experimentieren mit KI-Sprachmodellen ist inzwischen sowohl im Privat- als auch Unternehmensumfeld gang und gäbe, schließlich versprechen diese im Alltag entscheidende Unterstützung. Aber auch Cyberbösewichte wissen diesen Trend zu ihrem eigenen Vorteil auszuspielen. Insofern hält das WatchGuard Threat Lab ein Szenario, in dem ein cleverer Prompt-Engineer – sei es ein krimineller Angreifer oder ein Forscher – den Code knacken und ein LLM so manipulieren wird, dass vertrauliche Daten durchsickern, in den kommenden Monaten für durchaus realistisch.

Zahl der von MSP über automatisierte Plattformen bereitgestellten Security-Services wird sich verdoppeln

Angesichts von rund 3,4 Millionen freien Stellen im IT-Security-Umfeld und des verbitterten Kampfs um Fachkräfte werden 2024 bei der IT-Absicherung immer mehr kleine und mittelständische Unternehmen Unterstützung bei professionellen Dienstleistern (Managed Service Provider oder Managed Security Service Provider) suchen. Um der steigenden Nachfrage und den knappen Personalressourcen gerecht zu werden, werden diese wiederum verstärkt auf einheitliche Sicherheitsplattformen setzen, die auf umfangreicher Automatisierung mithilfe künstlicher Intelligenz (KI) und maschinellem Lernen (ML) basieren.

Verkauf von KI-Spear-Phishing-Tools im Dark Web erlebt Boom

Bereits heute können Cyberkriminelle im Untergrund Werkzeuge erhalten, die Spam-E-Mails versenden, automatisiert überzeugende Texte verfassen und das Internet und die sozialen Medien nach Informationen und Verbindungen eines bestimmten Ziels durchsuchen. Viele davon sind heute noch auf manuelle Anwendung ausgelegt und setzen voraus, dass ein Angreifer zu einem Zeitpunkt jeweils einen Nutzer oder eine spezifische Gruppe ins Visier nimmt. Doch genau diese bisher händischen Schritte werden künftig dank künstlicher Intelligenz und maschinellem Lernen ebenfalls immer stärker automatisiert erfolgen. Umso wahrscheinlicher ist es, dass sich diese neuen KI-gestützten Tools im Jahr 2024 zu Bestsellern im Dark Web entwickeln.

2024 erfolgt Startschuss für KI-gestützten Telefonbetrug (Vishing)

Voice over Internet Protocol (VoIP) und Automatisierungstechnologie machen es zwar einfach, Tausende von Nummern in Massen anzuwählen, aber sobald ein potenzielles Opfer mit einem Anruf geködert wurde, ist immer noch ein menschlicher Betrüger nötig, um es endgültig in die Falle zu treiben. Dieser bisherige Vishing-Flaschenhals könnte 2024 der Vergangenheit angehören. WatchGuard prognostiziert, dass die Kombination aus überzeugendem Deepfake-Audio und LLM, die in der Lage sind, weiterführende Gespräche mit ahnungslosen Opfern zu führen, Vishing-Anrufe massiv befeuert. Darüber hinaus ist möglicherweise nicht einmal mehr die Beteiligung eines menschlichen Bedrohungsakteurs erforderlich.

VR/MR-Headsets ermöglichen die Nachbildung von Benutzerumgebungen

Headsets für Virtual und Mixed Reality (VR/MR) erfreuen sich zunehmender Beliebtheit. Doch wo immer neue und nützliche Technologien auftauchen, sind auch kriminelle Hacker meist nicht weit. Die Experten vom WatchGuard Threat Lab erwarten, dass im Jahr 2024 entweder ein Forscher oder ein böswilliger Hacker eine Technik finden wird, um einschlägige Sensordaten von VR/MR-Headsets zu sammeln, auf deren Basis sich  die tatsächliche Umgebung, in der die Benutzer spielen, nachempfinden lässt. Dem Missbrauch dieser Informationen stehen damit Tür und Tor offen.

Ausufernder Einsatz von QR-Codes führt zu schlagzeilenträchtigem Angriff

Obwohl es QR-Codes – die eine bequeme Möglichkeit bieten, per Mobilgerät auf einen Link zuzugreifen – schon seit Jahrzehnten gibt, sind diese gerade in letzten Jahren im Mainstream angekommen und finden sich heute beinahe überall wieder. Für die Analysten vom Threat Lab stehen die Chancen extrem hoch, dass es im Jahr 2024 zu einem großen Hack kommen wird, weil jemand einem QR-Code folgt, der zu einem bösartigen Ziel führt.