KI-gestütztes Werkzeug entdeckt manipulierte digitale Inhalte

Ein Konsortium rund um das AIT Austrian Institute of Technology forschte an einem leicht bedienbaren Werkzeug, das Anwender mit Hilfe von Künstlicher Intelligenz beim Erkennen von
Falschinformationen im Internet unterstützt. Die enorme Informationsflut im Internet bringt Risiken mit sich, die nicht mehr ausschließlich manuell erkannt werden können. Nun wurde das österreichische Forschungsprojekt “defalsif-AI” erfolgreich abgeschlossen.

Zum Überprüfen oder Verifizieren von digitalen, multimedialen Inhalten lädt man diese auf eine
Online-Plattform hoch oder gibt dort die entsprechende Webadresse ein, ergänzt Hintergrundinformation und startet den Check. Zusatzinformationen wie “Audio” oder “Porträtbild” helfen dem System, die richtigen Analysemethoden und -tools auszuwählen. Das System sucht dann auf technischer Ebene nach Anhaltspunkten für Desinformation oder manipulierte Inhalte. Im Anschluss erhalten Anwender die Ergebnisse einfach und verständlich dargestellt.

Lösung in andere Systeme integrierbar

Die entwickelte Lösung ist offen konzipiert, einfach weiterzuentwickeln sowie in andere Systeme integrierbar. Die Medienunternehmen APA – Austria Presse Agentur sowie der ORF waren neben Enlite AI, Research Institute, Donau Universität Krems und ministeriellen Bedarfsträgern aus der öffentlichen Verwaltung als Projektpartner an “defalsif-AI” beteiligt.

Der Schutz von Demokratie und demokratischen Institutionen lautete das übergeordnete Projektziel von defalsif-AI. “Künstliche Intelligenz wirkt dabei als System, das den Menschen bei
der Überprüfung und Verifizierung digitaler Inhalte unterstützt, ihm aber keine Entscheidungen abnimmt”, sagt Martin Boyer, Projektleiter und Senior Research Engineer am AIT Austrian Institute of Technology im Center for Digital Safety & Security.  Fünf Nachfolgeprojekte stehen in den Startlöchern, bei denen der Fokus unter anderem auf der weiteren Automatisierung und Weiterentwicklung der Analysemethoden liegen wird, womit das Tool künftig auch für einen breiteren Anwenderkreis zugänglich werden wird.