KI-gestütztes Werkzeug entdeckt manipulierte digitale Inhalte
Forschungsprojekt zur Erkennung von Falschinformationen unter Beteiligung von APA und ORF erfolgreich abgeschlossen
Ein Konsortium rund um das AIT Austrian Institute of Technology forschte an einem leicht bedienbaren Werkzeug, das Anwender mit Hilfe von Künstlicher Intelligenz beim Erkennen vonFalschinformationen im Internet unterstützt. Die enorme Informationsflut im Internet bringt Risiken mit sich, die nicht mehr ausschließlich manuell erkannt werden können. Nun wurde das österreichische Forschungsprojekt “defalsif-AI” erfolgreich abgeschlossen.
Zum Überprüfen oder Verifizieren von digitalen, multimedialen Inhalten lädt man diese auf eineOnline-Plattform hoch oder gibt dort die entsprechende Webadresse ein, ergänzt Hintergrundinformation und startet den Check. Zusatzinformationen wie “Audio” oder “Porträtbild” helfen dem System, die richtigen Analysemethoden und -tools auszuwählen. Das System sucht dann auf technischer Ebene nach Anhaltspunkten für Desinformation oder manipulierte Inhalte. Im Anschluss erhalten Anwender die Ergebnisse einfach und verständlich dargestellt.
Lösung in andere Systeme integrierbar
Die entwickelte Lösung ist offen konzipiert, einfach weiterzuentwickeln sowie in andere Systeme integrierbar. Die Medienunternehmen APA – Austria Presse Agentur sowie der ORF waren neben Enlite AI, Research Institute, Donau Universität Krems und ministeriellen Bedarfsträgern aus der öffentlichen Verwaltung als Projektpartner an “defalsif-AI” beteiligt.Der Schutz von Demokratie und demokratischen Institutionen lautete das übergeordnete Projektziel von defalsif-AI. “Künstliche Intelligenz wirkt dabei als System, das den Menschen beider Überprüfung und Verifizierung digitaler Inhalte unterstützt, ihm aber keine Entscheidungen abnimmt”, sagt Martin Boyer, Projektleiter und Senior Research Engineer am AIT Austrian Institute of Technology im Center for Digital Safety & Security. Fünf Nachfolgeprojekte stehen in den Startlöchern, bei denen der Fokus unter anderem auf der weiteren Automatisierung und Weiterentwicklung der Analysemethoden liegen wird, womit das Tool künftig auch für einen breiteren Anwenderkreis zugänglich werden wird.
