defalsif-AI: Österreichische Allianz setzt AI gegen Fake News ein
Falschnachrichten sind im Zuge von Social Media, der Corona-Pandemie und digitalen Wahlkämpfen weltweit zu einem enormen Problem geworden. Ein österreichisches Bündnis von Unternehmen, Ministerien und Forschungseinrichtungen will nun Künstliche Intelligenz ins Feld führen und AI-Technologie dazu nutzen, um Fake News im Netz besser und schneller erkennen zu können.
Unter dem Projektnamen defalsif-AI haben sich das Austrian Institute of Technology (AIT), Enlite AI, das Research Institute, die Donau Universität Krems, das Bundeskanzleramt sowie Außen- und Verteidigungsministerium zusammen getan, um ein Tool zu entwickeln, das „mit Hilfe von Künstlicher Intelligenz Anhaltspunkte für Manipulationen herausfiltert, sei es bei Text, Bild, Video oder Audio“. Diese Anhaltspunkte sollen dann dazu dienen, um Internetnutzer:innen vor möglichen gefälschten Informationen zu warnen.
Die Medienunternehmen APA (Austria Presse Agentur) und der ORF sind „als Bedarfsträger“ am Projekt beteiligt und wollen das Tool in den eigenen Newsrooms einsetzen. Die APA etwa stellt Audio-Daten für das Training der KI zur Verfügung. Ziel ist unter anderem, dass man über eine Website verdächtige Videos oder Bilder hochladen und diese analysieren lassen könne.
„Im Endeffekt schwebt uns sogar vor, dass man nur die Webadresse eingibt und die gesamte Website auf Anhaltspunkte für manipulierte Inhalte prüfen lässt“, erläutert Martin Boyer, Projektleiter und AIT-Senior Research Engineer, das ambitionierte Vorhaben. Angesiedelt ist das Projekt am AIT-Center for Digital Safety and Security, das dieses Jahr bereits mit einem Online-Detektor für Fake-Shops zum Schutz von Konsument:innen auf sich aufmerksam machte (Trending Topics berichtete).
Enlite AI spürt gängigste Fälschungsmethoden auf
benfalls an Bord ist das Unternehmen Enlite AI, dessen Mitgründer und Co-Geschäftsführer Clemens Wasner sich in der KI-Community und darüber hinaus in den letzten Jahren einen Namen gemacht hat. Enlite AI wird im Rahmen des Projektes mit Hilfe von maschinellen Lernverfahren die gängigsten Fälschungsmethoden aufspüren. Diese dienen dem AIT dann als Grundlage, um die Detektionsmethoden immer weiter zu entwickeln.
Gefördert wird defalsif-AI vom Bundesministerium für Landwirtschaft, Regionen und Tourismus, der Österreichischen Forschungsförderungsgesellschaft (FFG) und KIRAS, dem österreichischen Förderungsprogramm für Sicherheitsforschung. Wissenschaftlich wird es an der Schnittstelle von Technik, Recht und Gesellschaft vom Research Institute und der Donau Universität Krems begleitet.
EU will 2,6 Milliarden Euro in AI und Robotics fließen lassen
