Über den Ukraine-Krieg, die Corona-Pandemie sowie andere aktuelle Themen, die emotional sehr aufgeladen sind, gibt es weltweit Desinformationen und Fake News. Vor allem auf Social-Media-Plattformen wie Facebook, Twitter und YouTube teilen Menschen ungeprüft Nachrichten, sodass diese sich rasant verbreiten. "Wir bekämpfen nicht nur eine Pandemie, sondern auch eine Info-Demie", sagte Tedros Adhanom Ghebreyesus, Generaldirektor der WHO. Forschende des Fraunhofer SIT wollen im Projekt DisCo dieser Herausforderung begegnen.

Methoden der Fake-News-Erstellung

Ein Ziel des Projekts ist es, zunächst einen Überblick über die aktuelle Situation zu Fake News zu geben: Wie sehen typische Vorgehensweisen aus, mit denen Fake News im Kontext eines aktuellen Konflikts produziert werden? Welche technischen Methoden nutzen Fake-News-Produzierende? Die Forschenden werden dann die aktuellsten technischen Lösungen aus dem Bereich Text- und Multimedia-Forensik prüfen und bewerten, welche dieser Methoden am besten Fakes in Texten, Bildern und Videos nachweisen können. Beispielsweise ist geplant, das Leistungsvermögen von inversen Bildersuchen unterschiedlicher Suchmaschinen zu testen, die oft bei der Analyse von verdächtigem Bildmaterial zum Einsatz kommen. Hiermit können Nutzerinnen und Nutzer nämlich Bilder erkennen, die (unverändert) aus ihrem ursprünglichen Kontext gerissen wurden.

Faktenchecker-Tool für Journalistinnen und Journalisten

Ein weiteres Ziel in DisCo ist es, mithilfe textforensischer Methoden einen Demonstrator für ein Annotationstool zu entwickeln, das Journalistinnen und Faktencheckern dabei helfen soll, Texte schnell zu erfassen und zu bewerten. Das Tool arbeitet mit einem von Fraunhofer-SIT-Forschenden trainierten ML-Algorithmus sowie Natural-Language-Processing-Techniken (NLP). Für die Faktenchecker und Journalistinnen werden Texte so aufbereitet, dass prüfwürdige Textpassagen farbig hervorgehoben werden. So werden Texte nicht automatisch in fake oder true kategorisiert, sondern die Textpassagen, die das Tool als prüfwürdig identifiziert, werden übersichtlich hervorgehoben. Der Journalist/die Faktencheckerin entscheidet selbst.