Digitale Multimediadaten sind in der heutigen Medienwelt eine Säule der faktenbasierten Berichterstattung. Allerdings können diese Mediendaten mit einfachen Mitteln leicht verändert und verfälscht werden. Computer können heute schon autonom Beiträge generieren, die für Bürgerinnen und Bürger so erscheinen, als würden sie von einem Menschen stammen.

Derart entstandene Desinformationen haben oft das Ziel, Bürgerinnen und Bürger zu beeinflussen oder bestimmten Personen oder Organisationen zu schaden. Solche Manipulationen können Implikationen für Gesellschaft, Staat, Unternehmen und Einzelpersonen haben: Sie wirken sich aus auf Demokratie und Freiheit und können zu finanziellen Schäden oder Reputationsverlust führen. Innerhalb des Nationalen Forschungszentrums ATHENE beschäftigt sich das Fraunhofer SIT mit der Erkennung von solchen Manipulationen. Die Technik ist heute so weit fortgeschritten, dass diese oft mit menschlichen Sinnen allein nicht mehr als Manipulation erkannt werden können.

Im Rahmen unserer anwendungsorientierten Forschung und Entwicklung in ATHENE ist am Fraunhofer SIT inzwischen ein hervorragend ausgestattetes Labor mit umfangreichen IT-forensischen Werkzeugen und exzellenten Expertisen entstanden, um Manipulationen in verschiedenen Bereichen aufzudecken.

Audiomanipulationen

Audiodaten können durch Standardsoftware zur Audiobearbeitung leicht manipuliert werden. Insbesondere das Schneiden und Kopieren von Passagen ist ohne große Vorkenntnisse möglich. Allerdings hinterlassen diese Vorgänge durchaus Spuren -– Raumhall und Hintergrundrauschen sind hier Beispiele. Auch der Frequenzgang eines Mikrofons kann charakteristische Spuren bei Aufnahmen hinterlassen. Das Schneiden und Wiederverwenden von Audio kann auch durch robuste Hashverfahren erkannt werden, die identische Passagen im Audiostrom aufspüren. Durch Methoden des maschinellen Lernens ist es heute auch bereits möglich, die Stimme von Personen zu erlernen und mit ihr beliebige Aussagen zu treffen. Eine Erkennung ist dann möglich, wenn diese Vorgänge Spuren wie Interpolation der Klangfragmente oder eine Anpassung des Dynamikverhaltens hinterlassen.

www.hr-inforadio.de/podcast/wissen/deepfakes---gefaelschte-wirklichkeit,podcast-episode34260.html

Bildmanipulationen

Bilder lassen sich leicht manipulieren, aber jede Veränderung hinterlässt Spuren, die mit technischen Analysewerkzeugen gefunden werden können. Unsere Verfahren und Algorithmen erkennen diese Abweichungen und zeigen Manipulationen auf. Wir untersuchen zudem die Metadaten, verifizieren die Kameras als Datenquelle ("Kameraballistik") und recherchieren Bildmaterial für Vergleiche im Internet. In weiterführender Recherche finden wir Hinweise auf Anti-Forensik, d.h. Versuche die Manipulationen zu verschleiern. n.

https://www.youtube.com/watch?v=U17v7-Acx04

Videomanipulation

Für die Detektion von Videomanipulation wird das Material zunächst hinsichtlich seiner technischen Metadaten überprüft und in Beziehung zueinander gesetzt. Danach werden die Elemente des Materials in Bezug zueinander gesetzt. Passen als zeitlich gleich ausgewiesene Passagen zueinander? Gibt es zeitlichen Versatz oder Lücken? Wiederholen sich vielleicht auch Passagen? Auch die einzelnen Elemente können untersucht werden. Hier kann man prüfen, ob Inhalte untypische Sprünge aufweisen, die durch Schnitte verursacht wurden. Dazu betrachtet man beispielsweise das Rauschen der Dateien und das Verhalten des Halls.

https://www.sit.fraunhofer.de/de/itforensics/analyse-und-verbesserung-it-forensischer-werkzeuge/

Fake News

Bei Desinformationen (Fake News) handelt es sich um Veröffentlichungen, die nachweislich faktisch falsch oder irreführend sind und in manipulativer Absicht erscheinen. Die Forschung und Entwicklung zur computerunterstützten Identifikation von Fake News wird vom BMBF unterstützt im Projekt DORIAN. Dort werden halb- bis vollautomatische Erkennungsverfahren für Fake News entwickelt. 

https://dorian-projekt.sit.fraunhofer.de/index.php