Forschung gegen Desinformation im Internet

Die Corona-Pandemie ist Nährboden für Verschwörungstheorien, Falschmeldungen, ungenaue und irreführende Informationen. Das BMBF unterstützt Forschende in ganz Deutschland bei der Untersuchung des Phänomens und der Entwicklung von Gegenstrategien.

Fake News
© Adobe Stock / Jürgen Fälchle

Gerade in der gegenwärtigen Coronakrise kursieren im Internet viele Informationen und Schlagzeilen, die darauf abzielen, Menschen zu beeinflussen. Aktuell warnt beispielsweise die Bundesregierung vor besonders vielen Irrtümern und Falschinformationen zu Impfungen und Impfstoffen. Auch Verschwörungstheorien verbreiten sich zunehmend. Desinformation im Internet betrifft dabei alle Kanäle, die Bürgerinnen und Bürger nutzen, um sich online zu informieren und eine Meinung zu bilden: von Messenger-Diensten über soziale Netzwerke und Videoplattformen bis hin zu Blogs oder Nachrichtenseiten. Die manipulierten Informationen erwecken den Eindruck, dass es sich um echte, belegbare Nachrichten handelt. So werden Lügen und Propaganda gezielt verbreitet und wird mit Klicks Geld verdient. Durch die einfachen Weiterleitungsmöglichkeiten können Desinformationen zudem sehr schnell eine große Zahl von Menschen erreichen. In der Folge sind viele Menschen zunehmend verunsichert: Welche Nachricht ist wahr? Was sind vertrauenswürdige Quellen?

Kurz erklärt: Was versteht die Forschung unter Desinformation?

„Desinformationen sind Meldungen, die in irreführender oder manipulativer Absicht verbreitet werden und die einer Faktenüberprüfung nicht standhalten. Die nachweislich unredliche Absicht unterscheidet sie von Falschinformationen, die meist durch Recherchefehler oder durch Eile entstehen. Der Begriff Fake News wiederum hat ein großes Bedeutungsspektrum in den Medien. So gibt es manche Personen, die bestimmte Nachrichten als Fake News bezeichnen, aus einem einfachen Grund: Ihnen passen die Meldungen nicht. Falls diese Meldungen jedoch auf Fakten beruhen und nach journalistischen Standards dargeboten werden, sind sie keine Desinformation.“

Dr. Michael Kreutzer, Koordinator des vom BMBF geförderten Projektes „DORIAN – Desinformation im Internet aufdecken und bekämpfen"

Wie umgehen mit der Infodemie während der Pandemie?

Dr. Michael Kreutzer, Koordinator des vom BMBF geförderten Projektes „DORIAN – Desinformation im Internet aufdecken und bekämpfen“.
Dr. Michael Kreutzer, Koordinator des vom BMBF geförderten Projektes „DORIAN – Desinformation im Internet aufdecken und bekämpfen“. © Fraunhofer SIT

Die Weltgesundheitsorganisation WHO spricht angesichts der massiven Informationsflut zu Covid-19 von einer „Infodemie“ mit vielen Mythen, geht dagegen mit einer „Mythbusting“-Kampagne vor und arbeitet gemeinsam mit Diensteanbietern an Lösungen.

Große Plattformanbieter wie Facebook, Google, Microsoft, Twitter und TikTok ergreifen mittlerweile auch eigene Gegenmaßnahmen: Wie Berichte der Unternehmen an die EU-Kommission von Ende Januar zeigen, sperren sie inzwischen hunderttausende Nutzerkonten, Werbeanzeigen und -angebote mit Fehlinformationen rund um das Coronavirus, Impfstoffe und Impfungen. Sie überprüfen und markieren Falschmeldungen, die auf ihren Plattformen verbreitet werden. Facebook zum Beispiel arbeitet dabei weltweit mit rund 50 externen Organisationen – sogenannten „Fact Checkern“ – zusammen, die Inhalte in mehr als 25 Sprachen hinsichtlich ihres Wahrheitsgehalts überprüfen. Zu den Teams gehören Nachrichtenagenturen, Medienunternehmen und gemeinnützige Organisationen. Hier zeigt sich: Das Problem der Desinformation im Netz geht weit über die Corona-Pandemie hinaus und ist von großer gesellschaftlicher Tragweite – insbesondere, wenn es um politische Meinungsbildung geht, etwa in Wahlkampfzeiten, wie kürzlich die Vorgänge in den USA gezeigt haben. Argumente, die gestreut werden, stützen sich dabei nicht immer auf Fakten. Häufig werden zur Propaganda nicht belegte oder sogar widerlegte Dinge behauptet.

Während das Problem im öffentlichen Bewusstsein angekommen ist, lässt sich die Herkunft der Desinformation selten eindeutig nachvollziehen. Über unterschiedliche Wege und Methoden können falsche und irreführende Informationen erzeugt und verbreitet werden: Eine Möglichkeit, Desinformationen automatisiert zu produzieren und massenhaft zu streuen, sind beispielsweise eigens kreierte Computerprogramme, sogenannte Malicious Social Bots.

Die Mechanismen hinter der Erzeugung und Verbreitung von Desinformation zu verstehen, ist ein wichtiger Schwerpunkt der vom BMBF geförderten Forschung. Das Ziel: Lösungen für eine vertrauenswürdigere digitale Welt entwickeln.

Deepfakes – eine Schattenseite der Künstlichen Intelligenz

Ob neue Social-Media-Netzwerke, Apps zur schnellen Bildbearbeitung oder immer bessere und frei verfügbare Übersetzungsprogramme: Die technischen Möglichkeiten, digitale Inhalte (massenhaft) zu generieren, wachsen täglich. Dies eröffnet auch neue Wege, die Rezeption von Informationen zu manipulieren. So ist Künstliche Intelligenz (KI) nicht nur Heilmittel, um Desinformation im Internet zu erkennen und ihr entgegenzuwirken. Mit ihr droht gleichzeitig eine Verschärfung des Problems. Denn durch Techniken der KI können auch Bild-, Audio- und Videomaterial täuschend echt gefälscht werden − etwa durch so genannte Deepfakes. Diese Fälschungen können mithilfe von Methoden des maschinellen Lernens, genauer künstlichen neuronalen Netzwerken, weitgehend autonom erzeugt werden. Programme, die auf derartigen Deep-Learning-Technologien basieren, sind im Internet immer leichter verfügbar und können auch ohne technisches Fachwissen genutzt werden.

Dr. Thilo Hagendorff, Eberhard Karls Universität Tübingen, Bereich Gesellschaft, Kultur und technischer Wandel.
Dr. Thilo Hagendorff, Eberhard Karls Universität Tübingen, Bereich Gesellschaft, Kultur und technischer Wandel. © Dr. Thilo Hagendorff

Im interdisziplinären Forschungsverbund Forum Privatheit und am Internationalen Zentrum für Ethik in den Wissenschaften Tübingen untersucht Dr. Thilo Hagendorff solche Entwicklungen. Er sagt: „Wir erleben eine Demokratisierung von KI-Tools und Datensätzen, sodass Anwendungen zunehmend von geringer qualifizierten Nutzern eingesetzt werden können.“ Mittlerweile gebe es für die gesamte Bandbreite an Desinformation passende, größtenteils frei verfügbare Tools: Textgeneratoren zur automatisierten Erstellung von Falschnachrichten, Webplattformen zur Erzeugung gefälschter Video- und Audiodateien oder Onlineangebote, die in Sekundenschnelle nahezu fotorealistisch aussehende Gesichtsabbildungen erzeugen – zum Beispiel um Fake-Profile auf Social-Media-Plattformen zu betreiben.

„Desinformation gefährdet die demokratische Willensbildung“

Prof. Dr. Alexander Roßnagel, Datenschutzrechtsexperte und Sprecher des Forschungsverbundes Forum Privatheit.
Prof. Dr. Alexander Roßnagel, Datenschutzrechtsexperte und Sprecher des Forschungsverbundes Forum Privatheit. © Universität Kassel

Auch den Nationalen Cyber-Sicherheitsrat (Cyber-SR) beschäftigt das Thema Desinformation. Der Cyber-SR fungiert als strategischer Ratgeber der Bundesregierung. Seit Oktober 2018 wird das Gremium von einer ständigen Wissenschaftlichen Arbeitsgruppe unterstützt. Die Expertinnen und Experten beraten den Cyber-SR aus Perspektive der Forschung zu Entwicklungen und Herausforderungen im Hinblick auf eine sichere, vertrauenswürdige und nachhaltige Digitalisierung. Ende 2019 hat die Gruppe das Papier „Gefährdung demokratischer Willensbildung durch Desinformation“ veröffentlicht. Die Quintessenz: Gezielte Desinformation gefährdet zunehmend die demokratische Willensbildung und bedarf daher gesteigerter Aufmerksamkeit und gezielter Gegenmaßnahmen. Der Jurist Professor Alexander Roßnagel ist Sprecher des Forschungsverbundes Forum Privatheit, Mitglied der Wissenschaftlichen Arbeitsgruppe des Cyber-SR und Hauptautor des Impulspapiers. Er sagt: „Zu erforschen ist, wie Desinformation, Deepfakes, Malicious Social Bots und ihre Verbreitungswege erkannt, gekennzeichnet, gesperrt und gelöscht werden können. Zu untersuchen sind Charakteristika von Desinformation und ihre Wirkungen auf Einzelne und die Gesellschaft sowie politische und rechtliche Gegenmaßnahmen, die eine effektive Bekämpfung bewirken, ohne Meinungsfreiheit zu behindern.“ Um für die Zukunft gewappnet zu sein, seien beispielsweise „technische und interdisziplinäre Forschungsprojekte besonders wichtig, die die Erkenntnisse verschiedener Disziplinen zusammenbringen, um gesamthaft wirksame und umsetzbare Lösungen zu entwickeln“, so die Forschenden in ihrem Papier.

Disziplinübergreifende Forschungsprojekte gegen Desinformation

Ein ebensolches interdisziplinäres Projekt ist aus dem Forschungsverbund Forum Privatheit hervorgegangen: DORIAN – Desinformation im Internet aufdecken und bekämpfen. Um den Mechanismen der Verbreitung digitaler Desinformation auf den Grund zu gehen, haben die Projektpartner aus Informatik, Medienpsychologie, Technik-, Rechts- und Kommunikationswissenschaften das Phänomen in enger Zusammenarbeit analysiert und interdisziplinäre Ansätze gegen Desinformationskampagnen und für Meinungspluralität entwickelt. Um Nutzen für die Praxis zu liefern, haben die Forschenden konkrete Empfehlungen entworfen: für die Weiterentwicklung der Rechtsordnung, der Mediendidaktik und der journalistischen Recherchemöglichkeiten. Zudem haben die Wissenschaftlerinnen und Wissenschaftler Konzepte ausgearbeitet, um es Bürgerinnen und Bürgern zu erleichtern, Falschnachrichten zu erkennen. Zur Betrachtung gehörte auch, dass Desinformation im Internet oftmals mit falschen, aus einem anderen Kontext stammenden oder manipulierten Bildern versehen werde. Auch technisch hat das Projekt die Desinformationsforschung vorangebracht: Mit maschinellem Lernen konnten die Wissenschaftler von DORIAN zum Beispiel Eigenschaften von Malicious Social Bots erkennen und Webinhalte vollautomatisch hinsichtlich verschiedener Faktoren wie Emotionalität oder Schreibstil kategorisieren. Die Forschenden entwickelten auch erste Strategien, um Deepfakes zu entlarven. In der Open-Access-Publikation „Desinformationen aufdecken und bekämpfen“ sind viele der Forschungsergebnisse erschienen.

Start neuer Forschungsprojekte steht bevor

Das Forschungsfeld Desinformation hat eine lange „analoge“ Historie. Um mit der Dynamik des Phänomens im digitalen Raum Schritt zu halten, sind heute und in Zukunft fortwährend neue Herangehensweisen notwendig. Ansätze, wie sie beispielsweise im Forum Privatheit und im Projekt DORIAN entwickelt werden, gewinnen weiter an Relevanz. Angesichts der wachsenden Fülle an Möglichkeiten zur Manipulation digitaler Medieninhalte und der Zunahme von Desinformation im Internet setzt das BMBF hier auch künftig einen wichtigen Schwerpunkt. Besondere Relevanz hat dabei eine agile und interdisziplinäre Forschung. Deshalb hat das BMBF im Jahr 2020 Forschungsvorhaben gesucht, die sich der systematischen Erforschung von Desinformation im digitalen Zeitalter widmen. Voraussichtlich Mitte dieses Jahres werden mehrere Projekte anlaufen, in denen Forschende die gesellschaftlichen und rechtlichen Rahmenbedingungen sowie Methoden und Technologien erforschen, um die massenhafte Verbreitung von Desinformationen besser zu verstehen und ihr gezielt entgegenwirken zu können.