Navigation und Service

Logo Bundesministerium für Bildung und Forschung

Fake News erkennen, verstehen, bekämpfen : Datum: , Thema: Neue Forschungsprojekte

Unsicherheit schüren, Meinungen manipulieren, Vertrauen erschüttern: Fake News sind eine Bedrohung für unsere Demokratie und Gesellschaft. Das BMBF fördert daher Forschende, die solch gezielte Desinformation besser verstehen und bekämpfen wollen.

Die Zahl bewusst verbreiteter Falschmeldungen im Internet und den Sozialen Medien nimmt seit Jahren immer weiter zu. Häufig ist das Motiv, Angst und Verunsicherung zu schüren oder das Vertrauen in die Politik zu erschüttern. Fake News werden dabei immer professioneller verbreitet. Ihr Inhalt reicht von harmlosen Scherzen bis hin zu Informationen, die Menschenleben gefährden können – etwa im Zusammenhang mit dem Coronavirus. Das Bundesforschungsministerium sieht in Fake News eine zunehmende Gefahr für die Demokratie und den gesellschaftlichen Zusammenhalt. Deshalb fördert das BMBF nun zehn neue Projekte, in denen Wissenschaftlerinnen und Wissenschaftler Fake News und andere Formen der Desinformation erforschen, um Gegenmaßnahmen zu entwickeln.

Das sind die geförderten Projekte

DeFaktS

Im Projekt "DeFaktS − Faktoren und Stilmittel von Desinformationskampagnen erkennen und offenlegen" analysieren Forschende Nachrichten aus Social-Media- und Messenger-Gruppen. Mit den Daten wollen sie eine Künstliche Intelligenz trainieren. Sie soll lernen, die für Desinformationen charakteristischen Faktoren und Stilmittel zu erkennen. Ziel des Projekts ist eine App, die ihre Benutzerinnen und Benutzer warnt, wenn verdächtige Stilmittel in Nachrichten auftreten.

Weitere Informationen zu DeFaktS

DESIVE2

Forschung gegen Fake News: "Falsche Wissenschaft"

Was wird erforscht, um der immer stärkeren Verbreitung von FakeNews entgegenzutreten, die sich einen wissenschaftlichen Anstrich geben?

: Video : 01:54

Im Projekt "DESIVE2 − Wissenschaftlich anmutende Desinformation besser erkennen und verstehen" analysieren Forschende die Mechanismen der digitalen Verbreitung vermeintlich wissenschaftlicher Desinformation. Dazu wollen sie Bürgerinnen und Bürger befragen, was sie dazu bringt, Information (ungeprüft) zu verbreiten. Basierend auf den Erkenntnissen soll dann ein Modell des Umgangs mit Desinformation entwickelt werden.

Weitere Informationen zu DESIVE2

DYNAMO

Im Projekt "DYNAMO − Hochdynamische Verbreitungsformen von Desinformation verstehen, erkennen und bekämpfen" untersuchen Forschende, wie sich Desinformationen in Messengerdiensten ausbreiten und wie diese in andere soziale Medien „überschwappen“. Zudem analysieren sie, inwiefern wiederkehrende Muster bestehen, aus denen sich Bekämpfungsstrategien ableiten lassen. Ebenso soll erforscht werden, welche Muster hinter Desinformationskampagnen stecken und welchen Einfluss emotionale Inhalte bei der Verbreitung haben. Ziel ist es, Instrumente zu entwickeln, die der Verbreitung von Desinformation entgegenwirken.

Weitere Informationen zu DYNAMO

FakeNarratives

Forschung gegen Fake News: Nachrichtenvideos

Was wird erforscht, um der immer stärkeren Verbreitung von desinformierenden Nachrichtenvideos entgegenzutreten?

: Video : 01:54

Im Projekt "FakeNarratives − Erforschung von Narrativen der Desinformation in öffentlich-rechtlichen und alternativen Nachrichtenvideos" untersuchen Forschende die Erzählungen („Narrative“) von Desinformation in öffentlich-rechtlichen Nachrichtensendungen und alternativen Informationsvideos. Dabei setzen sie Diskurs- und sprachwissenschaftliche Analysen sowie Untersuchungsverfahren der digitalen Geisteswissenschaften ein. Zudem sollen Muster mittels maschinellem Lernen erkannt werden. Ziel ist ein digitales Werkzeug, das Mechanismen und Strategien von Narrativen der Desinformation systematisch offenlegen kann.

Weitere Informationen zu FakeNarratives

HybriD

Forschung gegen Fake News: "Desinformationsstrategien"

Wie lassen sich Strategien der Desinformation erkennen und bekämpfen?

: Video : 01:54

Im Projekt "HybriD − Echtzeiterkennung von Desinformationskampagnen in Online-Medien" entwickeln Forschende ein software-basiertes Analysewerkzeug, das Expertinnen und Experten helfen soll, Desinformationskampagnen besser einzuschätzen. Die Forschenden kombinieren dabei die maschinelle Analyse mit menschlicher Expertise, um Desinformationskampagnen zu erkennen. Das Analysewerkzeug soll es ermöglichen, große Datenmengen aus Onlinemedien und sozialen Netzwerken in Echtzeit auszuwerten und zeitliche Muster zu erfassen. Auf dieser Datenbasis können Expertinnen und Experten Desinformationskampagnen und ihre Auswirkungen umfassend beurteilen.

Weitere Informationen zu IKIP

IKIP

Im Projekt „IKIP – Innovative Kommunikationsstrategien zur Intervention und Prävention bei Desinformationskampagnen“ (IKIP) erforschen Wissenschaftlerinnen und Wissenschaftler Erzählmuster und Stilmittel von Narrativen im Zusammenhang mit psychischen Fragestellungen und Persönlichkeitsmerkmalen, die für Desinformation anfällig machen. Auf dieser Grundlage entwickeln sie dann Trainings, Workshops, Bildungskonzepte und Kommunikationsstrategien, die der Empfänglichkeit für Desinformation entgegenwirken.

LINK

noFAKE

Im Projekt "noFAKE − Effiziente Faktenchecks durch Künstliche Intelligenz und Crowdsourcing" entwickeln Forschende ein Assistenzsystem für die Erkennung von Desinformation, das automatisiert große Datenmengen sichten soll: Verdächtiges Text- und Bildmaterial wird vorsortiert, mit ähnlichem Material in Verbindung gebracht und die Verbreitungswege des Materials werden nachgezeichnet. Das Assistenzsystem soll vorab geschultes Personal schließlich dabei unterstützen, die Vertrauenswürdigkeit von Informationsmaterial zu beurteilen.

Weitere Informationen zu noFAKE

NOTORIOUS

Forschung gegen Fake News: "Prominente"

Was wird erforscht, um der immer stärkeren Verbreitung von FakeNews entgegenzutreten, die sich einen wissenschaftlichen Anstrich geben?

: Video : 01:53

Im Projekt "NOTORIOUS − Die Rolle von Prominenten in Desinformationskampagnen im Blick der Wissenschaft" erforschen Wissenschaftlerinnen und Wissenschaftler, welche Rolle Prominente in der politischen Kommunikation und beim Verbreiten von Desinformation in sozialen Medien spielen. Da Prominente normalerweise auf mehreren digitalen Plattformen vertreten sind, können sie gut als Marker für die Verbreitung von Desinformation über Plattformen hinweg genutzt werden. Durch eine wissenschaftliche Analyse der von ihnen ausgehenden Verbreitungswege von Desinformation sollen die dahinterliegenden Verbreitungsmuster erforscht werden.

Weitere Informationen zu NOTORIOUS

PREVENT

Im Projekt "PREVENT − Trainingsansatz zur Vermittlung von Maßnahmen zur Prävention digitaler Desinformationskampagnen" wollen Forschende Ämter, Behörden und Organisationen befähigen, vorsätzlichen Manipulationen des Meinungsbildes entgegenzuwirken. Dazu entwickeln die Forschenden ein Trainingstool, das zum einen die Entstehung und gezielte Verbreitung von Desinformationen simuliert und zum anderen die Wirkung der zu entwickelnden Gegenmaßnahmen erhebt. Die Simulationen erfolgen anhand realistischer Trainingsszenarien (z. B. Covid-19-Pandemie).

Weitere Informationen zu PREVENT

VERITAS

Im Projekt "VERITAS − Mit Künstlicher Intelligenz Desinformationen zu Gesundheitsthemen erkennen und bekämpfen" wollen Forschende einen Datensatz aufbauen, der Informationen von öffentlich-rechtlichen Nachrichtenportalen, sozialen Medien sowie Fach- und Expertenwissen umfasst. Für die Extraktion und Strukturierung der Daten nutzen sie Methoden des Data-Minings und der Künstlichen Intelligenz. Mit Hilfe des Datensatzes sollen Bürgerinnen und Bürger auf der Suche nach Informationen schneller Fälschungen und Desinformationen erkennen können.

Weitere Informationen zu VERITAS

Hintergrund

Die Forschungsvorhaben werden im Forschungsrahmenprogramm der Bundesregierung zur IT-Sicherheit „Digital. Sicher. Souverän.“ gefördert. Gegenstand der Förderung ist die Erforschung und Entwicklung von Methoden und Technologien sowie die Analyse gesellschaftlicher und rechtlicher Rahmenbedingungen, um die massenhafte Verbreitung von Desinformationen besser zu verstehen und ihr entgegenwirken zu können.


Ergänzend fördert das BMBF auch sozial- und geisteswissenschaftliche Forschung zu den Auswirkungen von Desinformationen auf den Zusammenhalt der Gesellschaft sowie möglichen Gegenmaßnahmen. Erforscht wird dieser Themenkomplex beispielsweise am Forschungsinstitut Gesellschaftlicher Zusammenhalt im Kontext populistischer Bewegungen oder der Förderung von Mediennutzungskompetenzen. Ein Beispiel für die Forschung des FGZ finden Sie hier.