Frau Dr. Schmitt, Sind Sie selbst schon auf Desinformation hereingefallen?

(Lacht) Zum Glück nein! Oder sie war so gut gemacht, dass ich es nicht gemerkt habe.

Was genau versteht man in der Wissenschaft unter Desinformation?

Desinformation – oft auch als Fake News bezeichnet – ist eine Falschinformation, die gezielt, also mit einer bestimmten Intention, gestreut wird. Der Übergang zu Verschwörungserzählungen ist dabei fließend. Desinformationen sind zu unterscheiden von Nachrichten, die unabsichtlich Fehler enthalten.

Lügen mit gezielter Absicht also. Das klingt, als sei nicht immer leicht zu entscheiden, ob ein bestimmter Inhalt die zwei Kriterien der Desinformation erfüllt …

Wie schwer es ist, Desinformation zu enttarnen, hängt von unterschiedlichen Faktoren ab. Zunächst natürlich davon, wie gut sie gemacht ist. Enthält eine Geschichte zum Beispiel keine offensichtlichen Widersprüche? Erscheint sie glaubwürdig? Knüpft sie an meine bereits vorhandenen Voreinstellungen und Überzeugungen an? Wenn ich beispielsweise ohnehin an der Kompetenz und Glaubwürdigkeit der Regierung zweifle, bin ich eher geneigt, eine Desinformation zu glauben, die dieses Rad weiterspinnt. Außerdem ist wichtig: Wer leitet mir die Information weiter? Erhalte ich sie etwa von einer Person oder einer Quelle, der ich vertraue, so prüfe ich die Information weniger auf ihre Echtheit und die dahinterstehende Absicht. Insbesondere wenn Desinformationen von scheinbar glaubwürdigen Quellen stammen, ist die Neigung groß, sie nicht nur zu akzeptieren, sondern auch selbst aktiv zu verbreiten. In sozialen Medien, über die Desinformation besonders häufig geteilt wird, gibt es außerdem den Effekt, dass wir die gleiche Behauptung mitunter zeitnah aus unterschiedlichen Quellen erhalten. Das kann zum so genannten Truth Effekt führen: Menschen halten etwas umso eher für wahr, je häufiger sie es von verschiedenen Seiten hören.

Kommen wir zu den Intentionen: Welche Absichten stecken am häufigsten hinter Desinformation?

In der Regel die Absicht, Menschen und Diskurse zu beeinflussen oder Zweifel an Institutionen, Personen oder Entscheidungen zu säen. Oft ist dies politisch motiviert. Manchmal können dahinter aber auch wirtschaftliche oder kriminelle Motive stecken. Ein Beispiel dafür ist etwa der so genannte Enkeltrick. Weithin bekannt sind inzwischen auch Phishingmails oder Handynachrichten, die dem Zweck dienen, an persönliche Bankdaten zu gelangen.

Wie gut lässt sich die Verbreitung von Desinformation bestimmen?

Die Verbreitung über digitale Medien lässt sich in der Regel nur schwer messen. Das liegt einerseits daran, dass sie teilweise nicht so leicht zu identifizieren ist. Andererseits verbreiten sich Desinformationen über viele verschiedene Plattformen und Medien. Das erschwert ihre Nachverfolgung. Außerdem unterscheiden sich die Funktionsweisen und Architekturen der Plattformen. So verknüpft und steuert das Empfehlungssystem von Tiktok Inhalte anders als das von Youtube. Es werden ein- und demselben User also andere Inhalte empfohlen und zugespielt. Oft werden Desinformationen auch über private oder teilprivate Messenger-Gruppen verbreitet. Bei Whatsapp oder Telegram lässt sich die Verbreitung von Desinformation jedoch quasi gar nicht nachvollziehen und dokumentieren, da die Kanäle für Forschende in der Regel nicht zugänglich sind.

»Menschen halten etwas umso eher für wahr, je häufiger sie es von verschiedenen Seiten hören«

Wie verändert KI das Problem? Welche Folgen haben täuschend echte Stimmen und Videos?

Mit generativer KI ist ein Werkzeug hinzugekommen, das die Erstellung von Inhalten deutlich vereinfacht. Es ist nun recht leicht und vor allem kostengünstig, nahezu täuschend echte, von der Realität entkoppelte Inhalte zu erzeugen. Wenn die Ergebnisse gezielt auf Gruppen zugeschnitten werden, die besonders anfällig für eine bestimmte Art von Desinformation sind, werden diese sicher auch eher verbreitet. Das gilt vor allem für emotionalisierende Inhalte. Bilder und Videos haben dabei in der alltäglichen Social-Media-Nutzung einen leichten Vorteil gegenüber Texten. Sie erregen mehr Aufmerksamkeit und werden stärker verbreitet. Auch die Funktionslogiken der Plattformen bevorzugen emotionale visuelle Inhalte meist gegenüber reinen Textinhalten.

Ein und derselbe Inhalt kann ja verschieden auf Menschen wirken. Nehmen wir an, eine Person nimmt in ihrem Social-Media-Feed eine Desinformation bewusst wahr. Was entscheidet darüber, wie sie damit umgeht? Vielleicht wird die entsprechende Fake News ja achselzuckend ignoriert oder nur auf Grund offenkundiger Absurdität mit Freunden geteilt.

Studien zeigen, dass nicht so sehr die Desinformation und ihre Verbreitung als solche über ihre Wirkungen bestimmen. Stärkeren Einfluss haben etwa unterschiedliche Persönlichkeitsmerkmale: Menschen, die sich durch geringe Offenheit, niedriges Bildungsniveau oder erhöhte psychopathologische Neigungen auszeichnen, zeigen eine höhere Anfälligkeit für irreführende Informationen. Zudem begünstigt Misstrauen gegenüber traditionellen Medien und politischen Institutionen die Akzeptanz und Verbreitung von Desinformation. Ein besonders wichtiger Faktor scheint außerdem ein so genanntes Conspiracy Mindset zu sein, also die Tendenz, Verschwörungserzählungen Glauben zu schenken.

Und wie kontextabhängig ist die Wirkung von Desinformation? Ein und dieselbe Falschnachricht mag in Krisenzeiten Wellen schlagen und zu anderen Zeiten die Menschen eher kaltlassen …

In Zeiten hoher gesellschaftlicher und politischer Unsicherheit entfaltet Desinformation in der Tat eine größere Wirkung – vermutlich, weil das Bedürfnis der Menschen nach einfachen Antworten und klaren Weltbildern steigt. Eine glaubwürdige Desinformation erzählt eine Geschichte, die die Welt in Gut und Böse einteilt und damit ein Bedürfnis vieler Menschen befriedigt.

Kurze Zwischenbilanz: Wir können mitunter gar nicht so leicht entscheiden, ob ein bestimmter Inhalt wirklich eine Desinformation laut Definition darstellt. Zudem wissen wir häufig nur wenig über das Ausmaß der Verbreitung. Umgekehrt wissen wir aber, dass der Einfluss von Desinformation auf verschiedene Personen sehr unterschiedlich sein kann. Wie können Forschende dann überhaupt methodisch dingfest machen, welche Änderungen in Verhalten oder in den Einstellungen sich beim Einzelnen vollziehen?

Das ist tatsächlich kompliziert. Es gibt unterschiedliche methodische Ansätze, mit denen sich Forschende der Wirkung von Desinformationen zu nähern versuchen. Jeder dieser Ansätze hat aber unterschiedliche Vor- und Nachteile.

Gehen wir die wichtigsten Methoden einmal durch!

Medienpsychologen führen zum Beispiel kontrollierte Experimente durch, bei denen Gruppen von Probanden unterschiedlichen Informationen ausgesetzt werden und deren Reaktionen anschließend verglichen werden. Diese Experimente finden entweder unter standardisierten Bedingungen im Labor statt oder online. Entsprechende Studien können Auskunft über sehr isolierte Wirkungen unterschiedlicher Aspekte von Desinformationen geben. Oft handelt es sich aber nur um kurzfristige Effekte. Insbesondere die Einstellungen von Menschen entwickeln sich jedoch über längere Zeiträume hinweg. Einstellungsänderungen können wir so also nicht gut erfassen.

Letztlich müssen Sie Probandinnen und Probanden in Laborexperimenten gezielt Lügen auftischen. Ist das nicht ein ethisches Dilemma der Forschung?

Wer sich experimentell mit der Frage der Wirkung von problematischen Inhalten wie Desinformation oder Hassrede befasst, muss sich im Vorfeld mit den ethischen Fragen auseinandersetzen. Dabei sind Kosten und Nutzen eines Experiments gegeneinander abzuwägen. Aus dem Versuch sollten Ergebnisse resultieren, die die Forschung zu einer Frage voranbringen. Außerdem muss man darauf achten, dass ein Aufbau gewählt wird, der die Probanden am wenigsten belastet.

Wie steht es mit der Übertragbarkeit von Experimenten in das reale Leben?

Das Experimentalsetting unterscheidet sich recht stark vom Alltag, in den unsere Mediennutzung eingebettet ist. Die Übertragbarkeit ist leider oft nur begrenzt.

Wie kommen Sie an mögliche Einstellungsänderungen durch Desinformation heran, wenn Experimente so enge Grenzen haben?

Durch Langzeitbefragungen. Diese kann man kombinieren mit einer Untersuchung der Verbreitungswege von Desinformationen innerhalb sozialer Netzwerke, um zu verstehen, was geteilt und somit verstärkt wird. Mit einer Langzeitbefragung lassen sich über verschiedene Erhebungszeitpunkte hinweg die Auswirkungen der Rezeption von Desinformation auf Verhalten und Meinungen bestimmen. Diese Folgen können vielfältig und komplex sein, manchmal sind sie nicht immer direkt messbar. Oft ist es auch schwierig, direkt zu beweisen, dass eine bestimmte Desinformation eine spezifische Wirkung hat, da Menschen im Alltag natürlich von einem Zusammenspiel vieler Faktoren beeinflusst werden.

Experiment, Langzeitbefragung – was gibt es sonst noch im Methodenkoffer, um die Wirkung von Fake News zu erforschen?

Eine weitere Möglichkeit sind Studien, die Befragungs- und Verhaltensdaten verknüpfen. Letztere sind Daten, die beispielsweise detailliert Auskunft darüber geben, welche Plattformen und Inhalte Personen nutzen. Die größte Herausforderung ist hier die Erhebung. Man ist entweder auf Datenspenden angewiesen oder darauf, dass sich Menschen ein Browser-Plugin installieren, das ihr Verhalten im Internet dokumentiert. Hier finden wir häufig eine starke Selbstselektion der Stichprobe, da die Bereitstellung der digitalen Verhaltensdaten eine höhere technische Kompetenz erfordert. Außerdem sind viele Menschen, die uns besonders interessieren würden, in extremeren digitalen Milieus unterwegs. Sie kennzeichnet oft eine hohe Skepsis gegenüber staatlichen Institutionen oder Misstrauen auch gegenüber der Forschung. Sie lassen sich daher schwer zu einer Teilnahme an einem so aufwändigen Studiendesign bewegen.

Sie sehen, es gibt keinen Königsweg. Jede Methode hat ihre Einschränkungen und wir können uns den tatsächlichen Wirkungen von Desinformationen immer nur ein bisschen aus verschiedenen Richtungen annähern.

»Die langfristigen, kumulativen Effekte von Desinformationen können womöglich ganze Gesellschaften destabilisieren«

Vermutlich sind es zudem eher kumulative Effekte wie ein langsam nagender Zweifel zum Beispiel an der Funktionsfähigkeit der Europäischen Union oder der Demokratie als solcher, die Desinformationen bewirken. Dass jemand ein KI-generiertes Video aus einer russischen Trollfabrik sieht und daher sein Wahlkreuz anders setzt, ist eher unwahrscheinlich, oder?

Das KI-generierte Video der russischen Trollfabrik wird bei den meisten Menschen keine direkte Auswirkung haben. In der Regel gehen wir eher davon aus, dass Desinformationen bestehende Voreinstellungen verstärken.

Viele Menschen treibt die Sorge vor einer Manipulation freier Wahlen durch digitale Desinformation um. Aber so richtig wissen wir nicht, wie groß die Gefahr wirklich ist. Die Forschung dazu ist knifflig. Würden sie also eher Entwarnung geben?

Die Forschung ist herausfordernd, in der Tat. Zur Entwarnung geben die Befunde, die wir haben, jedoch wenig Anlass. Die langfristigen, kumulativen Effekte von Desinformationen können womöglich ganze Gesellschaften destabilisieren – etwa, indem sie zu einer allgemeinen Verunsicherung führen und das Vertrauen in Medien, Nachrichten oder Institutionen beeinträchtigen.

Ist das vielleicht gerade das primäre Ziel von Desinformation? Wollen deren Urheber nicht vor allem das Gefühl verbreiten, dass nichts sicher ist und alle nur ein falsches Spiel spielen?

Ja, das Unterminieren von Vertrauen ist sicherlich eine zentrale Intention, denn ohne Vertrauen schwindet der gesellschaftliche Zusammenhalt, das Wir-Gefühl. Das kann eine Demokratie auf Dauer destabilisieren, was natürlich einem Autokraten wie Putin zupasskäme.