Veröffentlicht in abgeänderter Version in Spektrum der Wissenschaft online und im Print Magazin Spektrum - Die Woche 35/2024.

Sorgen um die Folgen von Desinformation für die Demokratie sind weit verbreitet. Doch die öffentliche Meinung und die wissenschaftlichen Daten klaffen bei diesem Thema weit auseinander. Aufklärung ist wichtig, damit sich die öffentliche Aufmerksamkeit und gesetzliche Regulierungen auf Lösungen für die richtigen Probleme konzentrieren.

Viele weit verbreitete Annahmen über Social Media lassen katastrophale Folgen für unsere Gesellschaft vermuten. Dazu gehören Befürchtungen über Fake News und andere Formen der Fehlinformationen, z.B. absichtlich verbreitete Desinformation. Wir glauben zum Beispiel, dass Social Media uns (und vor allem Andere) mit einer Unmenge an sensationsheischenden, polarisierenden und faktisch fragwürdigen Inhalten überfluten. Dass Donald Trump die Präsidentschaftswahl mit Hilfe russischer Propaganda gewann, die dank Cambridge Analytica genau auf einzelne Nutzer zugeschnitten werden konnte. Wir befürchten, dass wir alle in digitalen Echokammern gefangen sind, die permanent eigene Sichtweisen bestätigen. Es gibt Geschichten darüber, wie Menschen auf YouTube durch immer extremere Video-Empfehlungen in Radikalisierungs-Spiralen hineingezogen wurden. Das Ganze scheint von Algorithmen angetrieben, die nur das Ziel haben, uns möglichst lange auf einer Plattform zu halten und Klicks zu generieren. Extreme, schockierende und hasserfüllte Inhalte können das am besten. So spaltet sich die Gesellschaft zunehmend, befürchten wir, und immer mehr Menschen wählen rechts-extreme Parteien. Sachliche Debatten zu dringenden Fragen sind kaum mehr möglich. Kurz: Die Demokratie ist in Gefahr.

Die ernstzunehmende Sorge, dass Social Media - durch Algorithmen und ikünstliche Intelligenz (KI) noch weiter angefeuert - im großen Stil Einstellungen manipulieren, steht im starken Kontrast zu unserer Erfahrung mit Meinungsänderungen im Alltag. Wenn wir versuchen, jemanden von etwas zu überzeugen, oder jemand versucht uns zu überzeugen, gelingt das in der Regel nicht. In Diskussionen rund um Politik, COVID, Klimawandel und Co. kann leicht das Gefühl aufkommen, gegen eine Wand anzureden. Jeder glaubt Recht zu haben, keiner will dem anderen geduldig zuhören. Auch wir selbst ändern unsere Meinung selten.

Es gibt eine gute, wissenschaftlich belegte Erklärung für diesen scheinbaren Starrsinn: Wir sammeln ein Leben lang Erfahrungen und Wissen, die sich zu unserem Weltbild zusammensetzen. Wir interpretieren alles durch diese Brille - und es hat bisher immer Sinn ergeben. Auch Menschen, die uns nahestehen, sehen die Welt so. Gegensätzliche Argumente in einzelnen Gesprächen oder Zeitungsartikeln wiegen da im Vergleich natürlich wenig. Es wäre ja auch ziemlich töricht, einfach etwas zu glauben, das mit unserem restlichen Wissen über die Welt nicht zusammenpasst.

Meinungsänderungen im Alltag sind also selten, weil es so schwer ist, andere von etwas zu überzeugen. Wenn Menschen ihre Meinung aber nicht leicht ändern, wie können dann Social Media die Einstellung ganzer Gesellschaftsgruppen manipulieren? Und warum halten die vom Weltwirtschaftsforum befragten Experten Desinformation für die größte globale Gefahr in den nächsten 2 Jahren? Irgendwie scheint hier etwas nicht zusammenzupassen.

Fehlinformation ist selten, und vor allem das Problem einer Minderheit mit politisch extremen Einstellungen

Tatsächlich passt hier einiges nicht zusammen. Die öffentliche, mediale und politische Meinung zu Social Media und Algorithmen ist weit von dem entfernt, was wissenschaftliche Studien nahelegen. Mythos Nr. 1 ist, dass Fehlinformationen weit verbreitet sind. Je nach Plattform, Land und Jahr, machen Fehlinformationen zwischen 0.1 und 6.7% des Nachrichtenkonsums aus. Dazu kommt, dass nur wenige Menschen überhaupt Nachrichten lesen. Auf Facebook in den USA machen politische News zum Beispiel nur 3% aller geteilten Posts aus. Und 1-6% dieser 3% sind dann eben aus wenig vertrauenswürdigen Quellen.

Hinzu kommt, dass nur wenige Social Media-Nutzer für den Großteil der Interaktion mit Fehlinformationen verantwortlich sind. Bei der US-Präsidentschaftswahl 2016 teilten nur 1% der Twitter-User 80% der Nachrichten aus wenig vertrauenswürdigen Quellen. Bei der Wahl 2020 waren es insgesamt 2107 “Supersharer”. Sie erreichten damit 5% aller registrierten Wähler. Die überwiegende Mehrheit der Nutzer sieht also noch viel weniger Fehlinformation, als die Durchschnittszahlen von 1 bis 6% vermuten lassen.

Wer sind die Menschen, die den Großteil der Fehlinformationen lesen und teilen? Es sind Menschen mit starken Meinungen, die sich oft extremen politischen Gruppen zugehörig fühlen. Diese Supersharer haben tendenziell ein niedriges Vertrauen in Institutionen wie Politik, Medien, Wissenschaft und Medizin, und fühlen sich von ihnen nicht vertreten. Einige Studien zeigen, dass in westlichen Demokratien unter den “Supersharern” von Fehlinformation tendenziell mehr Menschen mit rechten politischen Einstellungen sind. Vermutlich eben auch, weil Ihre Sichtweisen in traditionellen Medien und Institutionen wie der Wissenschaft tatsächlich schlecht vertreten sind.

Und was ist mit Social Media Algorithmen?

Auch wenn wir also nicht alle von Desinformation überflutet werden, bleibt die Sorge um Radikalisierung durch Algorithmen und digitale Echokammern. Bis vor kurzem gab es nur sehr wenige Studien zu den Effekten von Algorithmen, weil es einfach keine Daten dazu gab. In den letzten Jahren zeigten aber über zehn Studien zu Twitter, Facebook, Instagram, Youtube und Google relativ durchgängig, dass die Nachfrage nach extremen Inhalten die größte Rolle spielt. Menschen mit extremen Einstellungen suchen aktiv nach Inhalten, die ihr Misstrauen ins System bestätigen. Gruppen auf Facebook, Telegram und Co. sind Orte, wo Menschen mit extremen, oft rechten Einstellungen diese Bestätigung finden. Algorithmen hingegen haben eher kleine Effekte, schlagen den meisten Menschen moderate Posts und Videos vor, oder haben sogar einen linken politischen Bias. Extreme Inhalte empfehlen sie nur Menschen, die bereits viele extreme Inhalte konsumiert haben. Die Klicks auf radikale Youtube-Videos kommen meist von externen Links, oder von Accounts, denen User selbst folgen.

Bei einer der vier groß angelegten “Facebook-Instagram Election Studies” wurde ab zwei Monaten vor den US-Wahlen 2020 (Biden gegen Trump) für drei Monate bei 45.000 Usern der Algorithmus im Feed abgedreht. Der Effekt war groß: UserInnnen verbrachten weniger Zeit online, ihre Feeds enthielten mehr Inhalte von Gruppen statt Freunden und mehr politische Inhalte – wobei weniger aus gleichgesinnten und politisch konträren Quellen stammten und dafür mehr aus moderaten Quellen. Leider waren im Feed ohne Algorithmus auch mehr Inhalte aus nicht vertrauenswürdigen Quellen (4.4% statt 2.6%). Trotz alledem änderten sich die politische Einstellung, das Wahlverhalten und die Gefühle gegenüber der anderen politischen Seite (die gefühlte Polarisierung oder Spaltung) nicht - entgegen dem Erwarten der Wissenschaftler. Die Polarisierung nahm also nicht ab, und Meinungen änderten sich nicht.

Echokammern sind offline tendenziell stärker als online. Wie stark sie online ausgeprägt sind, variiert stark: 23.1% der Facebook-Nutzer sehen weniger als 25% der Inhalte aus Quellen, die mit ihrer Sichtweise übereinstimmen. Bei anderen 20.6% der Nutzer sind es hingegen 75%. Und Echokammern aufzulösen ist nicht unbedingt hilfreich. Ein Experiment auf Twitter zeigte, dass User noch mehr polarisiert werden, wenn sie für einen Monat Posts von Meinungsführern der anderen politischen Seite sehen. Kontakt mit extremen Meinungen auf Social Media führt also eher zu Konflikten, als zu gegenseitigem Verständnis.

Wie sich Propaganda, Nachrichten und politischen Kampagnen auf Einstellungen auswirken

Nicht nur Algorithmen, sondern sogar Propaganda, Werbung und politische Kampagnen scheinen nur kleine Effekte zu haben. Zwei Studien zeigen, dass die russischen Desinformationsattacken während der US-Wahlen 2016 keine Effekte auf Einstellungen, Wahlentscheidung und Polarisierung hatten. Warum? User sahen viel mehr Mainstream-News und -Posts von Politiker als von russischen Accounts. Die wenigen User, die den Großteil der Desinformation sahen, waren sowieso schon überzeugte Trump-Wähler und bereits stark polarisiert – und damit erneut eine kleine, politisch motivierte und extreme Minderheit.

Im Gegensatz dazu können groß angelegte politische Kampagnen in den Mainstream Medien Effekte haben. Aber auch ihre Effekte sind unabhängig von der werbenden Partei, der Einstellung der Wähler und vielen anderen Faktoren klein. Politische TV-Werbung verringert oder senkt die Beliebtheit eines Kandidaten dabei um ca. 1%, und ändert Wahlabsichten für eine bestimmte Partei um ca. 0.7%. In den USA hatte der regelmäßige Konsum des konservativen Senders Fox News vor allem Effekte auf Republikaner. Fox News könnte die Wahlergebnisse der Republikaner so um etwa 0.5% verbessert haben.

Auch Facebook hat manche kleine Effekte - obwohl es sich auf viele andere Dinge nicht wie befürchtet auswirkt. Facebook für sechs Wochen zu deaktivieren verringerte in einer Studie mit 20.000 Usern vor den US-Wahlen 2020 das allgemeine News-Wissen und verbesserte das Erkennen von Fehlinformationen. Wenn das mit dem Effekt eines Uni-Studiums auf das Erkennen von Fehlinformation vergleicht (0.55 Standardabweichungen), war der Effekt der Facebook-Deaktivierung etwa zehnmal kleiner (0.04 Standardabweichungen). Geschätzte 1.16% weniger potentielle Trump-Wähler stimmten statt Trump für Biden. In einer sehr knappen Wahl kann das einen Unterschied ausmachen. Politisches Wissen zur Wahl, die gefühlte Spaltung, Meinungen und die politische Teilhabe offline änderten sich allerdings nicht. Und Instagram hatte überhaupt keine solchen Effekte auf Fehlinformation, Wahlentscheidung oder News-Wissen.

Eine Facebook-Studie zu COVID-News fand ähnlich große Effekte auf Einstellungen: Geteilte Artikel aus Mainstream Medien, die Gefahr suggerierten, ohne falsch zu sein (“Gesunder Arzt stirbt 2 Wochen nach Impfung”), reduzierten die Impfbereitschaft viel stärker (im Durchschnitt minus 2% pro User) als Fake News (minus 0.05%). Auch deswegen, weil Fehlinformationen nur 0.03% der geteilten Links zu COVID ausmachten.

Zusammenfassend lässt sich also sagen, dass Mainstream-Medien und Informationen von Politiker eine viel wichtigere Rolle als Desinformation spielen. Sie können insgesamt kleine, aber potentiell wichtige Effekte auf Einstellungen haben. Fehlinformationen und polarisierende Inhalte erreichen nur wenige Leser, vor allem jene mit bereits extremen Meinungen. Weil diese aktiv nach ihnen suchen und sie in Gruppen verbreiten, und nicht vorrangig, weil Algorithmen sie ihnen zuspielen.

Dass Effekte klein sind, zeigt, dass Menschen neuen Informationen gegenüber grundsätzlich skeptisch und nicht leichtgläubig sind. Überzeugen ist schwer und braucht gute Argumente aus Quellen, denen Menschen vertrauen. Deswegen haben wir das Gefühl, irgendwie gegen eine Wand anzureden, wenn wir versuchen, die Einstellung von anderen zu verändern.

KI kann überzeugend sein, aber nicht Aufmerksamkeit vervielfachen

Könnte KI so überzeugend sein, dass sie es schafft, die Meinung der Massen zu manipulieren? Auch hier vermuten Fehlinformationsforscher mit guten Argumenten keine Katastrophe. In westlichen Demokratien wird Nachrichtenkonsum vor allem über die Nachfrage gesteuert. Verschiedene Medien kämpfen um Aufmerksamkeit und publizieren deswegen, was Menschen lesen wollen. Nur sehr wenige Menschen interessieren sich für Nachrichten, und auch sie lesen oft nur die Headlines. Und KI wird nicht dabei helfen können, mehr Aufmerksamkeit zu generieren. Es gibt schon jetzt eine Menge Unsinn im Internet, aber niemand hat die Zeit, das alles zu konsumieren. Vieles (inklusive Social Media) wird auch für seinen Unterhaltungswert konsumiert, und nicht unbedingt geglaubt.

Mit Hilfe von Chat GPT-4 personalisierte überzeugende politische Botschaften waren in einer Studie nicht überzeugender als nicht personalisierte Botschaften. Botschaften von den besten aktuell verfügbaren Sprachmodellen sind nicht überzeugender, als solche von älteren Modellen. Journalisten sind bereits so überzeugend, dass es nicht leicht ist, noch viel überzeugender zu sein. Ob Menschen einer Information vertrauen, hängt stark davon ab, von wem sie kommt. Traditionelle Zeitungen und Fernsehsender genießen viel höheres Vertrauen als dubiose Internetseiten. Solange die großen Medien also gut recherchieren und sich nicht blind auf KI verlassen, ist es nicht so leicht, die große Masse mit KI hinters Licht zu führen.

Nicht fehlinformiert, sondern uninformiert

Vielleicht wirft dieser Beitrag bei Ihnen mehr Fragen auf als er beantwortet. Wenn Fehlinformation, Algorithmen und KI nicht das Problem sind, warum glauben dann so viele Menschen so viel Unsinn, der nichts mit Wissenschaft oder der Realität zu tun hat? Warum gibt es so starke Tendenzen zu populistischen und rechtsextremen Parteien? Das sind gute und wichtige Fragen.

Viele Menschen sind tatsächlich sehr schlecht informiert und glauben viele unseriöse Dinge. Nur sind Fehlinformationen eben nicht die Ursache. Die richtige Frage ist eigentlich, warum Menschen überhaupt an wahre Dinge über die Welt glauben. Noch vor ein bis zwei Jahrhunderten hatte die Menschheit keine Ahnung, wie Impfungen, Antibiotika, Klimawandel, Atome oder Gene funktionieren. Diese Phänomene sind hochkomplex und nicht intuitiv zu erfassen. CO2 und Bakterien kann man nicht sehen, und sich einen Krankheitserreger unter die Haut zu spritzen, um sich vor Krankheit zu schützen, ist alles andere als intuitiv. Unser Grundzustand ist einer des Nichtwissens. Dank Bildung, Medien und Informationstechnologien haben bereits erstaunlich viele Menschen “richtige” Annahmen über solche Phänomene.

Umso tragischer ist es, dass das Interesse vieler Menschen an Medien, Politik und Wissenschaft sinkt. Die Interaktion mit Nachrichten, auch auf Social Media, nahm seit 2015 in 46 Ländern um 25% ab. Die meisten Menschen sind nicht fehlinformiert, sondern uninformiert. Sie glauben nicht zu vielen Fehlinformationen, sondern vertrauen der Wissenschaft und den Medien zu wenig. Im mangelnden Vertrauen in gesellschaftliche Institutionen liegt das eigentliche Problem - und auch der Ansatz für eine nachhaltige Lösung.

Fehlinformation ist das Symptom, nicht die Krankheit.

Was bei Diskussionen rund um Social Media, Algorithmen und KI leider übersehen wird, sind die eigentlichen Ursachen der Fehlinformation und die große Rolle von Eliten und Mainstream-Medien für ihre Verbreitung. Fehlinformation ist vor allem ein Symptom von gesellschaftlicher Polarisierung und mangelndem Vertrauen in Institutionen wie die Regierung, die Medien, die Wissenschaft und die Medizin.

Dass Institutionen dabei versagen, reale Probleme zu lösen und es nicht schaffen, große Bevölkerungsgruppen angemessen zu vertreten, führt zu sinkendem Vertrauen und steigender Polarisierung. Zum Beispiel ist der Glaube an Verschwörungsmythen in Ländern mit mehr Korruption weiter verbreitet – Ländern, in denen Politiker also weniger vertraut werden kann. Politiker selbst tragen auch beträchtlich zur Verbreitung von Fehlinformation bei, weil sie ein großes Publikum erreichen. Über verschiedene Länder hinweg korreliert die gefühlte Polarisierung der Gesellschaft am stärksten mit der Polarisierung der politischen Eliten und mit der Größe des nicht-weißen Bevölkerungsanteils eines Landes. Dies könnte z.B. ein Hinweis auf Integrationsprobleme sein.

Social Media spiegeln diese gesellschaftlichen Konflikte wider. Sie lassen sie schlimmer erscheinen, als sie sind, indem sie vor allem extremen Stimmen eine Bühne bieten. Menschen, die sich nicht wirklich für ein Thema interessieren, melden sich dazu natürlich nicht zu Wort. Deswegen ist die große Mehrheit, die moderatere Einstellungen hat, auf Social Media ziemlich unsichtbar (die sogenannte “Silent Majority”). So entsteht ein Bild scheinbarer Polarisierung, das die tatsächliche Polarisierung verstärken kann.

Was tun? Mögliche Lösungswege.

Versuche, die Verbreitung von Fehlinformation in der allgemeinen Bevölkerung einzudämmen, können nur kleine Effekte erreichen, weil das Problem von politischen Eliten und einer kleinen politisch motivierten Minderheit ausgeht. Dafür hilft alles, das Vertrauen in demokratische Institutionen stärkt, weil es Polarisierung verringert, und damit auch Fehlinformation zurückgeht. Leider gibt es dafür keine schnellen und einfachen Lösungen. Wir müssen Schritt für Schritt transparentere und effizientere Institutionen schaffen, die gesellschaftliche Probleme tatsächlich lösen. Wir brauchen Medien, die tatsächlich nützlich für ihre Leser sind, statt nur vom Spiel mit der Aufmerksamkeit zu leben. Wir brauchen Interventionen, die Vertrauen in die Medien stärken, z.B. indem Menschen lernen, wie Journalist recherchieren und Fakten überprüfen. Wir brauchen eine zuverlässige und transparente Wissenschaft, die sich selbst kritisiert und in Frage stellt, und immer weiter verbessert. Wir brauchen vertrauenswürdige Politiker, die transparent kommunizieren, Menschen die Wahrheit zutrauen, und nicht nur die Probleme von Eliten lösen.

Weil diese Lösungswege so schwer umzusetzen sind, ist es fast verständlich, dass lieber mit dem Finger auf Social Media und Ingenieure im Silicon Valley gezeigt wird. Leider lenken übertriebene Ängste rund um Fehlinformation und Social Media die Aufmerksamkeit von den wirklichen Ursachen ab. Wir müssen deswegen lernen, die Probleme mit Social Media realistischer einzuordnen. Um sie dann auch effektiv richtig zu regulieren. Uns z.B. auf Politiker und extreme Minderheiten zu konzentrieren, statt allgemein Warnungen vor Fake News zu verbreiten, die das Vertrauen in die Medien weiter senken. Eventuell könnten wir Social Media und ihre Algorithmen auch nutzen, um gezielt Beiträge zu verbreiten, die zwar nur kleine, aber dafür positive Effekte haben könnten.