Social Bots, Fake News: Manipulation in sozialen Netzwerken erkennen

Soziale Netzwerke ermöglichen den einfachen Austausch mit Freunden, auch wenn diese am anderen Ende der Welt wohnen. Und durch das Abonnieren von Kanälen bei Twitter oder Facebook im News-Feed kann sich heute jeder zu aktuellen Geschehnissen weltweit auf dem Laufenden halten. Das ist der Segen.

Ein Fluch sind die sozialen Netzwerke für diejenigen, die darin eine Gefahr für die unabhängige Meinungsbildung sehen – denn wie beispielsweise der News-Feed bei Facebook zustande kommt und was angezeigt wird, hängt von verschiedenen Faktoren ab, die nicht unbedingt auf den ersten Blick für Nutzer durchschaubar sind.

Fake News und Social Bots sind beides relativ junge Phänomene, die in sozialen Netzwerken zu Hause sind und dort für einigen Wirbel sorgen, denn eine aktuelle Debatte ist darüber entbrannt, ob politische Ansichten beeinflusst und vielleicht sogar Wahlkämpfe auf diesen Plattformen entschieden werden. Wenn ja, wäre es natürlich gefährlich, wenn sogenannte Meinungsroboter und Falschmeldungen uns eine falsche Realität vorgaukeln und die politische Stimmung im Land verzerren.

Dieser Artikel soll zeigen, wie soziale Netzwerke funktionieren und wie Social Bots und Fake News darin wirken. Dies hilft dabei, diese Phänomene zu erkennen und sich selbst nicht unbewusst beeinflussen zu lassen. Denn wie bei der Cybersicherheit steht und fällt auch in sozialen Netzwerken alles mit verantwortungsbewusstem Verhalten von Nutzern.

Außerdem klären wir am Ende, ob Social Bots und Fake News wirklich so bedrohlich sind, wie viele annehmen.

2016 war das Jahr von Social Bots und Fake News

Am Schlagwort Social Bots entbrennt besonders in Erinnerung an den US-Wahlkampf eine Debatte, die es Anfang 2017 sogar bis in den Bundestag geschafft hat. In einem öffentlichen Fachgespräch des Ausschusses für Bildung, Forschung und Technikfolgen-Abschätzung wurde das Phänomen diskutiert. Sollte die Politik eingreifen und Social Bots verbieten oder die Plattformen dazu zwingen, diese kenntlich zu machen? Gefährden Social Bots vielleicht sogar unsere Demokratie?

Fake News bezeichnen unwahre Nachrichten, die willentlich über soziale Netzwerke verbreitet werden ( ein Beispiel ). Die Intentionen dahinter sind variabel – mancher möchte ein bisschen Geld dazuverdienen, ein anderer möchte eine politische Agenda verbreiten. Die Wirkung ist jedoch eindeutig: Oft werden diese reißerischen Nachrichten geteilt und durch ein Gefällt mir gepusht, oftmals ohne dass sie vorher gelesen wurden.

Sowohl Social Bots als auch Fake News können als Mittel der politischen Einflussnahme eingesetzt werden. Fake News verbreiten sich oft rasend schnell auf sozialen Netzwerken. Klar können diese bewusst erstellten Falschmeldungen im Nachhinein als solche enttarnt werden. Doch an die Reichweite des falschen Posts wird die Richtigstellung nicht herankommen. Denn Menschen, die Falschmeldungen teilen, werden nicht unbedingt öffentlich zugeben wollen, dass sie auf eine Falschmeldung hereingefallen sind und die Richtigstellung nicht ebenfalls teilen.

Eine von Giga zusammengestellte Liste der 10 viralsten Fake News zeigt , dass ein Großteil der Falschmeldungen politisch motiviert sind und eine Agenda vorantreiben: Hillary Clinton verunglimpfen, Trumps Agenda unterstützen oder die Black-Lives-Matter-Bewegung durch schreckliche Fake-Morde in ein negatives Licht rücken.

Bots sind Computerprogramme, die selbstständig sich wiederholende Aufgaben abarbeiten. Sie werden als Webcrawler bei Suchmaschinen eingesetzt, die automatisch neue Webseiten und deren Inhalte erkennen und über Ranking und Sichtbarkeit entscheiden. Ein weiteres positives Einsatzfeld ist das Nutzen von Bots von Nachrichtenseiten. Die Bots suchen die relevantesten Inhalte heraus und stellen sie in einem Feed zusammen. Somit wird es einfacher, sich zu einem bestimmten Thema zu informieren.

Lesetipp: Botnetze: Definition, Gefahren, Schutzmaßnahmen

Ein Social Bot hingegen kann sich als normaler Nutzer tarnen und beispielsweise auf Twitter selbstständig gefertigte Inhalte posten, auf Hashtags und Keywords reagieren oder sich mit anderen Nutzern anfreunden. Ein einzelner Fake-Nutzer fällt dabei noch nicht ins Gewicht, doch Tausende oder Millionen haben dann schon mehr Potenzial, Diskussionen in bestimmte Richtungen zu lenken und gefälschtes Interesse an Themen zu simulieren.

Manche Experten vermuten, dass bis zu 25 Prozent der Nutzer auf Twitter tatsächlich Bots sind. Auf Facebook ist der Anteil mit ca. 2 Prozent deutlich niedriger .

Der US-Wahlkampf hat gezeigt, dass das Thema Potenzial für politische Brisanz hat. Während sich in einer stabilen Demokratie vermutlich schwer Stimmen kaufen lassen, sieht es bei Meinungen schon anders aus: Wenn man keine Unterstützung von echten Menschen bekommt, kann man sich einfach ein Computerprogramm schreiben.

Der Manipulation trotzen – wie Sie nicht auf Social Bots und Fake News hereinfallen

„Die Stimme der Vernunft ist leise“ hat schon Sigmund Freud erkannt. Auch auf Social Media sind diejenigen am sichtbarsten, die am lautesten schreien. Langweilige Fakten? Uninteressant. Deswegen liegt es an jedem, sich selbst zu schulen und vielleicht nicht alles unbedarft zu teilen, sondern erst einmal den Wahrheitsgehalt zu prüfen.

Wir geben Ihnen einige Tipps an die Hand, wie Sie Fake News, Bot-Aktivitäten und Manipulation erkennen können.

• Informieren Sie sich und gehen Sie kritisch an Online-Inhalte heran.
• Prüfen Sie Quellen, wenn Sie diese nicht kennen. Schauen Sie sich beispielsweise das Impressum einer Seite an. In Deutschland herrscht Impressum-Pflicht, also ist die Abwesenheit eines Impressums bereits verdächtig.
• Oft hilft es, ein System zu verlassen und in einem anderen System die Informationen zu überprüfen. Wenn Sie ein in den sozialen Netzwerken gepushtes Thema googeln und dazu nur zwei Artikel auftauchen, von denen einer 404 meldet, ist die Wahrscheinlichkeit groß, dass es Quatsch ist. Auch wenn ein Fact-Checker ganz oben in der Suche auftaucht, ist definitiv etwas nicht ganz richtig. Wenn dagegen mehrere große Nachrichtenportale ebenfalls über ein Thema berichten, können Sie davon ausgehen, dass an der Sache tatsächlich etwas dran ist.
• Nehmen Sie nicht alle Kommentare für bare Münze und gehen Sie vor allem nicht davon aus, dass die vorherrschende Meinung in einer Kommentarspalte die allgemeine Stimmung zu einem Thema widerspiegelt. Kommentare und sogenannte Trolle, die einfach nur in Kommentarspalten pöbeln, können gekauft werden. Vielleicht steht hinter einem Kommentar ein Bot, vielleicht ist ein Kommentator oder eine Kommentatorin in einem Schritt zuvor auf Fake News hereingefallen.
• Machen Sie sich Ihr eigenes Nachrichten-Konsumverhalten bewusst: Kennen Sie beispielsweise den Begriff Confirmation Bias? Dies beschreibt ein psychologisches Phänomen, das sich auch im Verhalten auf sozialen Netzwerken anwenden lässt. Er bezeichnet die Tendenz, dass Menschen Informationen so lesen und filtern, dass sie ihre eigene Weltsicht bestätigt sehen. Tatsächlich könnte man es sogar so sehen, dass der Begriff der Confirmation Bias im eigens erstellten News-Feed Gestalt annimmt, da wir ihn durch unsere Likes und Abonnements selbst zusammenstellen. Meistens tauchen im eigenen Feed nur Themen und Artikel auf, welche die eigene Weltsicht bestätigen. Konsumieren Sie auch solche Nachrichten, die Ihnen das suggerieren, was Sie hören möchten, selbstdiszipliniert und kritisch.
• Wie viele Leute auf Facebook oder Twitter auf einen Beitrag reagieren oder ihn teilen ist nicht unbedingt eine verlässliche Größe, um die politische Stimmung im Land zu messen. Viele Faktoren spielen eine Rolle bei der Frage, wie viel Reichweite ein Post erhält.
• Auf Twitter erkennen Sie Bots an der Zusammensetzung der Follower und daran, wem der Bot folgt. Außerdem ist die Beschreibung im Profil oft generisch, das Profilbild eine Grafik und das Banner nicht personalisiert.
• Ein Tipp der Tagesschau, um Bild-Posts zu überprüfen: Mit Rechtsklick auf das Bild eine umgekehrte Bildersuche starten: In Google nach diesem Bild suchen. So können Sie testen, ob ein Bild aus dem Kontext gerissen wurde. Vielleicht sagt ein Bild tatsächlich mehr als tausend Worte, doch im falschen Kontext können Bilder auch lügen.

Und was ist nun dran an der Gefahr für die Demokratie?

Da Fake News und Social Bots noch sehr junge Phänomene sind, konnte deren Wirkung noch nicht wirklich umfassend erforscht werden. Zu diesem Schluss kommt auch der Ausschuss für Bildung, Forschung und Technikfolgen-Abschätzung . Wenn man sich vor Augen führt, wie wenig Menschen sich tatsächlich auf Twitter bewegen, wo sich ja die meisten Social Bots tummeln, scheint die Relevanz der Meinungsroboter doch verschwindend gering. Doch selbst Fake News, die auf dem nutzerstarken Facebook eine Rolle spielen, haben laut Tagesschau ein begrenztes Wirkungspotenzial. Gerade junge Menschen zeigen Medienkompetenz und seien sich laut einer Studie der Uni Mainz „im Klaren darüber, dass sie im Internet zwischen mehr oder weniger seriösen bzw. vertrauenswürdigen Angeboten unterscheiden müssen“.

Linus Neumann vom Chaos Computer Club, der ebenfalls als Experte in den Bundestag geladen wurde , setzt die Wirkung von Social Bots ebenfalls in Relation und ruft zu Gelassenheit auf. „Der Effekt von Bots auf die politische Meinungsbildung sei […] nicht nur empirisch schwer nachweisbar, er bewege sich auch auf einem zahlenmäßig zu vernachlässigenden Niveau. Dies werde bereits deutlich, wenn man sich relativ geringe Zahl der Twitter-Nutzer in Deutschland vor Augen führe.“

Nachrichtenkonsum im Wandel – Lerneffekt und Chancen

Tatsache ist, dass die Art, wie wir Nachrichten konsumieren, im Wandel ist. Fake News sind eine Ausprägung dieses Wandels und Social Bots sind ein Multiplikator. Wie erfolgreich diese Konzepte sind, hängt von niemand anderem ab als von uns selbst.

Noch vor zwei Jahren, bevor der Begriff Fake News Konjunktur hatte, war unser Vertrauen noch größer, dass das, was auf einer großen Nachrichtenseite steht, schon stimmen wird. Heute wissen wir, dass es sogenannte Nachrichtenseiten und Individuen gibt, die willentlich Falschmeldungen in die Welt setzen. Wir können uns für diese Gefahren sensibilisieren und somit besser mit Fake News und Bots umgehen.

Des Weiteren bilden sich nur wenige ihre Meinung ausschließlich in sozialen Netzwerken. Es gibt genug Sphären, in denen die Meinungsroboter keine Rolle spielen und relativiert werden können, sei es bei einem Bierchen im Freundeskreis, bei gelegentlichen Diskussionen in der Arbeit oder im Kreis der Familie.

Wenn Sie online einen kritischen Blick und in Ihrem Umfeld eine offene Diskussionskultur pflegen, haben Social Bots und Fake News wenig Chancen.