Social Bots: So werden Nutzer in den sozialen Netzwerken manipuliert

Was genau ist ein Social Bot?

Ein Social Bot ist ein selbstständig agierendes Computerprogramm, das – wie ein Chatbot – kommunizieren kann und darüber hinaus in sozialen Medien aktiv ist.

Wie arbeitet ein Scoial Bot?

Er erzeugt und verbreitet Nachrichten in sozialen Medien und ist im Grunde genommen das, was Spam bei Mailsystemen ist. Unter Umständen “liked“ ein Social Bot Nachrichten von anderen oder folgt fremden Accounts. Manche Social Bots können sogar selber neue Accounts eröffnen. Für solche Fake Accounts werden unter Umständen Namen und Fotos aus dem Internet verwendet.

Lernen Social Bots selbstständig dazu oder stützen sie sich nur auf bestehende Datenbanken?

Im Unterschied zu IFTTT (If This Then That) spulen Social Bots nicht notwendigerweise ein vorher im Detail vorgegebenes Verhalten nach einer Wenn-dann-Logik ab, sondern sie sind lernfähig. Sie können gegebenenfalls neue Dialoge aus dem Internet extrahieren oder selber neue Aussagen erzeugen.

Nutzen Social Bots kognitive Intelligenz oder neuronale Netze oder weder noch?

Sie nutzen maschinelles Lernen. Es können neuronale Netze oder auch andere Verfahren zum Einsatz kommen. Besonders fortschrittliche Social Bots verwenden persönliche Daten über die jeweiligen Zielpersonen, um personalisierte Botschaften zu erzeugen und so die maximale Beeinflussung zu erzielen. Unter Umständen kennen solche Social Bots einen Menschen besser als seine Freunde. Der Einsatz solcher kognitiver Intelligenz zur Verhaltensmanipulation wird auch „Big Nudging“ genannt. Bei einer unterbewussten Beeinflussung bekommt die adressierte Person oftmals gar nicht mit, dass sie gezielt beeinflusst wurde.

Wer installiert Social Bots bzw. lässt sie laufen? Was will der Initiator damit erreichen?

Beispielsweise Geheimdienste, Militär, Hacker, Unternehmen. Social Bots werden verwendet, um bestimmte Ideen zu verbreiten und Kampagnen zu unterstützen. Sie sind neue, äußerst effektive Propagandawerkzeuge. Twitterbots und autonome Agenten auf Facebook sind typische Beispiele für Social Bots. Sie beeinflussen die Meinungsbildung zugunsten von ökonomischen oder politischen Interessen und manipulieren Entscheidungen, auch bei Wahlen. Sie werden überdies im Cyberkrieg eingesetzt, etwa für Desinformations-Kampagnen und Hacking.

Wie erstellt man Social Bots? Gibt es dafür Programme, und könnte die jeder nach Belieben nutzen?

Es gibt Firmen, die Social Bots anbieten. Insofern sind sie im Prinzip für jeden verfügbar. Die Miete von 10.000 Twitterbots kostet nur etwa 1000 Dollar. Das größte bekannte Bot-Netzwerk umfasste 350.000 Bots. Es verbreitete Star-Wars-Zitate. Im Prinzip kann man sich Social Bots auch selber bauen. Heutzutage ist Software für Künstliche Intelligenz jedem zugänglich. Die erforderlichen Daten könnte man aus dem Internet herunterladen. In der Vergangenheit ist es beispielsweise vorgekommen, dass Daten von Facebook-Nutzern heruntergeladen wurden. Achtung: Man könnte dabei aber eventuell Nutzungsbedingungen oder Gesetze verletzen.

Lesetipp: Botnetze – Definition, Gefahren, Schutzmaßnahmen

Sind Social Bots hauptsächlich in politischen Diskussionen unterwegs? Oder in welchen Bereichen bieten sich Social Bots außerdem für Manipulationen an?

Zunächst wurden die Methoden für ein effizienteres, personalisiertes Marketing entwickelt. Man spricht von Neuromarketing. Manche zählen diese Methoden zu „Mind Control“. Wenn sie in allen Alltagssituationen zum Einsatz kommen, wird auch der Begriff „Matrix“ verwendet. Die großen IT-Unternehmen haben jetzt begonnen, nach Mitteln zu suchen, Filterblasen und die „Matrix“ zu durchbrechen.

Auf welchen sozialen Plattformen sind Social Bots hauptsächlich unterwegs, auf welchen seltener oder gar nicht?

Heutzutage hauptsächlich auf sozialen Medien und auf Suchmaschinen. Aber auch Nachrichten werden im Internet immer mehr personalisiert: die Titel und die Bilder etwa. Es ist nur eine Frage der Zeit, bis auch der Text personalisiert wird. Dann sehen am Ende alle unterschiedliche Inhalte, obwohl sie den gleichen Link anklicken.

Welche Auswirkungen haben Social Bots in den sozialen Netzwerken? Wer profitiert davon, wem schaden die Social Bots?

Sie führen zu Verzerrungen bei der Meinungsbildung und im öffentlichen Diskurs. Sie tragen zu Fake News und Desinformation bei. Es profitieren jene, die Social Bots einsetzen, etwa zu Werbezwecken oder für politische Propaganda. Der Nutzer hat das Nachsehen. Er kauft Produkte, die er nicht braucht, und er verliert die Orientierung. Durch den Filterblasen-Effekt droht die Gesellschaft polarisiert zu werden. Die gemeinsame Basis und Konsensfähigkeit geht verloren.

Gibt es eindeutige Merkmale, um einen Social Bot von einem echten Nutzer zu unterscheiden?

Das ist zunehmend schwieriger. Mögliche Kriterien sind: die Verwendung von Grafiken statt Fotos im Nutzerprofil; die Anzahl der Tweets bzw. Posts an einem Tag; das Verhältnis von Followern zu Freunden; die Variation der Nachrichten. Und schließlich: Ist der Account rund um die Uhr aktiv?

Programme wie Twitter Audit oder BotOrNot sollen feststellen können, was Social Bots und wer echte Nutzer sind. Twitter Audit etwa soll feststellen, wie viele Follower eines Twitter-Accounts tatsächlich Menschen sind – wie soll das gehen?

BotOrNot untersucht die Aktivität von Twitter-Accounts und bewertet die Wahrscheinlichkeit, dass ein Account ein Bot ist. Dabei werden angeblich tausende von Eigenschaften untersucht, unter anderem die zuvor genannten. Zum Teil werden auch sogenannte Honigtöpfe eingesetzt. Dabei wird offensichtlicher Unsinn gepostet und geschaut, wer darauf reinfällt.

Gibt es Zahlen oder Schätzungen dazu, wie viele Nutzer auf Facebook und Twitter usw. Social Bots sind?

Die Schätzungen liegen bei etwa 20 bis 40 Prozent, zum Teil sogar höher.

Gibt es Studien oder Untersuchungen über Einsatz und Auswirkungen von Social Bots?

Ja, aber es handelt sich um ein ziemlich junges Forschungsgebiet. Folglich ist die Anzahl der Publikationen noch vergleichsweise gering.

Lesetipp: Invasion der Meinungsroboter

Ist davon auszugehen, dass – nachdem Social Bots jetzt so häufig in den Medien sind – diese Robotermeldungen eher zurückgefahren werden und vielleicht wieder aus den Netzen verschwinden? Oder ist mehr noch mit einem Anstieg von Social Bots zu rechnen, weil immer mehr Anbieter einen Nutzen darin sehen?

Ich gehe davon aus, dass sich der Einsatz von Social Bots zunächst noch weiter verbreiten wird. Es ist ein echtes Proliferationsproblem.

Von Seiten der Grünen wird gefordert, dass Robotermeldungen in den sozialen Netzwerken gekennzeichnet werden müssen. Machen Social Bots dann überhaupt noch Sinn? Oder ist denkbar, dass sich viele Nutzer auch mit Kennzeichnung weiterhin durch die so verbreiteten Informationen manipulieren lassen?

Eine Kennzeichnung entspräche dem, was für Werbung gesetzlich vorgeschrieben ist. Obwohl Werbung gekennzeichnet werden muss, wirkt sie, sonst würde man nicht so viel Geld dafür ausgeben. Aber die Nutzer wissen dann wenigstens, dass sie manipuliert werden sollen. Damit können sie sich besser vor Entscheidungen schützen, die nicht ihren Interessen entsprechen.

Sehen Sie generell Handlungsbedarf von Seiten der Politik, um Social Bots einzudämmen oder sehen Sie eher die Gefahr, dass Politik und Wirtschaft mit den Social Bots auf den Geschmack kommen könnten, den Bürger zu „leiten“?

Nudging , d.h. Verhaltensmanipulation, ist bereits in mehr als 90 Ländern zu einem Mittel der Politik geworden. Man wollte es einsetzen, um ein sozialeres, gesünderes und umweltfreundliches Verhalten zu erreichen. Dass die Methode derart außer Kontrolle gerät – Stichwort: Fake News und postfaktische Gesellschaft – hat man offenbar nicht kommen sehen. Maßnahmen sind unerlässlich. Je mehr menschliche Eigenschaften Künstliche Intelligenzsysteme imitieren, desto mehr muss man sie regulieren – so managt man ja auch das menschliche Zusammenleben. Die EU denkt bereits über Gesetze für Roboter nach. Die internationale Ingenieurvereinigung IEEE arbeitet an Standards für ethisches Design von solchen Systemen.

Was halten Sie davon, dass einige Justizminister überlegen, Social Bots unter Strafe zu stellen und einen neuen Straftatbestand einzuführen, den „Digitalen Hausfriedensbruch“?

Es wäre schön, wenn man Computerprogramme verhaften könnte. Zunächst ist sicherzustellen, dass Eigentümer, Auftraggeber und Nutzer von Social Bots identifiziert werden können. Einige Social Bots werden aber von extraterritorialem Gelände aus betrieben. Dort gelten viele nationale und internationale Gesetze nicht. Man bräuchte also globale Regelungen.