Wie erkenne ich Fake-Accounts, Bots und Trolle?

"Ironie-Alarm: Der erste Tweet von Putin war Glückwunsch an Obama?", lautete eine Schlagzeile von The Washington Post im Jahr 2014. "Putin folgt nur 19 Personen auf Twitter und eine davon ist seit fünf Jahren tot", schrieb eine weitere Nachrichtenseite aus den USA, Business Insider, vier Jahre später. Die beiden renommierten Medien sind nicht die Einzigen, die auf einen Fake-Account, der angeblich das englischsprachigeProfil des russischen Präsidenten Wladimir Putin auf Twitter war, hereinfielen.

Das im November 2012 angelegte Fake-Profil hatte bei seiner Löschung durch Twitter"wegen Identitätsbetrugs" im November 2018 fast 1 Million Follower - ähnlich wie das verifizierte englischsprachige Twitter-Profil des russischen Präsidenten.

Zwar war der vermeintliche Putin-Account, der hauptsächlich die Mitteilungen der offiziellen Seite des Kremls repostete, nie wegen der Verbreitung von Fakes auffällig geworden. Doch genau solche Fake-Accounts werden immer öfter als eine Waffe in den modernen Informationskriegen benutzt. Mittlerweile haben dies auch die Betreiber der populären sozialen Netzwerke erkannt.

Die Anzahl der Fake-Accounts bei Twitter lässt sich nicht genau beziffern, aber nach Aussage eines Twitter-Mitarbeiters werden bei diesem sozialen Netzwerk wöchentlich allein zwischen 8,5 und 10 Millionen Bots geprüft und über drei Viertel davon werden auch automatisch entfernt. Bei Facebook schätzt man die Anzahl der Fake-Accounts auf fünf Prozent der weltweit monatlich aktiven Nutzer. Allein im zweiten Quartal 2021 wurden von Facebook 1,7 Milliarden falsche Accounts gelöscht. 

Was ist ein Fake-Profil?

Laut Facebook werden täglich Millionen von Versuchen blockiert, Fake-Accounts auf dieser Plattform anzulegen. Damit sind unter anderem Accounts  gemeint, "die mit böswilliger Absicht erstellt wurden, um gegen unsere Richtlinien zu verstoßen".

Auch bei Twitter können die Accounts, die sich in täuschender oder irreführender Weise als eine andere Person, Marke oder Organisation ausgeben, gemäß der Twitter-Richtlinie wegen Identitätsbetrugs dauerhaft gesperrt werden. Allerdings verstößt bei Twitter ein Account mit ähnlichem Benutzernamen oder ähnlichem Aussehen wie etwa dem gleichen Profilbild nicht automatisch gegen die Richtlinie zum Identitätsbetrugs.

Wie erkenne ich einen Fake-Account?

Bei Personen des öffentlichen Lebens und offiziellen Accounts von Unternehmen auf Facebook, Twitter und Instagram bestätigt in der Regel ein blaues Verifizierungsabzeichen, dass die Seite oder das Profil authentisch sind. Das ist bei vielen Politikern und Prominenten der Fall und hilft zum Beispiel die echten Profile von Tesla-Chef Elon Musk oder Facebook-Gründer Mark Zuckerberg von Fake-Accounts zu unterscheiden, die als solche sonst nicht sofort erkennbar wären. Allerdings gab Twitter vor Kurzem zu, fälschlicherweise auch einige Fake-Accounts verifiziert zu haben.

Fehlt das Verifizierungsabzeichen, achten Sie auf folgende Details:

• Accountnamen oder Profiladresse (URL)

Oft wird zum Beispiel der Nutzername bei Twitter oder Facebook nachträglich passend verändert, so dass nur noch die URL bei Facebook oder der Accountname mit dem At-Zeichen (@) bei Twitter die ursprüngliche Identität verraten. So weisen bei diesem vermeintlichen Elon-Musk-Account auf Facebook (siehe Screenshot) vor allem der Fehler im Namen "Muskk" und die URL-Adresse "facebook.com/elonreeve.musk.338" darauf hin, dass es sich höchstwahrscheinlich nicht um das reale Profil des Tesla-Gründers handelt.

Handelt es sich um eine Organisation oder prominente Person, können Sie schauen, ob deren Webseiten auf das fragliche Profil verlinken. Wenn es nicht um eine prominente Person geht, können Sie mithilfe von Suchmaschinen überprüfen, ob eine Person mit demselben Namen auch bei anderen sozialen Netzwerken aktiv ist. Wenn ja: Werden die gleichen Profilbilder genutzt? Stimmen Profilinfos, Kontaktangaben und Standorte überein? Verbreiten die Accounts die gleichen Inhalte? Dann handelt es sich vermutlich um eine echte Person, denn es ist unwahrscheinlich, dass Fake-Accounts mit gleichen Identitäten in mehreren sozialen Netzwerken angelegt und bis ins Detail gleich gepflegt wurden.

Denken Sie aber immer daran, dass es sich nicht um feste Beweise, sondern um mögliche Hinweise handelt.

• Profilbild

Nehmen Sie das Profilbild unter die Lupe (mehr zur Erkennung gefälschter Bilder erfahren Sie in einem weiteren Artikel der Serie), sofern es überhaupt vorhanden ist. Mit einer einfachen Bild-Rückwärtssuche (z. B. bei Google, Bing oder Yandex) kann man herausfinden, ob das Bild eventuell eine ganz andere Person abbildet oder an vielen anderen Stellen im Netz verwendet wird. Auch die Qualität der Bilder kann ein Indiz für die Unechtheit liefern. Es ist höchst unwahrscheinlich, dass bei einer prominenten Person ein Bild mit niedriger Auflösung als Profilbild verwendet wird.

• Follower, Freunde, Abonnenten

Weniger als 4000 Follower beim Account von Angela Merkel auf Twitter? Nur 52 Freunde bei dem Facebook-Profil von Kate Middleton? Die Sache scheint ziemlich klar zu sein - es sind Fake-Accounts. Bei dem eingangs bereits erwähnten Elon-Musk-Account auf Facebook mit über 60.000 Abonnenten könnte man vielleicht Zweifel bekommen. Einen Hinweis liefert in diesem Fall der verifizierte Twitter-Account des Tesla-Chefs, der im Steckbrief des verdächtigen Facebook-Accounts sogar verlinkt wird. Auf Twitter hat Elon Musk über 61 Millionen Follower. Bei dem auffällig großen Unterschied der Zahl der Follower, Freunde und Abonnenten ist Vorsicht geboten. Einen Überblick über die Follower verschaffen kann man sich beispielsweise mit Hilfe von dem Tool Followerwonk.

Bei Personen des öffentlichen Lebens kann ein weiterer Hinweis sein, ob andere verifizierte Accounts mit dem fraglichen Profil interagieren: Kommentiert ein Mannschaftskollege das Foto des vermeintlichen Sportprofis? Retweetet der verifizierte Partei-Account Beiträge der Kandidatin? Das sind Indizien, dass das Profil echt ist.

• Inhalte und Verhalten

Achten Sie außerdem darauf, wie lange es den Account bereits gibt. Wird er bereits seit Jahren gepflegt, spricht das dafür, dass er authentisch ist. Ausnahmen bestätigen hier allerdings die Regel, wie der falsche Putin-Account zeigte, der sechs Jahre lang aktiv war.

Passen die Inhalte zur Person? Ein ständiger Ortswechsel bei jemandem, der weder Reiseblogger noch Kriegsreporter ist, sollte Misstrauen wecken. Ein deutscher Student postet plötzlich vermeintliche Aufnahmen der Kämpfe in Afghanistan? Eine russische Rentnerin verbreitet Bilder von angeblichen Impfprotesten in Paris? Bei unplausiblen Inhalten ist die Wahrscheinlichkeit hoch, dass es ein Fake-Account ist - oder darüber zumindest Falschmeldungen ungeprüft weiterverbreitet werden.

 Auf solches Verhalten kommt es auch bei sogenannten Bots an.

Was ist ein Bot?

Unermüdlich und fleißig posten sie 24/7 ihre Kommentare unter den Posts auf Facebook und Co., teilen Inhalte und befeuern Diskussionen unter Beiträgen, die sonst höchstwahrscheinlich nicht viel Aufsehen erregen würden. Ihr Name erklärt ihr Verhalten: Bots kommt von "Robots", Englisch für Roboter.

Wichtig ist es, zwischen "guten Bots" und "schlechten Bots" zu unterscheiden. Gute Bots fungieren offen als automatisierte Accounts und posten zum Beispiel Nachrichten oder Informationen über das Wetter, Erdbeben oder Satellitenbilder.

Schlechte Bots sind Computerprogramme, die mit einem bestimmten Zweck Aktivitäten menschlicher Nutzer vortäuschen. Je nach Algorithmus können solche Bots eigene Posts verfassen, Kommentare hinterlassen, anderen Nutzern folgen und sogar Freundschaftsanfragen verschicken.

Solche Bots tragen beispielsweise dazu bei, eine bestimmte politische Meinung in sozialen Netzwerken zu verstärken oder gewisse Themen in den Vordergrund zu bringen, indem sie zum Beispiel immer wieder die gleichen Falschmeldungen oder Desinformationen verbreiten und konstruktive Diskussionen im Netz unmöglich machen. So wurden in einer Studie der Carnegie Mellon University 2020 mehr als 200 Millionen Tweets analysiert, die sich mit dem Coronavirus oder COVID-19 befassten. Von den 50 einflussreichsten Retweetern waren 82 Prozent Bots, fanden die Forscher. Von den 1000 Top-Retweetern waren 62 Prozent Bots.

Wie erkenne ich Bots?

Ähnlich wie bei Fake-Accounts achten Sie auf folgende Details:

• Name

Eine Reihe von Zahlen im Namen kann ein Hinweis auf einen automatisch erstellten Account sein.

• Profilbild

Kein Foto oder ein Bild von einer fiktiven Person in niedriger Qualität? Vorsicht!

• Bio/Profilinfos

Spärliche Profilinfos, ein relativ aktuelles Erstellungsdatum und ein Standort, der inhaltlich nicht mit den Postings übereinstimmt, sollten Sie skeptisch machen.

• Ein für Menschen eher untypisches Verhalten

Die gleichen Inhalte werden von demselben Account zeitgleich in verschiedenen sozialen Netzwerken oder unter mehreren Beiträgen gepostet, unzählige meist primitive Antworten in kürzester Zeit veröffentlicht, die Inhalte sehr schnell retweetet - das alles spricht nicht dafür, dass es sich um einen Menschen handelt. Außerdem folgen Bots oft einer großen Anzahl an Accounts, während sie selber keine oder kaum Follower/Freunde haben. Um das zu prüfen, kann man beispielsweise solche Tools wie Followerwonk oder Botometer für Twitter nutzen.

Wer sind die Trolle?

Zwar sind sie in ihrem Verhalten im Netz genauso destruktiv und hyperaktiv wie Bots, doch hinter Trollen stecken echte Menschen. Meistens agieren Trolle für Bezahlung und haben bestimmte prominente Persönlichkeiten oder Medien als Angriffsziel. In diesem Zusammenhang spricht man über "ein koordiniertes unechtes Verhalten im Auftrag einer ausländischen oder staatlichen Stelle" (so die offizielle Bezeichnung bei Facebook) oder sogenannte Trollfabriken (Mehr über Aktivitäten von Trollen und deren Rolle bei staatlicher Propaganda im weiteren Artikel der Serie).

Eines der prominentesten Beispiele dafür ist die russische Internet Research Agency in St. Petersburg (IRA). Laut EUvsDisinfo, einer Aufklärungskampagne des Europäischen Auswärtigen Dienstes der EU, verbreitete diese Trollfabrik die Desinformationen und kremlfreundliche Botschaften in verschiedenen Sprachen während mehrerer Wahl- und Referendum-Kampagnen in Europa und in den USA. Spätestens im Januar 2017 wurde die St. Petersburger Trollfabrik weltweit bekannt - nachdem US-amerikanische Nachrichtendienste einen Bericht veröffentlichten, der Versuche aus Russland auswertet, die öffentliche Meinung in den USA im Zuge der Präsidentschaftswahl 2016 zu beeinflussen. Facebook entfernt seitdem immer wieder mehrere Accounts, die in Verbindung mit der IRA stehen.

Ähnliche Trollfabriken oder Trollarmeen soll es außer in Russland auch in einigen weiteren Ländern wie zum Beispiel Indien, China, Saudi-Arabien und Mexiko geben. Eine koordinierte Trollfabrik-ähnliche Kampagne, bei der minderjährige Anhänger des damaligen US-Präsidenten Donald Trump für Geld Desinformationen in den sozialen Medien verbreitet haben, wurde 2020 von Washington Post in den USA aufgedeckt.  

Wie erkenne ich Trolle?

Da sich hinter Trollen oft echte Menschen verstecken, sind die Accounts schwieriger als Fake-Accounts zu erkennen. Insbesondere wenn solche Profile im Rahmen von Troll-Netzwerken jahrelang gepflegt werden, so dass die üblichen Merkmale wie Profilname, Erstellungsdatum, Biografie und Followeranzahl für deren Entlarvung nicht immer aufschlussreich sind. Trotzdem überprüfen Sie auf alle Fälle die bereits oben aufgeführten typischen Merkmale von Fake-Accounts.

Zusätzlich analysieren Sie die von der Person öffentlich geposteten Inhalte: Führen Links eventuell zu Nachrichtenseiten, die Falschmeldungen produzieren (Mehr zum Erkennen von Falschmeldungen im ersten Teil der Serie)? Beachten Sie dabei auch, ob im verdächtigen Account neben zahlreichen Reposts auch persönliche Einträge erscheinen. Wenn sich die Aktivität des Profils ausschließlich auf die Verbreitung von fremden Inhalten, insbesondere von erwiesenen Falschmeldungen, beschränkt, kann das ein Hinweis auf einen Internettroll sein.

Prüfen Sie, ob Sie gemeinsame Freunde haben. Ist das der Fall, fragen Sie bei ihnen nach, wer die fragliche Person ist.

Achten Sie darauf, wie viel Zeit der vermeintliche Troll in sozialen Netzwerken verbringt: Stundenlange Diskussionen in Kommentaren bei bestimmten Medienaccounts, Verbreitung von denselben Messages unter verschiedenen Beiträgen, Posten und Teilen in sehr kurzen Abständen können ein Hinweis darauf sein, dass die Person ihre Aktivitäten auf Facebook, Twitter, Instagram und YouTube "hauptberuflich" betreibt.

Eine der wichtigsten Fragen bei der Erkennung von einem Troll in sozialen Netzwerken ist, ob er einen sinnvollen inhaltlichen Beitrag zur Diskussion leistet. Ist es nicht der Fall und der Account manipuliert die anderen und ruft nur negative Emotionen hervor, verzichten Sie auf weitere Diskussion und melden Sie das Profil dem Seitenbetreiber zur Überprüfung.

Mehr zur Serie "Wie erkenne ich Desinformation?":

• Wie erkenne ich Fake News?
• Wie erkenne ich manipulierte Bilder?
• Wie erkenne ich staatliche Propaganda?
• Wie erkenne ich Deepfakes?