Der Islamische Staat (IS) zieht viele seiner Anhänger über soziale Medien wie Twitter an. Forscher vom Qatar Computing Research Institute haben daher nun einen lernfähigen Computeralgorithmus entwickelt, der mit einer fast 90-prozentiger Sicherheit vorhersagen soll, welche Netzwerknutzer sich zu IS-Sympathisanten entwickeln werden. Dieser Ansatz könnte hilfreich sein, um gefährdete Accounts genauer zu beobachten und zu sperren, sobald sich radikale Tendenzen abzeichnen.

Die Forscher sammelten im Zeitraum vom Oktober bis Dezember 2014 3,1 Millionen Tweets in arabischer Sprache von 250 000 Nutzern, die den IS in verschiedenen Varianten erwähnten. Aus diesen wählten sie die 165 000 Konten aus, die am 17. November noch verfügbar waren. Die anderen waren von den Nutzern gelöscht oder von Twitter gesperrt worden. Oder aber ihre Nutzereinstellungen waren so verändert worden, dass sie nicht mehr für eine Analyse zur Verfügung standen.

Ein arabischer Muttersprachler, der mit der Thematik vertraut war, bewertete dann 1000 zufällig ausgewählte Tweets im Hinblick auf ihre Position gegenüber dem IS als positiv, neutral oder negativ. Außerdem untersuchten die Forscher, ob es einen Zusammenhang zwischen der verwendeten Bezeichnung für den IS und der politischen Tendenz der Kurznachricht gab. Die volle arabische Ausschreibung "Aldawla Alislamiya" ("Islamischer Staat") oder "Aldawla Alislamiya fi Aliraq walsham" ("Islamischer Staat im Irak und der Levante") lieferte dabei bei 93 Prozent der Tweets eine positive Tendenz. Das Kürzel "Da'esh" (entspricht "IS" oder Variationen davon) war dagegen in 77 Prozent der Tweets mit einer negativen Haltung verknüpft. Dieses Phänomen hatte sich schon in früheren Studien gezeigt.

Nutzer mit klarer Haltung

Die Forscher engten ihre Stichprobe weiter ein. Sie extrahierten jene 56 960 Konten, die in mindestens zehn ihrer letzten 3200 Tweets (so weit lässt sich der Verlauf eines Twitter-Accounts automatisch zurückverfolgen) den IS erwähnt und außerdem in mindestens 70 Prozent dieser Tweets ausschließlich eine der beiden Namensvarianten verwendet hatten. So erhielten sie eine Stichprobe von Nutzern, die sowohl aktiv zu dem Thema beitrugen als auch eine klare Haltung vertraten.

Anschließend legten sie ihrem arabischsprachigen Experten die Tweets von je 50 Nutzern aus jeder Gruppe vor, um zu überprüfen, ob die Klassifizierung in Unterstützter und Gegner funktioniert hatte. Alle 100 Nutzer wurden von dem Experten der Klassifizierung entsprechend zugeordnet. Die 56 960 Konten setzten sich demnach aus 11 332 IS-Unterstützern und 45 628 Gegnern der Gruppe zusammen.

Pro-IS-Tweets nehmen mit der Veröffentlichung von Propagandavideos oder militärischen Erfolgen zu

Nun analysierten die Forscher den Inhalt der Tweets und die Nutzerdaten genauer. Es zeigte sich, dass unterschiedliche Ereignisse Unterstützer und Gegner zu Tweets anspornten. So stieg die Zahl der Anti-IS-Tweets mit Berichten über Menschenrechtsverletzungen wie dem Töten von Geiseln, Folterungen oder der Versklavung jesidischer Frauen. Pro-IS-Tweets nahmen mit der Veröffentlichung von Propagandavideos oder militärischen Erfolgen zu.

Um die Entwicklung der Nutzer hin zum Lager der IS-Unterstützer besser zu verstehen, verwendeten die Forscher einen Ansatz aus dem maschinellen Lernen. 4307 der Pro-IS-Accounts hatten von Beginn an die Gruppe unterstützt. Die verbliebenen 7225 Nutzer aber hatten eine Vorgeschichte, in der ihre Tweets keine klar positive Haltung gegenüber dem IS auszeichnete. Die Forscher trainierten einen Machine-Learning-Algorithmus so, dass er aus den frühen Tweets der 7225 Nutzer charakteristische Begriffe herausfilterte. Dasselbe Vorgehen wandten sie auf die gleiche Zahl späterer Pro-IS-Accounts an.

Durch das Training konnte das Programm schließlich mit einer Erfolgsquote von 87 Prozent die späteren IS-Unterstützer identifizieren, bevor sie überhaupt den ersten einschlägigen Tweet abgesetzt hatten. Bei der Analyse des Inhalts der frühen Tweets stellten die Forscher fest, dass eine Enttäuschung über den Verlauf des Arabischen Frühlings und eine Ablehnung der regionalen Regime in der arabischen Welt bereits vor der Hinwendung zum IS Merkmale der Tweets späterer Sympathisanten waren. Bei den Gegnern ließen sich solche Merkmale nicht mit derselben Deutlichkeit ausmachen.

Propaganda 2.0

Diese Big-Data-Analyse zeigt eine Möglichkeit auf, die Aktivität des IS auf Twitter systematisch zu bekämpfen. Seit die Terrorgruppe im Sommer letzten Jahres begonnen hat, soziale Netzwerke intensiv für ihre Zwecke zu nutzen, ist Unmut über den Umgang der Firmen mit dieser "Propaganda 2.0" laut geworden. Speziell Twitter wird für seine passive Haltung kritisiert.

Anfang März hatten Mitglieder des US-Kongresses den Twitter-CEO Dick Costolo in einem offenen Brief dazu aufgefordert, im Kampf gegen den IS aktiver zu werden. Twitter solle mehr islamistische Accounts blockieren und den "Cyber-Dschihad" des "virtuellen Kalifats" so stoppen. Anlass des Briefs war der "ISIS Twitter Census" der Brookings Institution, eine Studie nach der im Zeitraum von September bis Dezember 2014 geschätzte 46 000 IS-Unterstützer-Accounts in Betrieb waren. Im Mittel folgten diesen Accounts etwa 1000 andere Twitter-Nutzer. Das ist zwar mehr als die durchschnittliche Zahl an Followern eines Twitter-Kontos. Dennoch bleibt diese Zahl weit hinter den Anhängern von populären Accounts wie etwa dem des US-Präsidenten Barack Obama mit 56,4 Millionen Followern zurück. Insgesamt sind bei Twitter im Moment etwa 288 Millionen Accounts registriert.

Bereits Tage vor Veröffentlichung des Briefs machten Meldungen über Todesdrohungen gegen den Twitter-Gründer Jack Dorsey die Runde. Als Ursache gelten die Sperrungen von islamistisch geprägten Nutzerkonten, die gegen die Geschäftsbedingungen des Kurznachrichtendiensts verstoßen hatten. Twitter sperrte zuletzt bis zu 2000 terrornahe Accounts pro Woche, wie man der "New York Times" zufolge aus Firmenkreisen verlauten ließ. Das Unternehmen weigert sich aber weiterhin, mit automatisierten Verfahren systematisch nach verdächtigen Nutzern zu suchen. Der Online-Extremismus-Experte J. M. Berger, der den IS-Twitter-Zensus mit verfasst hat, sagte, das Unternehmen habe überhaupt nicht genügend Personal, um jeden der Accounts auf seinen Ursprung zu prüfen.

Bei Twitter verlässt man sich deshalb lieber auf einen Selbstreinigungsprozess: Die Jagd auf vermeintliche Terroristen sollen andere Nutzer übernehmen. Verdächtige Konten sollen sie dem Unternehmen melden, das dann eine genauere Überprüfung vornimmt. Gegebenenfalls werden Nutzerkonten gesperrt. Eine Onlineguerilla mit Verbindungen zum Hackernetzwerk Anonymous mischt im Cyberkampf mit und versucht eigenständig Radikale zu identifizieren und blocken zu lassen. Diese IS-Jäger stellen schwarze Listen von verdächtigen Accounts ins Netz und fordern ihre Unterstützer auf, diese zu melden, wie ebenfalls die "New York Times" berichtet. Auch gegen Mitglieder dieser "digitalen Truppen" soll es schon Todesdrohungen gegeben haben.

Laut "ISIS Twitter Census" waren von September bis Dezember 2014 geschätzte 46 000 IS-Unterstützer-Accounts in Betrieb

In einem E-Mail-Statement betonte Twitter, man untersuche alle gemeldeten Accounts auf Verstöße gegen die firmeneigenen Nutzungsbedingungen. Unternehmensjurist Vijaya Gadde erklärt, man habe die "Mechanismen" zur Stilllegung von Konten, die gegen die Nutzungsbedingung verstoßen, ausgeweitet, die Möglichkeit zur freien Meinungsäußerung dürfe darunter aber nicht leiden. Dazu zählten auch Sichtweisen, die möglicherweise von vielen Nutzern nicht geteilt werden oder die diese für verabscheuungswürdig halten.

Der IS-Twitter-Zensus hingegen fordert eine engere Zusammenarbeit zwischen Firmen wie Twitter und der US-Regierung bei der Eindämmung der Extremismuspropaganda. Unter dem Deckmantel der Redefreiheit kontrollierten die Internetunternehmen, welche Inhalte sie zuließen, ohne dass es von staatlicher Seite Kontrollen der Rechtmäßigkeit gebe. Der IS-Twitter-Zensus sieht in einer zu strengen Unterbindung aber auch eine Gefahr. Eine Online-Isolation könne zu einer weiteren Radikalisierung der Nutzer führen. Sozialer Druck hingegen habe in einigen Fällen schon zu einer Abkehr von einer "vergifteten Weltanschauung" geführt, so die Studie.