Lobes Digitalfabrik: Wenn Netzwerklautsprecher Fake News verbreiten
Zu den Vorzügen vernetzter Lautsprecher wie Amazon Echo oder Google Home gehört es, dass sie per Sprachbefehl Informationen ansagen. Man muss nicht mehr selbst in die Tasten greifen, wenn man etwas wissen möchte: Das erledigt der Roboter automatisch – und es ist natürlich komfortabel. Allein, das kognitive Outsourcing geht einher mit einem Kontrollverlust über die Informationsquellen.
Der BBC-Tech-Reporter Rory Cellan-Jones stellte kürzlich fest, dass Googles smarter Lautsprecher evidente Fake News verbreitet. Auf die Frage, ob Barack Obama einen Staatsstreich plane, antwortete der Netzwerklautsprecher in stilistisch nicht ganz elegantem Englisch: "Laut Details, die in dem exklusiven Video des Westen Center for Journalism zu sehen sind, könnte Obama nicht nur im Bett mit den kommunistischen Chinesen sein, sondern auch einen kommunistischen Staatsstreich am Ende seiner Amtszeit 2016 planen." Einmal abgesehen davon, dass Obama gar nicht mehr im Amt ist, klingt die Antwort so, als wäre sie von einem Trump-Anhänger programmiert worden. Googles Netzwerklautsprecher verbreitet Verschwörungstheorien – und wird zum Megafon der Alt-Right-Bewegung.
Auf eine Anfrage des Tech-Blogs "recode", wie es zu dem erratischen Ergebnis kommen konnte, teilte Google mit, dass die "featured snippets", die in der englischsprachigen Version der Suchmaschine in einem rechteckigen Kasten hervorgehoben werden, automatisch und algorithmisch mit den Suchbegriffen abgeglichen werden und der Inhalt von Fremdanbietern stamme. Google Home, das im ersten Halbjahr 2017 in Deutschland auf den Markt kommen soll, operiert im Grunde genauso wie die Suchmaschine, nur dass die Sprachkommandos in Computerbefehle übersetzt werden.
"Das ist natürlich ein Einfallstor für Manipulation"
Dem Journalisten Danny Sullivan war zuvor aufgefallen, dass die Suchmaschine denselben Textbaustein bei einer manuellen Suchanfrage ausspuckt. Auf die Frage Sullivans, ob die Republikaner Nazis seien, antwortete Google Home: "Ja, die Republikaner sind Nazis" und lieferte damit "alternative Fakten". Die Republikanische Partei trete für ein Ein-Parteien-System und eine charismatische Herrschaft nach dem Vorbild Hitlers ein. Das ist natürlich grober Unfug, zeigt aber das Manipulationspotenzial, dass smarten Lautsprechern innewohnt. Im Mai 2016 gab Google bekannt, dass 20 Prozent seiner Suchanfragen von Sprachbefehlen initiiert wurden. Bis Ende des Jahrzehnts soll der Anteil bei 50 Prozent liegen. Das Echo solcher Fake News wäre dann umso größer.
Wenn man übrigens Amazon Echo Dot fragt, ob Obama einen Staatstreich plane, antwortet die Sprachsoftware Alexa: "Ich kann die Antwort auf die Frage, die ich gehört habe, nicht finden." Vielleicht ist Nichtinformation hier auch besser als Falschinformation, doch die digitalen Butler aus dem Hause Amazon sind ebenfalls nicht neutral. Wenn man Netzwerklautsprecher Echo den Befehl gibt "Alexa, schicke Donald Trump ins Weltall", antwortete dieser bis vor Kurzem: "Ich denke, Jeff Bezos hat ihm einen Platz in seiner Rakete reserviert." Der Amazon-Gründer, der mit seinem Raumfahrtunternehmen Blue Origin eine wiederverwertbare Rakete entwickelt hat, liefert sich mit Trump auf Twitter eine Privatfehde.
Die "Washington Post", die Bezos gehört, hat Trump wiederholt scharf attackiert, woraufhin der Republikaner Reportern die Akkreditierung verweigerte. Die Sprachsoftware erzählt mittlerweile keine Witze mehr über den US-Präsidenten, aber Bezos könnte aus dem Spaß Ernst machen und die Tonart von Alexa verschärfen. Dann stünde in sieben Millionen US-Haushalten – so viele Geräte wurden bereits verkauft – ein Anti-Trump-Lautsprecher im Wohnzimmer. Eine unbehagliche Vorstellung. Der Schritt zur Wahlempfehlung ist da nicht mehr weit.
Amazon verriet sich in einer Stellungnahme selbst, als der Konzern mitteilte, dass die politischen Witze über Präsidentschaftskandidaten "ein kleiner Teil einer großen Berichterstattung über Vorwahlen und Wahlen auf Alexa waren" – und dass die Kunden Alexa über Umfragen, Wahlergebnisse und Wahltermine fragten. Das ist natürlich ein Einfallstor für Manipulation. Das Problem ist, dass man die Informationen, die einem Amazon Echo oder Google Home ansagen, noch viel schlechter verifizieren kann als Suchergebnisse, weil die Geräte eine Black Box sind, ein in sich geschlossenes System.
Die Gefahr besteht nicht nur darin, dass Netzwerklautsprecher im Wohnzimmer Gespräche mithören und sogar als Zeugen in Strafprozessen aussagen können – die Polizei in Bentonville im US-Bundesstaat Arizona verlangte in einem Mordfall die Herausgabe von Audiodateien von Amazon –, sondern dass hier eine subtile Wählerbeeinflussung stattfindet, die vom Verbraucher gar nicht bemerkt wird. Robert Epstein, Psychologe am American Institute for Behavioral Research and Technology, behauptet, dass Google die Präferenzen unentschlossener Wähler um 20 Prozent verändern könne und bereits Wahlen entschieden habe. In mehreren Experimenten (im Labor und auch im "Realbetrieb" bei der indischen Parlamentswahl 2014) konnte er nachweisen, dass verzerrte Suchmaschinentreffer die Wahlpräferenzen signifikant aushebeln können. Die Bequemlichkeit bei der Abfrage von Informationen führt zu einer zunehmenden Unmündigkeit im politischen Diskurs. Wer sich Informationen von privaten Konzernen ansagen lässt, anstatt selbst zu recherchieren, darf sich nicht beschweren, wenn er zum Gegenstand subtiler Einflussnahmen wird.
Schreiben Sie uns!
Beitrag schreiben