Ein Unbehagen macht sich breit: Entmündigen wir uns durch die fortschreitende Digitalisierung selbst? Diese Frage treibt viele Menschen um, mit denen ich in den letzten Monaten sprach, darunter etliche Wissenschaftlerinnen und Wissenschaftler. Beispiel Arbeit: Die sich stetig beschleunigende Digitalisierung der Berufswelt wird unsere eigene Stellung darin fundamental ändern. Denn keineswegs nur übernehmen Roboter Fließbandtätigkeiten. Algorithmen verrichten auch Dienstleistungs- und Manage­mentaufgaben zunehmend effektiver als wir. Beispiel Beziehungen: Künstliche Intelligenzen werden von sozialen Netzwerken wie Facebook, dem aktuell 1,5 Milliarden Menschen angehören­, eingesetzt, um Nutzerdaten nach ökonomisch verwertbaren Wahrheiten zu durchkämmen. Was interessiert Sie, wie ticken, wie fühlen Sie? Nie zuvor konnte jemand mehr über den Einzelnen in Erfahrung bringen.

Derlei Kenntnisse sind auch politisch und ideologisch verwertbar. Wer immer genauer weiß, welche Fragen Sie umtreiben, wo Sie sich informieren und auf wessen Ansichten Sie Wert legen oder pfeifen, kann Sie immer passgenauer lenken, ja fernsteuern. Menschliches Verhalten wird programmierbar, die Gesellschaft automatisiert. Das ist der alarmierende Tenor eines leidenschaftlichen Denkanstoßes, den neun namhafte europäische Experten exklusiv in "Spektrum der Wissenschaft" vorlegen. Die Autoren aus den Bereichen Big Data, KI, Soziologie, Ökonomie, Psychologie und Philosophie wollen uns mit ihrem Digital-Manifest wachrütteln. Wir brauchen eine neue Aufklärung, um Demokratie und individuelle Freiheit vor totalitären Strukturen zu bewahren, die aus den Möglichkeiten der digitalen Revolution erwachsen. Schon heute können die verborgenen Algorithmen von Suchmaschinen Wahlen beeinflussen. Die Risiken der Fremdsteuerung des Menschen nehmen ein weltgeschichtlich einmaliges Ausmaß an – und umfassen neben unserer Manipulation durch Konzerne, Hacker oder Regierungen auch unsere Instrumentalisierung durch künstliche Intelligenzen, die in den kommenden Jahrzehnten nie gekannte Fähigkeiten erwerben dürften.

Mir wurde der Verdacht, all dies seien überkommene Dystopien, am 9. November ausgetrieben. Auf der hochkarätig besetzten Falling-Walls-Konferenz in Berlin zeigte der Neurowissenschaftler und Entwickler Demis Hassabis, Chef von Googles KI-Vorzeigeprojekt DeepMind, wie seine künstliche Intelligenz autark lernte, verschiedenste Computerspiele zu beherrschen – ohne irgendeine Kenntnis der Ziele oder Regeln dieser Spiele einprogrammiert bekommen zu haben, allein durch eigenständiges maschinelles Adaptieren. Nach x Spielversuchen stellte das System die Leistungen jedes noch so trainierten menschlichen Spielers weit in den Schatten, agierte ungleich erfolgreicher – ohne zu wissen, was Erfolg ist. Was passiert, wenn man solche Fähigkeiten weiterentwickelt und auf heiklere Gebiete loslässt?

Ich lege Ihnen die Lektüre des Digital-Manifests sowie die begleitende "Strategie für das digitale Zeitalter" unserer neun Autoren nachdrücklich ans Herz.