Zweifelsohne befinden wir uns an der Schwelle zu einem neuen Zeitalter, in welchem Information, Kommunikation und Automatisierung ganz neue Rollen spielen und in mehr Lebensbereiche eindringen werden, als dies vor einem halben Jahrhundert – am Anfang des Computerzeitalters – je vorstellbar war. Und es bestehen ebenso keine Zweifel, dass wir bereits dabei sind, über diese Schwelle zu treten, voller Elan und mit großen Hoffnungen, aber eben teilweise bisher auch naiv und ohne ausreichende Reflexion über mögliche Konsequenzen. Eine entsprechende Diskussion über unsere digitale Zukunft unter Einbezug aller Gesellschaftsteile und jedes Einzelnen ist seit Jahren überfällig. Den Ergebnissen dieses Meinungsbildungsprozesses wird eine grundlegende Bedeutung für das 21. Jahrhundert und die Gesellschaft, in der wir leben werden, zukommen. Umso wichtiger ist es, dass diese Debatte wohl informiert, realitätsorientiert und auf der Grundlage verifizierbarer Fakten geführt wird. Andernfalls droht ein Szenario, in welchem grundlegende Richtungsentscheidungen auf Basis von Mutmaßungen, Ängsten oder Vorurteilen getroffen werden.

Die Autoren des Digitalmanifests tun gut daran, Themen wie die Verfügbarkeit von Information, die individuelle wie auch kollektive Meinungsbildung sowie die Möglichkeiten, welche Big Data und moderne Datenanalyseverfahren staatlichen und nicht staatlichen Akteuren geben, anhand von konkreten Beispielen wie dem Nudging zu diskutieren. Auch der Hinweis auf mögliche, ja vielleicht sogar wahrscheinliche Auswirkungen auf den Arbeitsmarkt und die Arbeitswelt sind an dieser Stelle wichtig und richtig. Die Art und Weise, wie diese Punkte und die zugehörigen technischen Grundlagen vorgetragen werden, sind jedoch der Debatte in keiner Weise zuträglich – im Gegenteil.

"Wir können nicht einmal sagen, ob künstliche Intelligenz jenseits von klar umrissenen Aufgaben in stark eingeschränkten Domänen überhaupt möglich ist"

Wenn die Autoren ausführen, dass Supercomputer menschliche Fähigkeiten in fast allen Bereichen innerhalb der nächsten 50 Jahre übertreffen werden, so fällt dies aus der Sicht eines aktiven KI-Forschers, der selbst im Bereich der "starken künstlichen Intelligenz" arbeitet, bestenfalls in die Kategorie der wilden Spekulation. Wie bereits von Manfred Broy festgehalten, ist die Aussage, dass künstliche Intelligenz nicht mehr Zeile für Zeile programmiert werde, sondern sich selbst ständig weiterentwickle, im pragmatischen Kontext des Manifests schlichtweg falsch. Dass Deep-Learning-Algorithmen Suchmaschinendaten intelligent auswerten, sollte keinesfalls wortwörtlich genommen werden, sondern eher als Anreiz dienen, über die sehr dehnbare Bedeutung des Begriffs "intelligent" nachzudenken. Die Vorhersage, dass spätestens im Jahr 2035 die Hälfte der heutigen Arbeitsstellen von Algorithmen verdrängt sein werden, ist mit immens hoher Unsicherheit behaftet, ähnlich wie ein Langzeitwetterbericht über Wochen und Monate. Und die Nennung der öffentlich vorgetragenen Meinungen von Elon Musk (ein Unternehmer mit Abschlüssen in Physik und Wirtschaft), Stephen Hawking (theoretischer Physiker), Bill Gates und Steve Wozniak (beide Softwareunternehmer weit außerhalb der KI-Forschungslandschaft) ersetzt keineswegs die Diskussion mit tatsächlichen KI-Forschern aus allen Bereichen eines in sich aktuell selbst sehr stark diversifizierten Wissenschaftsgebiets.

Ja, es gibt Expertenumfragen innerhalb der KI-Community, in welcher eine Mehrheit der Befragten vorhersagt, dass noch vor 2060 eine menschenähnliche künstliche Intelligenz oder gar eine Superintelligenz jenseits der menschlichen Skala entwickelt sein dürfte. Jedoch kann ich selbst als Teilnehmer mehrerer solcher Umfragen sagen, dass immer auch der Kontext der Datenerhebungen in Betracht gezogen werden muss: Die meisten Statistiken spiegeln nicht repräsentativ die Meinung des gesamten Felds wieder, sondern werden bei Veranstaltungen oder über Mailinglisten durchgeführt, welche gezielt Forscher aus dem Unterbereich der menschenähnlichen KI ansprechen. Wen wundert es, dass in dieser speziellen Gruppe das Erreichen des selbstgesetzten Forschungsziels zufällig gerade noch in die Lebensspanne eines Großteils der befragten Wissenschaftler fällt?

"Der Ton des Haupttextes ist an vielen Stellen nicht mehr alarmierend, sondern alarmistisch – und verhindert damit genau die reflektierte und vernünftige Diskussion, welche die Verfasser anstreben"

Bei realistischer und nüchterner Betrachtung können wir auf Grundlage unseres heutigen Wissensstands nicht einmal mit Sicherheit sagen, ob künstliche Intelligenz jenseits der Automatisierung von klar umrissenen Aufgaben in stark eingeschränkten Domänen überhaupt möglich ist. Die Grundlage der Forschung an starker KI ist das bisherige Ausbleiben eines Unmöglichkeitsbeweises und, am Ende des Tages, eine nicht gerade kleine Portion Optimismus – jedoch keinesfalls die Sicherheit, dass das Forschungsziel überhaupt erreichbar ist. Natürlich sind Atari- und Go-spielende KI-Systeme beeindruckende Maschinen. Doch fest steht: Jedes dieser Systeme ist das Resultat jahrelanger hoch spezialisierter Ingenieursarbeit – und kann dennoch nur und ausschließlich mit Atari-Spielen beziehungsweise Go umgehen, es versteht weder Schach noch Mühle noch Backgammon. Ganz zu schweigen von den Sprachfähigkeiten eines vierjährigen Kindes oder der Ableitung, dass „Frankfurt liegt südlich von Hamburg“ und „Stuttgart liegt südlich von Frankfurt“ gleichzeitig auch „Stuttgart liegt südlich von Hamburg“ bedeutet. Zwar gibt es Systeme, die auch jeweils eine dieser Fähigkeiten modellieren – allerdings dann erneut eben nur diese.

Der Ton macht die Musik. Leider weichen die neun Dirigenten des "Digitalen Manifests" mehr als einmal in der Interpretation des von ihnen gewählten Stücks fast schon fahrlässig vom tatsächlichen Notentext und der gemeinhin akzeptierten Aufführungspraxis ab.

Schon die Änderung des Stils zwischen der einsichtsvollen – wenn auch sehr idealistischen – "Strategie für das digitale Zeitalter", also dem zweiten Teil des "Digitalen Manifests", und dem Hauptteil "Digitale Demokratie statt Datendiktatur" erweist den neun Autoren und ihrem Anliegen einen Bärendienst. Der Ton des Haupttextes ist an vielen Stellen nicht mehr alarmierend, sondern alarmistisch – und verhindert damit genau die reflektierte und vernünftige Diskussion, welche die Verfasser anstreben. Dies ist umso überraschender, als alle Autoren ja Experten auf ihrem jeweiligen Gebiet sind und somit in vielen ihrer Beispiele und bei der Darstellung ihrer Positionen in gewissem Sinn nicht nur wider die Vernunft, sondern vermutlich in Teilen – wenn auch wahrscheinlich unbewusst – wider besseres Wissen handeln. Dass eine differenzierte Meinung zum Thema möglich ist, welche auf Grundlage der wissenschaftlichen Tatsachen bleibt und dennoch die Vorteile, Nachteile und Gefahren der digitalen Welt offen diskutiert, beweist beispielsweise Gerhard Weikum im "Eine Ethik für Nerds"-Interview.