Spektrum: Halten Sie es für möglich, dass Ihre Urenkel von Robotern regiert werden?

Roth: Nein, aus Gründen der Machbarkeit halte ich das nicht für möglich. Dazu bedarf es intelligenter, entscheidungsfähiger Maschinen.

Spektrum: Aber man arbeitet doch bereits daran, das menschliche Gehirn künstlich nachzubauen.

Roth: Es ergeben sich da enorme Schwierigkeiten. Ray Kurzweil behauptet, wir würden das menschliche Gehirn auf Siliziumbasis in seinen Funktionen nachbauen und sogar verbessern können. Dazu müssten wir das Gehirn aber erst einmal verstehen. Dies jedoch ist schon mit großen Schwierigkeiten verbunden. Ganz zu schweigen davon, dass es auf der Grundlage herkömmlicher Computertechnik ein System, das die Leistung unseres Gehirns erbringt, wahrscheinlich grundsätzlich nicht geben kann. Das Argument lautet: Das Gehirn ist nicht nur eine elektrische, sondern noch viel mehr eine neuro-chemische "Maschine". Auf Siliziumbasis ist da nichts zu machen.

Spektrum: Auch nicht durch Kombinationstechniken, Neuro-Implantate zum Beispiel, die gewisse sensorische oder andere Leistungen des menschlichen Gehirns erweitern?

Roth: Wenn wir Hybrid-Systeme nehmen, also Siliziumtechnik mit Bio-Membranen kombinieren, dann halte ich die punktuelle Verbesserung bestimmter Hirnfunktionen durchaus für möglich. Man lässt ja schon heute natürliche Nervenzellen auf Computerchips wachsen. Dazu laufen etliche Projekte.

Spektrum: Und wie steht es mit einer gentechnischen Optimierung?

Roth: Ich habe ein Jahr lang mit Harry Jerison, dem bekannten amerikanischen Hirnforscher, an der Frage gearbeitet, auf welche Weise man das Gehirn des Menschen überhaupt noch verbessern könnte. Die überraschende Antwort lautet, dass das menschliche Gehirn bereits "ziemlich optimiert" ist. Aus ganz grundsätzlichen Erwägungen – Größe, Anzahl der Neuronen und Verknüpfungen, Dichte und Zahl der Synapsen – scheint es sehr schwer, wenn nicht gar unmöglich, das Gehirn durch gentechnische Manipulation noch leistungsfähiger zu machen. Man würde im Gegenteil das Ganze eher verschlechtern.

Spektrum: Könnte man denn nicht wenigstens die Erinnerungsfähigkeit künstlich erweitern?

Roth: Das menschliche Gehirn ist ja schon unbegrenzt aufnahmefähig, wie das Beispiel der Gedächtniskünstler zeigt, die extrem darunter zu leiden haben, dass sie sich an jede auch noch so unwichtige Beiläufigkeit des alltäglichen Lebens erinnern. Der Witz des menschlichen Gehirns besteht gerade darin, dass es aus dem Wahrgenommenen "Sinn" macht: dass es auswählt, wertet und auch vergisst.

Spektrum: Aber ein Schachcomputer kann doch auf seinem Gebiet bereits Vergleichbares, oder?

Vollmer: Richtig. Doch ein umfassendes Bewertungssystem hat auch der Kasparow-Bezwinger "Deep Blue" nicht. Was den Menschen früher als höchste Intelligenzleistung galt, Mathematik oder auch Schachspielen, gerade das kann man einer Maschine am einfachsten beibringen – auf der Grundlage von Algorithmen und Kalkülen. Die wirklichen Probleme liegen an anderer Stelle, wie die Geschichte vom Roboter in der Physikvorlesung veranschaulicht.

Spektrum: Erzählen Sie!

Vollmer: Ein Roboter betritt einen Hörsaal, sucht sich einen freien Platz und lauscht aufmerksam einer Vorlesung über Quantenelektrodynamik. Der Professor schreibt ganze Tafelseiten voll. Plötzlich meldet sich der Roboter und fragt, ob da nicht ein Fehler vorliege. Unwillig rechnet der Professor nach – und tatsächlich: Ein Fehler! – Was ist an dieser Geschichte unglaubhaft?

Spektrum: Bitte verraten Sie es uns!

Vollmer: Dass der Roboter sich einen freien Platz sucht! Das vermeintlich Einfachste für uns ist leider oft am schwersten nachzubauen.

Roth: Und genau an diesem Punkt unterläuft Kurzweil ein Fehler. Wenn er den Fortschritt der Rechnerleistung auf der Grundlage des Mooreschen Gesetzes extrapoliert und daraus erstaunlichste Fortschritte für die nächsten hundert Jahre ableitet, dann vergisst er, dass die Erfolge in der KI-Forschung, was die so genannten höheren kognitiven Leistungen betrifft – Gesichter erkennen, komplexe Probleme lösen und so weiter –, extrem bescheiden waren. Ein künstliches Bewusstsein in diesem Sinne ist nicht in Sicht.

Spektrum: Kurzweil behauptet ja gar nicht, dass die Maschinen freien Willen oder Bewusstsein erlangen werden, sondern nur, dass sie uns irgendwann nachhaltig davon überzeugen, dass sie über so etwas verfügen.

Roth: Ich glaube nicht daran. Unser Gehirn umfasst drei Leistungsebenen. Die Sensorik wird man vermutlich ohne größere Probleme nachbauen können. Die Motorik, die Bewältigung komplexer dreidimensionaler Bewegungsabläufe etwa, stellt schon ganz andere Herausforderungen dar. Das Hauptproblem aber liegt im so genannten limbischen System begründet. Das ist der Teil unseres Gehirns, der laufend Bewertungen vornimmt und Meinungen von sich gibt: War eine Bewegung schmerzlich oder lustvoll? Eine Handlung erfolgreich? Ein Ereignis gut oder schlecht? Dieses Bewertungssystem ist die Grundlage unseres Bewusstseins, unseres Denkens und Geistes. Seit vielen Jahren mühe ich mich zusammen mit zahlreichen Kollegen ab, dieses System zu verstehen. Aber da ist niemand, der auch nur annähernd wüsste, wie man ein solches Bewertungssystem technisch nachbauen könnte.

Spektrum: Einige namhafte Computerspezialisten jenseits des Atlantiks denken darüber aber offensichtlich anders. Nehmen wir einmal an, in zwanzig Jahren gäbe es einen bedeutenden Durchbruch bei der Erforschung des limbischen Systems, und seine Nachbaubarkeit wäre geglückt. Hätten Sie wie Bill Joy Angst davor, und würden Sie wie er fordern, die Forschungen einzustellen?

Vollmer: Vor den Möglichkeiten, die sich dann eröffneten, wäre mir allerdings bange. Wenn man es einmal schafft, mit dem Menschen in dieser Hinsicht gleichzuziehen, dann wird man in bestimmten Einzelleistungen sogar noch weit über ihn hinauskommen. Aber – wie Herr Roth sagt – das ist Zukunftsmusik, und daher brauchen wir kein Moratorium.

Spektrum: Joy fordert, in der Robotik auf zukünftiges Wissen zu verzichten, um möglichen Schaden von der Menschheit abzuwenden. Ist sein Ruf nach einem Moratorium überhaupt realistisch?

Vollmer: Ich sehe eine solche Möglichkeit nicht. Stets verbindet die Gesellschaft mit wissenschaftlichen Forschungen auch Hoffnungen. Schon um sich die Möglichkeit zu erhalten, durch weitere Fortschritte in der Chip- und Neuroforschung Blinde wieder sehend und Taube wieder hörend zu machen, wird man mit Sicherheit weiterforschen. Ein Moratorium könnte verzögern, aber nicht verhindern.

Spektrum: Thema Unsterblichkeit: Ist es denkbar, dass man ein Gehirn in einen Roboter verpflanzt – etwa dann, wenn der menschliche Körper stirbt?

Roth: Ich kenne keine Naturgesetze, die das verhinderten. Allerdings bliebe immer noch das Problem, dass auch das Gehirn altert. Das menschliche Gehirn – im Gegensatz zu dem der Frösche und Salamander etwa – regeneriert sich nicht. Momentan scheitert die Lebensverlängerung beim Menschen einfach am Gehirn. Da gibt es diesen dramatischen Leistungsabfall im hohen Alter, der durch nichts aufzuhalten zu sein scheint.

Spektrum: Was ist mit der von Kurzweil beschriebenen Möglichkeit, das Gehirn vor seinem natürlichen Tod zu "scannen", also in irgendeiner Form datenmäßig zu erfassen und auf eine Festplatte zu bannen oder ins Internet zu speisen, wo es dann virtuell unbegrenzt weiterleben könnte? Das erscheint doch auch sehr fantastisch.

Roth: Nicht unbedingt. Ich habe das früher einmal selbst durchdacht: Es könnte durchaus möglich sein. Nur – der Mensch, mit dem das passiert, der wird nichts davon haben, denn sein ursprüngliches Ich wird nicht mit übertragen. Es entsteht ja eine Kopie, also ein zweites, ein anderes Ich.

Spektrum: Wie beim Klonen der Körper reproduziert wird, so entstünden zwei Ichs?

Roth: Genau. Die Erinnerungen bis zum Zeitpunkt des Kopierens wären identisch. Danach aber machen beide, das Original und die Kopie, jeweils neue, unterschiedliche Erfahrungen.

Spektrum: Aber beide wären entscheidungsfähig?

Roth: Ja.

Vollmer: Das glaube ich nicht. Das zweite Ich wird doch nicht durch den bloßen Transfer von Daten erzeugt.

Roth: Nein, die Idee ist, dass man die extrahierte Informationsmenge an ein anderes bewusstes System anschließt. Dieses müsste den "Download" natürlich zunächst einmal lesen können – was an sich schon ein erhebliches Problem darstellt. Nach heutigem Stand der Dinge ist das noch unmöglich; den Naturgesetzen widerspräche es jedoch nicht. – Aber selbst wenn die Grenzen der Machbarkeit in absehbarer Zeit weiter gezogen werden könnten: Mein Ich würde immer noch mit dem alten Gehirn sterben, während die Kopie meines Ichs, die aber nicht ich bin, weiterlebt.

Vollmer: Immerhin würde das überlebende Ich von sich selbst behaupten, es habe früher in Ihrem Körper gelebt und existiere nun virtuell weiter.

Roth: Richtig. Aber der viel zitierte Milliardär, der um jeden Preis unsterblich werden möchte und bereit ist, ein Vermögen dafür zu opfern, der will ja höchstselbst als Individuum weiterleben – und nicht als seine Kopie.

Spektrum: Wie steht es denn mit dem Interesse der Gesellschaft? Nehmen wir einmal an, ein großer Schriftsteller oder Wissenschaftler würde sich gegen Ende seines Lebens dazu bereit erklären, sein Gehirn "scannen" zu lassen, damit seine Lebenserinnerungen in Form des Alternativ-Ichs künftigen Forschern zur Verfügung stünden. Ganze Wissenschaften wären dankbar, wenn sie heute, sagen wir, Goethes oder Einsteins virtuelles Ich befragen könnten.

Roth: Für uns als Gesellschaft wäre ein solcher Erinnerungspool zweifellos großartig. Allein der Betroffene als Ich hätte nichts davon. Wobei es da jedoch einen Ausweg gäbe.

Spektrum: Nämlich?

Roth: Denken Sie noch einmal an den Milliardär! Was seiner Unsterblichkeitsgier helfen könnte, wäre eine sukzessive Ersetzung seiner Hirnstruktur durch neue – künstliche – Strukturen gleicher Leistungsfähigkeit. Wenn man immer nur kleine Teile des Gehirns ersetzt – so etwas ist ja bereits möglich –, würde das Ich zwar stark verändert, aber es würde als Kontinuität weiterexistieren. Nach vielleicht fünfzig Jahren sukzessiver Ersetzung hätte der Milliardär ein vollkommen künstliches Gehirn und könnte als Individualität "ewig" weiterleben.

Spektrum: Welche Folgen hätte dies?

Vollmer: Auf unser Sozialleben hätte es ohne Zweifel erhebliche Auswirkungen. Denken Sie nur an den Umgang mit Risiken, mit Unfällen oder ansteckenden Krankheiten! Unsere Einstellung dazu würde sich radikal wandeln, weil der "unnatürliche" Tod nun viel grausamer wäre – wenn der "natürliche" technisch abgeschafft ist. Außerdem bedeutete er jetzt den Verlust potenzieller Ewigkeit und nicht mehr das Einbüßen einiger Lebensjahre. Es ist denkbar, dass sich niemand mehr aus dem Haus wagt.

Spektrum: Kommen wir noch einmal auf das limbische System zu sprechen! Warum soll man es nicht nachbauen oder simulieren können?

Roth: Ich glaube gar nicht, dass es völlig unmöglich ist, das limbische System zum Beispiel mit einem Supercomputer zu verknüpfen. Mein Argument ist: Wenn wir das eines Tages können, dann machen diese Wesen auch Dinge, die wir nicht wollen. Ich will keinen Computer, der mir am Montag sagt: "Diese Woche arbeite ich nicht. Ich habe meine eigenen Probleme." Er würde vielleicht auch sagen: "Roth, herhören, letzte Woche hast du Unsinn geschrieben. So etwas machst du nicht noch einmal." Er wäre ja intelligenter als ich, und er hätte Gefühle. Er könnte sich mir verweigern.

Spektrum: So ein Computer müsste also verhindert werden?

Roth: Wir könnten es nicht! Sobald wir sehr hoch entwickelte Computer zur Selbst- und Fremdbewertung befähigen, haben wir quasimenschliche künstliche Gehirne – samt den zehn Prozent Neurotikern und dem einen Prozent Psychotikern, die es unter Menschen – von Alaska bis Neuseeland – ebenfalls gibt. Unweigerlich würden diese Krankheiten mit erkauft. Das ist einfach die "natürliche" Variabilität.

Spektrum: Müssten wir dann nicht doch ein Moratorium fordern?

Roth: Nein. Man würde an dem Punkt, wo man Roboter mit limbischem System bauen kann, stehen bleiben, weil dann die Risiken ...

Vollmer: Aber irgendwo auf der Welt wäre mit Sicherheit jemand, der nicht stehen bleibt.

Spektrum: Das ist ja gerade der Gedanke, der hinter der Angst steht, die Bill Joy und andere artikulieren.

Roth: Also, die Gefahr, dass jemand einen Roboter baut, der ihn im nächsten Augenblick umbringen kann, die halte ich doch für sehr gering. Wer will – ganz fantastisch gesprochen – Kriege gewinnen, indem er hunderttausend Roboter losschickt, die sich im nächsten Moment umdrehen können und nach hinten schießen? Das ist das größte denkbare Risiko: dass Maschinen, wenn sie so weit entwickelt sind, nicht mehr von denen, die sie gebaut haben, kontrolliert werden können. Und davor wird man Angst haben.

Spektrum: Teilen Sie diese Angst, Herr Vollmer?

Vollmer: Sicher. Wir müssten mit den schlimmsten Konsequenzen rechnen. Wenn wir intelligente Androiden mit autonomen Bewertungs- und Entscheidungsfähigkeiten konstruieren könnten, das wäre ein wahnsinniges Risiko. Diese Wesen könnten aggressiv werden, obwohl wir sie mit ganz anderen Intentionen gebaut haben. Aber meine eigentlichen Bedenken liegen nicht darin, dass makroskopische Systeme irgendwann sagen "Ich habe jetzt keine Lust mehr", sondern dass bereits viel kleinere Systeme gefährlich werden.

Roth: Solche, die herumschwirren, die ich gar nicht sehen kann.

Vollmer: Genau. Nanoboter, die nützliche, aber eben auch gefährliche Dinge verrichten können. Die bräuchten mich auch gar nicht davon überzeugen, dass sie über Bewusstsein verfügen. Vor denen hätte ich auch so schon Angst.

Spektrum: Ziehen wir Zwischenbilanz! Die meisten Befürchtungen, die von Bill Joy und anderen skizziert werden, sind in Ihren Augen so utopisch, dass sie für heutige Entscheidungen keine eigentliche Rolle spielen. Herr Roth hat dies insbesondere für den Bau künstlicher Gehirne dargelegt, wo sich die Dinge so kompliziert gestalten, dass man sich nicht von der Tatsache blenden lassen darf, dass die Computerleistung seit Jahren exponentiell ansteigt. Umgekehrt teilen Sie beide wesentliche Teile der Befürchtungen. Mit anderen Worten: Wenn neue Forschungsbeiträge die genannten Probleme irgendwie umgehen oder ausmerzen, dann muss man – wie Joy es fordert – tatsächlich aktiv werden.

Roth: Unbedingt.

Vollmer: Aber während zwischen der Hahn-Meitnerschen Kernspaltung und Hiroshima nur wenige Jahre lagen, um einen bekannten Präzedenzfall anzuführen, wäre hier die Zeitspanne zwischen Erkenntnisfortschritt und Katastrophe sicherlich größer, eher Jahrhunderte als Jahrzehnte.

Roth: Da bin ich mir nicht sicher. Sobald die ersten Schritte in Richtung eines sich selbst bewertenden Roboters unternommen sind, muss man die Notbremse ziehen. Um es ganz klar zu sagen: Unter der Voraussetzung, dass alle Vorgänge im limbischen System auf den bekannten Naturgesetzen beruhen, kann man es im Prinzip auch nachbauen. Das Erreichen der Leistungsfähigkeit des menschlichen Gehirns würde ich zwar in eine ferne Zukunft legen. Allein – es würde bereits genügen, die Leistung eines kleinen Frosches zu erbringen, der einmal nach einer Biene schnappt, gestochen wird und fortan in Panik gerät, wenn er eine Biene sieht, also "furchtkonditioniert" ist. Wenn so etwas in vielleicht zwanzig Jahren realisiert ist, wenn das Problem des limbischen Systems also im Prinzip gelöst wäre, dann sollte man dringend überlegen, was noch weiter unternommen werden darf.

Spektrum: Aber eine "Revolution des Weltbildes", von der derzeit oft die Rede ist, sehen Sie offenbar nicht.

Vollmer: Das muss man genauer betrachten. Die so genannte Computerrevolution dauert ja bereits seit Jahrzehnten an. "Revolution" ist also nicht der passende Begriff für die Gegenwart. Allerdings geht es – das ist nicht zu leugnen – immer mehr ans Eingemachte. Nicht gleich, was die technische Machbarkeit angeht, aber doch in Bezug auf den Erkenntnisfortschritt. Das Gehirn ist nach allem, was wir wissen, das Zentrum der Person, und es wird gegenwärtig mit allen zur Verfügung stehenden Mitteln erforscht. Unser Weltbild wird dadurch vielleicht weniger beeinflusst, wohl aber unser Menschenbild – weil wir immer mehr über uns selbst lernen. Ein Beispiel: Bald werden nicht nur die Hirnforscher einsehen müssen, dass es die traditionelle Willensfreiheit überhaupt nicht gibt.

Spektrum: Sie meinen die Vorstellung, dass wir dauernd in freien Entscheidungen zwischen mehreren Möglichkeiten bewusst oder unbewusst auswählen.

Vollmer: Ja – das ist eine Illusion, wenn auch eine sehr nahe liegende. Der "Wegfall" der vermeintlichen Willensfreiheit wird nicht nur Philosophen, Theologen und Juristen bis ins Mark erschüttern. Wir werden so viel über den Menschen herausfinden, dass wir wieder einmal von uns selbst enttäuscht sind. Die letzten "Kränkungen" des Menschen – wenn ich Sigmund Freuds Ausdruck an dieser Stelle bemühen darf – stehen ins Haus. Denken Sie nur an die vorhin beschriebene Möglichkeit, das Ich zu reproduzieren. Das ist doch nichts anderes als die Erkenntnis, dass ich als Person ersetzbar geworden bin.

Roth: Ich glaube auch, wenn mir gesagt wird: "Es gibt hundert Exemplare von dir, auf dich kommt es nicht mehr an", das wäre schon eine schlimme Kränkung. Aber von Maschinen gesagt zu bekommen: "Auf euch Menschen kommt es überhaupt nicht mehr an", das wäre die ultimative Kränkung.

Spektrum: Das hört sich aber anders an als zuvor. Stehen wir doch kurz vor der Schwelle, wo solche Utopien Wirklichkeit werden? Oder erliegen wir nur kollektiv einem inszenierten Zauber: Bill Clinton hofiert Craig Venter, und sein Technologieberater Bill Joy rührt mit einigen sensationellen Prophezeiungen die Medientrommel?

Roth: Ich denke wie Herr Vollmer, dass der Fortschritt innerhalb der Neuro- und Kognitionswissenschaften zeigt, dass es bald ans letzte Eingemachte geht. In absehbarer Zeit wird man – zumindest ungefähr – wissen, wie Bewusstsein entsteht und das, was wir bislang als "freien Willen" gedeutet haben. Das ist ohne Zweifel in Reichweite – egal, ob es nun noch zwanzig oder fünfzig Jahre dauert.

Vollmer: Eine interessante Zeit für Wissenschaftler! Leider ist zu bezweifeln, dass die Öffentlichkeit diese bedeutenden Entwicklungen auch wahrnimmt.

Spektrum: Daran arbeiten wir ja. Aber noch einmal zur Frage der Wahlfreiheit. Warum soll der freie Wille eine Illusion sein?

Roth: Wir treten in der Hirnforschung gerade in eine Phase ein, wo wir uns mit den Gefühlen, mit dem Unbewussten befassen – experimentell, mit Bildgebung und so weiter. Ich denke, wenn klar ist, was die Menschen antreibt, auch unbewusst, dann weiß man auch ungefähr, warum sie tun, was sie tun. Ich glaube, spätestens in zehn Jahren hat sich die Einsicht durchgesetzt, dass es Freiheit etwa im Sinne einer subjektiven Schuldfähigkeit nicht gibt.

Spektrum: Wären wir dann plötzlich alle unschuldig? Könnten Menschen überhaupt noch bestraft werden?

Vollmer: Es gibt insgesamt vier verschiedene Funktionen von Strafe. Erstens die Spezialprävention: Strafe, damit die konkrete Person eine begangene Tat nicht wiederholt; zweitens die Generalprävention, also die allgemeine Abschreckung. Drittens gibt es den Schutz der Gesellschaft: Man sperrt einen Täter so lange ein, bis er – hoffentlich – geläutert ist, notfalls "lebenslänglich". Diese drei Funktionen von Strafe werden durch eine deterministische Strafauffassung nicht hinfällig. Die vierte Funktion aber, die man früher als wesentlich erachtet hat, nämlich das Sühnen einer Schuld, wird entfallen, weil der Mensch nicht mehr im herkömmlichen Sinne "schuldig" sein kann.

Spektrum: Aber Freude, Liebe, Glück, das alles wird es weiter geben?

Roth: Natürlich: Dass ich den Aufbau einer Bach-Fuge bis ins kleinste Detail hinein analysieren kann, beeinträchtigt ja auch nicht im Geringsten meinen Hörgenuss. Die Entthronung des Menschen als freies denkendes Wesen – das ist der Endpunkt, den wir erreichen. Nach Kopernikus, Darwin und Freud erleben wir hier den letzten großen Angriff auf unser traditionelles Bild vom Menschen.

Die Fragen stellten Reinhard Breuer und Carsten Könneker von Spektrum der Wissenschaft.

---

Glossar


Neuro-Implantat: Implantat im Gehirn, das bestimmte sensorische Fähigkeiten, Gedächtnis- oder Intelligenzleistungen optimieren soll.

Mooresches Gesetz: Nach Gordon Moore, dem Erfinder des integrierten Schaltkreises, benannter Erfahrungssatz, wonach sich die Größe der Transistoren auf einem Mikroprozessor etwa alle zwei Jahre halbiert. Die Regel impliziert, dass sich die Rechenleistung eines handelsüblichen Computers im selben Zeitraum verdoppelt.

Limbisches System: Komplex von Hirnstrukturen, der wesentlich beteiligt ist an der Weckung von Assoziationen sowie der Steuerung von Lernprozessen und emotionalen Handlungen.

Nanoboter: Mikroskopisch kleiner Roboter, bestehend aus nur wenigen Atomen oder Molekülen.

Willensfreiheit: Fähigkeit des Menschen, sich unter bestehenden Wahl- und Handlungsmöglichkeiten frei zu entscheiden. In der Ethik bedeutet die Aussage, der Mensch habe einen freien Willen, dass er sittlich autonom über sich selbst verfügt.

Aus: Spektrum der Wissenschaft 10 / 2000, Seite 72
© Spektrum der Wissenschaft Verlagsgesellschaft mbH