Kommentare - - Seite 649

Es ist sehr erfreulich, dass Michael Springers Einwurf, die Initiative der KI-Forscher, vor den Gefahren autonomer Waffen zu warnen, aufnimmt und verbreitet. Es gibt gute Gründe, vor einem Wettrüsten mit AI-Waffen zu warnen. Der offene Brief der KI-Forscher http://futureoflife.org/AI/open_letter_autonomous_weapons benennt einige davon. Beunruhigend ist, dass diese Waffen viel leichter und kostengünstiger herzustellen sind, als Nuklearwaffen und daher bald allgegenwärtig in den Händen von Terroristen und Warlords ihre destruktive Kraft entwickeln könnten.

Nicht in dem offenen Brief genannt und für mich auch nicht so plausibel, ist das Gefahrenszenario, dass einleitend und motivierend in diesem Einwurf entwickelt wird. Die Sorge, dass Maschinen dem menschlichen Geist das Wasser reichen können, dass künstliche Intelligenz (KI) den Fähigkeiten unseres Denkens nahekommen wird, Ray Kurzweils antihumane Vision, einer "Singularität", bei der das menschliche Denken auf intelligente Maschinen übergehen wird.

Michael Springer begründet diese Sorge damit, "dass unser Gehirn als Resultat der biologischen Evolution Bewusstsein entwickelt hat ... Sofern unser Denkvermögen aber das Ergebnis einer gewöhnlichen Anpassung durch Versuch und Irrtum über geologische Zeiträume hinweg ist, gibt es keinen prinzipiellen Grund, warum es mit zielgerichteter Forschung und Entwicklung nicht gelingen sollte, binnen einer historisch messbaren Zeitspanne Vergleichbares hervorzubringen."

Die biologische Evolution ist die Milliarden Jahre alte Geschichte des Lebens auf unserem Planeten. Prinzipiell ist natürlich denkbar, dass Menschen diese "natürliche Zuchtwahl" in künstlicher Weise beschleunigt nachvollziehen und dass dabei Lebewesen mit Bewusstsein entstehen könnten.

Das hat aber nichts mit KI-Systemen zu tun. Diese werden zwar gerne als "autonome Agenten" bezeichnet. Es sind aber Maschinen, die stumpf nach festgelegten Spezifikationen Programme ausführen. Sie fühlen und empfinden nichts. Wenn ihr Verhalten auf uns überraschend wirkt, dann spielt uns unser Einfühlungsvermögen einen Streich.

In "Ego: Das Spiel des Lebens" beschreibt Frank Schirrmacher, wie im 18. Jahrhundert mechanische Automaten die Menschen erschütterten und neue Weltbilder formten. Verzückt blickten die Menschen auf Tänzerin und Flötenspieler und begannen zu glauben, sie seien nach dem gleichen Schema gestrickt. Mutig zerschlugen Weber, deren Arbeit nichts mehr galt, die mechanischen Webstühle und verloren ihren Kampf. Die Anmut der Tänzerin und die Schrecken der neuen Produktionsmaschinen waren real. Aber nicht die Maschinen waren lebendig, gut oder böse, oder in sonst einer Weise mit menschlichen Attributen beschreibbar, sondern der aufkommende Frühkapitalismus leitete eine neue Mechanik in den Beziehungen der Menschen ein.

In einer vergleichbaren Situation befinden wir uns heute. Unsere Arbeits- und Lebenswelt wird mechanischer. Prozesse werden automatisiert, wir vermessen und optimieren uns. Start-ups, die Standards und Infrastrukturen unseres Zusammenlebens in Frage stellen, werden in Milliardenhöhe bewertet.

Und wieder tauchen die alten Projektionen auf. Keine Tänzerin, aber ein Püppchen ist auf dem "Spektrum"-Titel "Künstliches Bewusstsein" zu sehen. Und Springers Einwurf beschwört den Aufstand der Maschinen: "Am Ende einer ungehemmten KI-Waffenevolution droht eine Art Skynet aus den 'Terminator'-Filmen: ein globales System autonomer Killermaschinen, für die jeder Mensch ein potenzielles Ziel darstellt."
Es sind Püppchen, die Mama sagen können, aber nicht Mama meinen. Es sind Killermaschinen weil so programmiert, aber ohne eigenes Ziel und ohne eigenen Willen. Ich sehe nicht die Gefahr, dass die Maschinen sich verselbstständigen. Ich sehe die Gefahr, dass die Welt immer maschinengerechter wird. Dass wir Verantwortung abgeben, nicht an bewusste Kreaturen, sondern an stumpfe Automaten, die diese Verantwortung nicht im menschlichen Interesse wahrnehmen können; dass mit der Erosion der Infrastrukturen auch die Standards des menschlichen Zusammenlebens erschüttert werden. Der Mensch ist ein soziales Wesen. Entfernen wir uns davon und nehmen die Maschinen als Maßstab, so werden wir selbst zu gefühllosen Püppchen und Monstern.

In letzter Zeit häufen sich Beiträge ähnlich dem von Eddy Nahmias in den Medien. Ich sehe darin den verzweifelten Versuch, einer im Untergang begriffenen Strömung der Geisteswissenschaften (vorübergehend) zu alter Bedeutung zu verhelfen. Manche der Vertreter, meist Philosophen, berufen sich dabei sogar auf die Logik.

Speziell denke ich hier an Markus Gabriel ("jüngster Philosophieprofessor Deutschlands"), der kürzlich in "Planet Wissen" allerlei Unsinn zum Besten gegeben hat. Er argumentierte tatsächlich mit John Searles ("mein Freund John Searle") Chinesischem Zimmer, um anscheinend zu begründen, dass es keine künstliche Intelligenz geben kann. Dabei ist das Chinesische Zimmer kein Argument gegen die KI sondern nur gegen die klassische, regelbasierte KI. Praktisch jedes Argument von M. Gabriel konnte man so umdrehen, dass seine Argumentation ad absurdum zu führen war.

Aber zurück zu E. Nahmias. Auf den drei Seiten des Artikels standen zwar jede Menge Argumente zur Verteidigung des freien Willens, aber keine einziger Definitionsversuch was freier Wille eigentlich sein soll. Der Autor formuliert hauptsächlich eigene überspitzte Behauptungen im Namen der Gegenpartei, die er danach widerlegt. So etwas nennt man Spiegelfechterei.

In welchem Sinn könnte der Wille des Menschen "frei" sein? Zum einen gibt es die Idee des Dualismus, nach der es neben dem physikalischen Menschen noch einen davon getrennten Geist gibt, der das Handeln des Menschen bestimmt. Ich denke, man kann diese Vorstellung getrost wieder in der Mottenkiste mittelalterlicher Philosophie und Religion verschwinden lassen.

Gehen wir einmal davon aus, dass ein Mensch Teil eines physikalischen Gesamtsystems ist. Dann wird seine Zeitentwicklung (sein Handeln) durch eine Reihe von Gleichungen bestimmt. Nach aktuellem Wissensstand handelt es sich um die Gleichungen der allgemeinen Relativitätstheorie beziehungsweise der Quantenfeldtheorie, die experimentell extrem gut bestätigt sind. Wenn man mutig und schlau ist, kann man auch die Gleichungen der (experimentell noch nicht überprüften/-baren) Stringtheorie oder Schleifenquantengravitation verwenden.

Hierbei muss man beachten, dass die gängigen Quantentheorien NICHTDETERMINISTISCH sind. Liegt der "freie Wille" dann etwa im statistischen Charakter der Quantenwelt begründet? Wenn ja, dann ist der freie Wille nur der Zufall im Quantensystem.

Es gibt auch zwei funktionierende DETERMINISTISCHE Quantentheorien von David Bohm und von Hugh Everett. Die von Everett gewinnt in letzter Zeit zunehmend Anhänger, beispielsweise Max Tegmark (dessen neuestes Buch ich allerdings eher durchschnittlich finde). Nimmt man in diesem Sinn an, dass sich die Welt, wie früher bei den klassischen Theorien, nach deterministischen Gleichungen entwickelt, dann gäbe es nicht einmal einen Kandidaten für den freien Willen, weil es dann keinen Zufall gibt.

Da las ich kürzlich von dem Streit,
ob Menschen Wille überhaupt
tatsächlich frei und stets bereit
zu ganz bewusstem Handeln sei.
Laut Wissenschaft ward dies verneint,
der Geist lenkt Mensch, bevor er kann.
Aktivitäten im Gehirn fangen schon
Sekunden vor dem Handeln an.
Doch muss ich mich dagegen wehren.
Mein Geist macht immer, was er will.
Im Traum tobt er sich richtig aus.
Den Körper kann er dann entbehren,
und fühlt sich doch in ihm zuhaus'.
Wird dann am Tag der Körper wichtig,
muss handeln, seine Muskeln regen,
ist es natürlich und auch richtig,
dass wir vorab den Geist bewegen!

Ich vermisse den Hinweis darauf, dass sich beim normalen knitterfreien Knoten eines gleichmäßig breiten Papierstreifens ein reguläres Fünfeck ergibt – was die Origami-Papierfalter sicherlich benutzen, es kann ihnen nicht entgangen sein. Warum ergibt sich ausgerechnet ein reguläres Fünfeck?

Prescott vermutet am Ende des Artikels, dass das Bewusstsein eine „emergente Eigenschaft eines geeignet konfigurierten Satzes von Selbstprozessen und kein gesondertes Element“ sei. Mit anderen Worten entsteht Selbstbewusstsein als höchste Form der Intelligenz bei einem hinreichend komplexen und komplizierten, sich in seinen einzelnen Modulen selbst organisierenden System. Selbstprozesse sind zum Beispiel das Zeitempfinden: Vergangenheit, Jetzt und Zukunft. Oder besonders ist zu nennen der Selbstprozess Kommunikation, welcher beginnend mit Gestik, über sehr differenziert gefühlsausdrückende Mimik bis hin zur komplexesten, kompliziertesten Form, nämlich der Sprache, um Zehnerpotenzen verfeinert ist. Beim Menschen lässt sich die hinreichende Komplexität und Kompliziertheit der Selbstprozesse am Beispiel Kind verstehen. Ein Kind zeigt Bewusstsein erst, wenn es diese Selbstprozesse aufgebaut und erlernt hat. Mit vielleicht anderthalb bis zwei Jahren beginnt sich das Selbstbewusstsein herauszubilden. Wenn später krankheitsbedingt beispielsweise bei der Demenz dann einzelne Selbstprozesse immer mehr eingeschränkt werden bis hin zum Verlust selbiger, verliert der erkrankte Mensch zunehmend das Selbstbewusstsein. Ich glaube fest daran, dass also ein Computer im Sinn eines komplexen, komplizierten Informationsverarbeitungssystems prinzipiell ein Bewusstsein entwickeln kann. Noch ist das menschliche Gehirn mit seiner Fähigkeit der Selbstorganisation (zum Beispiel dem Erlernen der Kommunikationsform Sprache), mit seiner massiv parallelen Verarbeitung (Kompliziertheit) und mit seiner Informationsbreite (Komplexität) dem heutigen Computer um Größenordnungen voraus. Die Synapse arbeitet nicht binär wie der heutige Computer, sondern feuert beziehungsweise leitet Information weiter über eine Bandbreite beginnend von null bis zum Maximum. Aber es sollte nur eine Frage der Zeit sein, bis die sich rasch entwickelnden Informationsverarbeitungssysteme in die Ebene der Bewusstseinsbildung aufgeschwungen haben. Das mag mindestens noch Jahrzehnte, eher noch Jahrhunderte dauern. Aber es ist eben nur eine Frage der Zeit. Diese Vorstellung hatte Marvin Minsky in seinem Artikel „Werden Roboter die Erde beherrschen?“ (SdW Spezial: Leben und Kosmos, 1994) auf seine Art beantwortet mit: „Ja, aber wir müssen diese Vision nicht fürchten; denn wir selbst werden diese Roboter sein.“ Er glaubt: „Am Ende wird es möglich sein, jedes Teil unseres Körpers und unseres Gehirns auszutauschen … Es versteht sich, dass wir uns dadurch in Maschinen verwandeln.“ Um die Billionen von Synapsen in unserem Gehirn in vernünftigen Zeiträumen durch adäquate technische Systeme zu ersetzen, schlägt er „sich selbst vermehrende Fabriken“ vor. Das ist doch schon mal ein erster, wenn auch theoretischer Weg.

Sicher wird eine zukünftige Version des iCub ihrem Schöpfer noch wesentlich perfekter ein fühlendes Wesen vorgaukeln können. Zu einem echten Gefühl gehört jedoch ein Subjekt, das dieses Gefühl erlebt. Wie kann solch ein Erleben in einer komplexen Anordnung physischer Substanzen „emergieren“? Eine neu auftauchende Eigenschaft im System muss durch die Eigenschaften der Teilsysteme erklärt werden können (wie zum Beispiel die Eigenschaft eines Schwingkreises aus den Eigenschaften von Kondensator und Spule). Mein Erleben ist aber nach den heute bekannten Gesetzen der Physik nicht aus den Bausteinen des Gehirns ableitbar. Was auch immer Hirnforscher herausfinden werden – es wäre auch ohne Erleben denkbar (Peter Bieri). Mein erlebendes Subjekt ist nicht physikalischer Natur. Gefühle sind nicht objektiv nachweisbar, weder bei Menschen noch bei Robotern.

Viele Menschen mit Meditationspraxis berichten von der Erfahrung ihres Subjekts in einem Zustand ohne Gedanken als pure Existenz außerhalb von Zeit und Raum. Auf diesem Fundament können sich höhere Bewusstseinszustände entwickeln, in die Wach-, Schlaf- und Traumzustand integriert sind. Ohne diese Bewusstseinsforscher, die den Weg nach innen erkunden (Erste-Person-Perspektive), werden die psychischen Phänomene kaum erklärt werden können. Jene Wissenschaftler, welche sich auf die Objekte draußen beschränken (Dritte-Person-Perspektive), würden diesen helfen, echte Erfahrungen von Trugbildern zu trennen. Vielleicht gelänge in einem gemeinsamen Projekt die Lösung des Rätsels Bewusstsein.

Der Artikel greift möglicherweise etwas zu "kurz". Er beginnt mit der These, dass bei Kurzsichtigkeit der Augapfel zu lang ist. Deshalb liegt der Fokus bei Sicht in die Ferne vor der Netzhaut und nicht auf ihr. So steht es schließlich in allen möglichen Lehr- und Physik-Schulbüchern. Ich halte es für einen wissenschaftlichen Fehler, diese Auffassung ungeprüft zu übernehmen.

Als Kurzsichtiger weiß ich aus eigener und unschöner Erfahrung, dass nach jeder neuen verschriebenen Brille die Dioptriezahl im Betrag - also die Kurzsichtigkeit - zugenommen hatte. Das passiert auch vielen anderen Personen im Alter zwischen 25 und etwa 45, was die meisten Brillenträger und Optiker bestätigen können. Bei mir hatte sich in diesem Zeitraum die Dioptrie von etwa -3,0 auf -5,5 verändert. Eine Erklärung durch weiteres Längenwachstum des Augapfels erscheint in diesem Alterabschnitt absurd. Eine andere, m. E. viel schlüssigere Erklärung könnte sein, dass die Linse eine zu starke und irreversible Krümmung ausbildet. Dies würde nicht nur den vorgelagerten Fokus bei Fernblick erklären, sondern auch die Ursache: viel Lesen, das heißt ständiger Blick im Nahbereich erfordert eine starke Krümmung (Verdickung) der Linse, ebenso bei Nahblick unter schlechten Lichtverhältnissen, weil die Pupille größer öffnet und die Schärfentiefe abnimmt. Die Linse muss dies auch durch entsprechende, noch präzisere Krümmung ausgleichen. Sie ist mit zunehmendem Alter immer weniger in der Lage abzuflachen, was erst scharfe Fernsicht ermöglicht.

Das Auge stellt sich also über die Krümmung der Linse immer mehr auf den häufig "benutzten" Nahbereich ein. Dass diese, bei der es sich ja um ein bewegliches und flexibles Organ handelt, die Ursache für die Kurzsichtigkeit ist, erscheint doch glaubwürdiger als die durch nichts begründete Annahme, der Augapfel würde auf etwas schlechtere Lichtverhältnisse und häufige Naheinstellung des Auges mit Längenwachstum antworten. Die Experimente mit den Schülergruppen in Asien lassen eben mehrere - auch einleuchtendere - Erklärungen zu.

Obwohl die Wissenschaft unser heutiges Leben mit Elektrizität, Antibiotika und Internet überhaupt erst ermöglicht habe, erscheine sie den meisten als zu kompliziert, um sich damit auseinanderzusetzen. (Lars Jaeger!) - Na, vielleicht würden wir weniger unter "Reizüberflutung" zu leiden haben - ohne diesen Naturwissenschaftsterror und ein bisschen mehr Natur genießen können dürfen?

Ich hab mir das noch mal angeschaut... also mit Ceres... Da hat ein Ufo mit seinem Fusionsantrieb den Metallkern eines Asteroiden heiss gemacht und da hat das natürlich geglüht. Und as war nicht ein Ufo, sondern eine Flotte... Ich bin begeistert. Die waren aber nur scharf auf Transurane. Und sie scheinen irgendwelche Silikate gefunden zu haben, die sie nur in grossen Mengen abtransportieren wollen... Ich vermute, das da auf Ceres nen Berg von meterdicken Diamanten rumliegt. Jetzt ist der richtige Augenblick um in Panik zu geraten. https://www.youtube.com/watch?v=0R-7kmmWRJo

Betrachtet man die Möglichkeiten neuartiger Analysetechnologien, auf Basis welcher Technologie auch immer, stellt dies in der Regel auch althergebrachte Denkweisen bezüglich Recht und Ordnung in Frage.
Dass statistische Verfahren teils extrem wirkungsvolle Werkzeuge sein können, zeigt nicht zuletzt die Möglichkeit, psychische Erkrankungen wie Psychosen schon in ihrer Entstehung zu erkennen.

In welcher Weise kann die Politik darauf reagieren? Doch in erster Linie so, dass – ausgehend von einem festen moralischen Wertesystem – Konzepte regelmäßig überprüft werden.
Im Beispiel Unterwanderung von Anonymisierung müsste geprüft werden, anhand welcher Informationen eine eindeutige Identifikation möglich ist. Eine neue Form von (Daten-)Abschirmung um den Wähler wird notwendig. In der Vergangenheit war es ausreichend, wenn man sich in eine Wahlkabine mit mehr oder weniger geschlossenem Vorhang begab, um seine Kreuzchen zu machen und anschließend einen Zettel in – wie vorsintflutlich – einen Kasten zu werfen. Bedenkt man die Möglichkeiten heutiger Forensik, müsste man in Zukunft wohl elektronisch von einem anonymisierten Terminal aus wählen.
Das Beispiel zeigt, wie weit diese beiden Welten auseinander liegen. Da wird in irgendwelchen Labors ein neues Analyseverfahren entwickelt, und plötzlich gibt es Bedarf für geänderte Wahlabläufe.

In der Wirtschaft spricht man von Multiplikatoren. Einzelne kleine Entwicklungen können zusammen genommen einen sehr großen Effekt haben.
Da ist es nicht verwunderlich, dass Politiker – und nicht nur die – manchmal überrascht von neuen Entwicklungen sind.

Angesichts dieser Herausforderungen könnte es sinnvoll erscheinen, das Gefährdungspotenzial neuer Technologien in Bezug auf die Grundrechte unserer Gesellschaft regelmäßig neu zu bewerten und konsequent Maßnahmen daraus abzuleiten, wie dieser Bedrohung zu begegnen ist. Eventuell zeigte sich dann, dass neue Technologien eben auch eine große Unterstützung für die Grundrechte der Menschen darstellen können.

Gerne lese ich die sehr interessanten Informationen von Spektrum.de. Dabei ist mir aber aufgefallen, dass trotz des Einsatzes von geballtem Intellekt Probleme mit der Unterscheidung von "das" und "dass" bestehen:

"Die heutigen Archäologen definieren Menschen aus der Jungsteinzeitmenschen vor allem über die sichtbaren Hinterlassenschaften ihrer Kultur – etwa landwirtschaftlichem Gerät, DASS heute eine damals revolutionäre Technologie und damit den Anbruch einer neuen Ära erkennen lässt."

Das ist für die Aussage des Artikels natürlich nicht relevant, auch ist dieser Satz von Dr. Osterkamp nur ein Beispiel von vielen.

Vielleicht könnte man durch eine Studie feststellen, ob es eine "Das-Dass-Blindheit" ähnlich einer "Rot-Grün-Blindheit" gibt ....

Eigentlich wollte ich diese Bemerkungen nicht öffentlich, sondern nur gegenüber Herrn Dr. Osterkamp machen. Leider gibt er keine E-Mail-Adresse an und mit Facebook habe ich es nicht so. Das trifft leider auf die Mehrzahl der Autoren zu.

Beste Grüße
Karl Sauruck

Bei der Lektüre des Artikels beschleicht einen das Gefühl von Unsicherheit und Verwirrung hinsichtlich der Position des Autors: Er spöttelt zwar einerseits über die "Willusionisten", gibt aber doch am Ende seiner Ausführungen zu, selbst nicht recht zu wissen, wie viel oder wie wenig Willensfreiheit er uns und sich zugestehen soll; und er erinnert dann daran, dass die Beantwortung der Frage, die auch er nicht liefern kann, aus strafrechtlichen Gründen (und natürlich ganz allgemein aus Gründen des Umgangs und der Beurteilung von Menschen durch Menschen) wichtig sei.
Um nicht die Bibliothek des wissenschaftlichen Hin und Her über das Willensfreiheitproblem um eine weiteren Beitrag zu bereichern, mache ich einen Sprung zur Kunst, die uns ja oft zu überzeugenderen Aha-Erlebnissen führt als das bewusste und vernünftige Denken, und zwar zu Goethes Faust: Wie könnte in uns das Gefühl von Empörung über das Todesurteil gegen Gretchen, die Kindsmörderin, entstehen und wie würde sich unser Mitleid mit ihr erklären, wenn wir davon überzeugt wären, dass sie "auch anders gekonnt" hätte, also, um mit Freud zu sprechen, dass sie wirklich "Herr im eigenen Haus" gewesen wäre? Goethe berührt hier die aktuell werdende strafrechtliche Problematik (siehe oben), ohne sie weiter zu explizieren. Vielleicht sollten wir das subjektive Gefühle der freien eigenen Entscheidungsmacht doch immer öfter zu Gunsten der zunehmenden gegenteiligen Belege aus der Neurowissenschaft in Frage stellen, wenn wir dazu neigen, über andere (und über uns selbst) den Stab zu brechen, weil man ja "auch anders gekonnt hätte" - oder nur hätte können sollen, aber eben nicht konnte? Das würde auch der goetheschen Lösung durch die Gnade am Ende von Faust II einen neuen und ganz modernen Sinn geben.

"...mehr als 15-mal so lange stabil zu halten wie bisher möglich..."
ich denke "als" wäre richtig gewesen.

Was muss ich mir denn unter "Jugendlichen im Alter von 14 bis 27 Jahren" vorstellen? Junggebliebene Erwachsene? Schnell gealterte Jugendliche? Oder waren "14 bis 17 Jahre" gemeint?

Das synaptische Verknüpfungsnetzwerk unseres Gehirns bestimmt die Muster der elektrochemischen Erregungsprozesse die in ihm ablaufen können – also unsere Gefühle und Gedanken. Diese Erregungen wirken in einem zyklisch-kausalen Rückkopplungsprozess verstärkend oder abschwächend auf die Synapsen zurück. Dabei wirken durch äußere Sinnesreize stimulierte „Fremderregungen“, die uns im allgemeinen bewusst werden, parallel zu internen „Selbsterregungen“, die uns meist nicht bewusst sind und dem „Housekeeping“ unseres Denkorgans dienen: Gedächtnis, Vergessen und andere lebensnotwendige Funktionen. Bei uns nehmen Letztere den weitaus größten Teil der Aktivität in Anspruch: Des Menschen Gehirn beschäftigt sich in erster Linie mit sich selbst – was einen wesentlichen Unterschied zum Gehirn der Tiere ausmachen mag. Diese Selbstbezüglichkeit ist es, die uns Autonomie verleiht! Und diese unbewusste Autonomie ist es wiederum, die uns die Illusion eines „Ichs“ und eines „freien Willens“ vorgaukelt. Könnten die Philosophen und die Neurowissenschaftler sich darauf einigen, dass freier Wille nur ein anderes Wort für Autonomie ist, wäre ein lang anhaltender Streit aus der Welt.