In meiner Grundschule gab es Heizkörper ohne Thermostate mit einfachen Ventilen. Einmal aufgedreht, heizten sie so lange ununterbrochen, bis man sie wieder zudrehte. Im Prinzip hätte man sie ständig nachregulieren oder zumindest grob an die Außentemperatur anpassen müssen.

Heute sind Heizungen ohne Thermostate selten geworden. Ein übliches, mechanisches Thermostatventil enthält ein Element, das sich bei Wärme ausdehnt und dadurch das Ventil schließt, wenn eine bestimmte Temperatur erreicht ist. Auch wenn viele meinen, man könnte damit festlegen, wie stark der Heizkörper heizt: Was wir tatsächlich einstellen, ist die Temperatur, die am Thermostatkopf herrschen soll.

Öffnen wir nun ein Fenster zum Lüften und vergessen, die Heizung vorher abzudrehen, dann schrumpft das Dehnelement in der kühlen Luft und wir heizen »zum Fenster hinaus«. Man könnte sagen: Der Thermostat meint, er sorge dafür, dass das Zimmer wärmer wird, aber mit seinen beschränkten Fähigkeiten ist er unfähig zu erkennen, dass dies zwecklos ist.

Der amerikanische KI-Forscher John McCarthy (1927–2011), der in den 1950er Jahren den Ausdruck künstliche Intelligenz prägte, argumentierte 1979, dass es sinnvoll sei, auf genau diese Weise von Thermostaten zu reden: Es ist legitim, ihnen Überzeugungen und Ziele zuzuschreiben. Bloß kann ein Thermostat nur wenige Überzeugungen haben (in seinem Beispiel drei: Zimmer zu warm, Zimmer zu kalt, Zimmer gerade richtig) und nur wenige Ziele (eines: das Zimmer auf die Temperatur gerade richtig bringen).

In meinem Zimmer gibt es einen digitalen Thermostat, der ein bisschen mehr kann als ein mechanischer. Wenn ich ein Fenster öffne, erkennt er die abfallende Temperatur und schaltet den Heizkörper für eine Stunde ab, um sinnloses Heizen zu vermeiden. Wir könnten sagen: Der digitale Thermostat kann wesentlich mehr Überzeugungen haben. Er kann zum Beispiel meinen, das Fenster sei geöffnet oder geschlossen. Manchmal liegt er damit allerdings falsch. Wenn man ein Fenster nur kippt, kann es vorkommen, dass er es nicht bemerkt.

Wenn Maschinen denken

In unserem Alltag reden wir gar nicht selten so über technische Geräte. So ärgern wir uns im Büro darüber, dass »der Kopierer noch denkt, er habe einen Papierstau«, weil seine Sensoren noch nicht nachvollzogen haben, dass wir das festgeklemmte Papier längst entfernt haben. Oder wir sprechen davon, dass ein E-Mail-Programm »merkt«, dass wir vergessen haben, eine Datei anzuhängen, und uns danach fragt. Damit zeigt die Software sogar eine rudimentäre Art »Sprachverständnis«, denn diese Erkennung funktioniert normalerweise über bestimmte Schlüsselwörter wie »anbei« oder »Attachment«, die in der Nachricht registriert werden.

Wir können uns nun technische Geräte vorstellen, die beliebig komplex werden und die noch viel, viel mehr Meinungen haben können als Digitalthermostate, Kopierer oder Computer mit Standardsoftware. Irgendwann nähern sie sich in der Interaktion mit uns geradezu menschlichen Maßstäben an, so dass wir nicht mehr nur halb im Scherz, sondern vielleicht sogar ganz ernsthaft über sie sagen: »Diese Maschine denkt.« Aber tut sie das wirklich?

Wir sind uns sicher, dass Menschen (sehr komplexe Wesen) Bewusstsein haben und Thermostate (sehr einfache Gegenstände) nicht. Doch liegt dazwischen irgendwo eine Grenze, ab der man Bewusstsein nicht mehr nur zuschreibt, sondern es wirklich da ist? Oder kann ein Computer nie Bewusstsein erlangen, ganz gleich, wie kompliziert er ist? Das führt uns zu der unangenehmen Frage, woher wir überhaupt wissen, dass andere Menschen ein Bewusstsein haben. Vielleicht ist es wirklich das Beste, anzunehmen, dass Überzeugungen, Ziele und andere geistige Zustände grundsätzlich eine Sache der Zuschreibung sind. Das hieße dann aber auch, dass mein Thermostat – zumindest auf niedrigem Niveau – wirklich denkt. Und wer weiß: Wenn wir einer Tür beibringen, zu sagen, »Sie haben eine einfache Tür sehr glücklich gemacht« – vielleicht haben wir dann wirklich eine glückliche Tür geschaffen.