Die mathematische Teildisziplin des „Wissenschaftlichen Rechnens“ kennt man eigentlich erst

seit der zweiten Hälfte des 20. Jahrhunderts, obwohl ihre Wurzeln – weil untrennbar mit der Entwicklung des Computers verknüpft – wenigstens bis in das 19. Jahrhundert zurückreichen. Man faßt darin die interdisziplinäre Bestrebung zusammen, Prozesse der Natur- und Ingenieurwissenschaften – inzwischen auch der Wirtschafts- und Sozialwissenschaften – computergestützt zu simulieren, im engeren Sinne zumeist mit Hochleistungsrechnern. Dadurch wurde die (numerische) Simulation in der Wissenschaft zu einer alternativen Option im klassischen Wechselspiel zwischen theoretischer Untersuchung und Experiment. Simulationen sollen bei Langzeitprognosen unterstützen (von der Wettervorhersage bis zur Kosmologie) und kostspielige oder gefährliche Experimente vermeiden (von Crashtests bis zur Explosion von Kernwaffen).

Entscheidend sind beim Wissenschaftlichen Rechnen vor allem zwei Dinge: die mathematische Modellierung der jeweiligen Problemstellung und die algorithmische und rechentechnische Lösung. Darin spiegelt sich auch die enge Verzahnung der Mathematik und der Informatik wider im Zusammenwirken mit der wissenschaftlichen Teildisziplin, der das Problem zugeordnet ist. Mit einer erfolgreichen Modellierung ist zumeist schon die implizite Auswahl eines Lösungsalgorithmus’ verbunden, sofern die Mathematik (und insbesondere die Numerische Mathematik) hierzu schon über ein ausreichendes Spektrum von Lösungsverfahren verfügt. In diesem Fall kann rechentechnisch auf das Repertoire einer der einschlägigen Programmbibliotheken zurückgegriffen werden, die mittlerweile für Rechner aller Größenordnungen zur Verfügung stehen. Im anderen Fall wirft das mathematische Problem selbst wieder die Frage einer Problemlösung auf, welches dann Gegenstand der Numerischen Mathematik wird. „Lösung“ ist hier in jedem Falle im praktischen Sinne gemeint: Ergebnisse mit gegebenen Ressourcen (Speicherplatz, Rechenleistung) innerhalb einer vorgegebenen Zeit.

Entscheidend ist aber auch eine geeignete Kontrolle der numerischen Ergebnisse im Sinne einer Fehleranalyse. Stimmt die Rechnung, kann eine mögliche Abweichung der Resultate von der Wirklichkeit nur an einem unzureichenden mathematischen Modell liegen. Stimmt die Rechnung hingegen nicht, läßt sich keine sinnvolle Aussage gewinnen. Hier sind von der mathematischen Seite her seit etwa 1970 ergänzende Konzepte zur Numerischen Mathematik entstanden, die unter dem Begriff Verifikationsnumerik zusammengefaßt sind. Diese veranlassen den Rechner durch eine spezielle Zusatzalgorithmik, selbst seine Ergebnisse zu verifizieren. Der nicht unerhebliche Zusatzaufwand dieser Methoden (verglichen mit der approximativen Lösung) muß dabei in Relation zu jeglichen alternativen Fehleranalysen gesehen werden.

Von der rechentechnischen Seite hat die Informatik insbesondere im Bereich Hochleistungsrechnen bedeutende Erfolge erzielt, indem bereits existierende Algorithmen für bestimmte Rechnerarchitekturen wie Pipeline-Rechner („Vektorrechner“) oder Parallelrechner optimal aufbereitet wurden, um die maximale Rechenleistung zu erzielen. Gleichzeitig wurden die Rechenprozessoren durch höhere Integrationsdichte immer schneller, was ohnedies für ein stetiges Anwachsen der Rechenleistung sorgte. Mit der bisherigen Mikroelektronik-Technologie war zuletzt etwa alle 10 Jahre eine Verbesserung der verfügbaren Rechenleistung um den Faktor 100 zu beobachten. Dennoch darf nicht übersehen werden, daß – qualitativ gesehen – eine Verdopplung der Rechenleistung bei Problemen mit einer Komplexität von N²(N die Anzahl der Unbekannten) die Bewältigung von ca. 40 % mehr Unbekannten in derselben Zeit zuläßt, bei N³-Problemen immerhin noch ca. 25 %, bei NP-harten Problemen (wie z. B. in der Optimierung) dagegen noch bestenfalls eine Unbekannte.

Das Erkennen der Grenzen des Wissenschaftlichen Rechnens ist daher aktuell eine ebenso wichtige Aufgabe wie seine weitere Entwicklung und Verfeinerung. Innerhalb dieses interdisziplinären Forschungsbereichs ist damit die Mathematik am stärksten gefordert, um für eine gegebene Fragestellung gänzlich neue Lösungswege zu finden, anstatt einfach auf mehr Rechenleistung zu „warten“. Richtungsweisendes Beispiel hierfür ist die Chaos-Theorie, welche versucht, Phänomene der nichtlinearen Dynamik in übergeordneten Zusammenhängen zu beschreiben.