Sein Vater war ein reicher jüdischer Bankier, der sich 1913 den Adelstitel »Baron von« kaufte, aber diesen nicht benutzte; der Sohn legte später jedoch Wert auf das »von«. Mehrsprachig erzogen, soll sich János Neumann mit sechs Jahren in Altgriechisch unterhalten haben; es wird berichtet, dass er achtstellige Zahlen im Kopf dividieren konnte und nach kurzem Ansehen einer Seite im Telefonbuch Namen und Telefonnummern auswendig wusste. Mit acht Jahren beschäftigte er sich mit Differentialrechnung, las aber auch regelmäßig in einer Geschichtsenzyklopädie.

Bereits mit 17 Jahren, also noch während seiner Schulzeit am deutschsprachigen lutherischen Gymnasium, veröffentlicht er seinen ersten Beitrag in einer mathematischen Fachzeitschrift. Sein Vater wünscht jedoch nicht, dass er Mathematik studiert, da man hiermit keinen Reichtum erwerben könne; er einigt sich dann schließlich mit ihm auf ein Studium der Chemie – in Berlin, weil nach dem Ende des 1. Weltkriegs die antijüdische Stimmung in Budapest bedrohlich geworden ist. János Neumann pendelt zwischen den Hochschulen in Berlin, Budapest und Zürich. Gleichzeitig mit seinem Abschluss in Chemie in Zürich legt er in Budapest die Prüfung in Mathematik mit Auszeichnung ab, obwohl er die Vorlesungen nicht systematisch besuchen kann.

George Pólya (1887–1985), der Jura, Sprachen, Literatur, Mathematik, Physik und Philosophie in Budapest studiert hatte und in Zürich zeitweise sein Hochschullehrer im Fach Mathematik ist, gesteht später, dass János Neumann sein einziger Student war, vor dem er selbst »Angst« gehabt habe; es sei kaum eine Vorlesung vergangen, in der er als Dozent ein Problem formuliert habe, für das sein »Student« nicht am Ende der Vorlesung eine Lösung hätte präsentieren können.

Aufgrund der Arbeiten von Georg Cantor (1845-1918) hatte sich Ende des 19. Jahrhunderts ein neues Gebiet der Mathematik entwickelt, die (aus späterer Sicht »naive«) Mengenlehre. 1901 entdeckt Bertrand Russell (1872-1970) einen Widerspruch, der sich ergibt, wenn man die Definition beliebiger Mengen zulässt: Gibt es eine Menge aller Mengen, die sich nicht selbst enthalten? In seiner Doktorarbeit gelingt von Neumann im Jahr 1925 der widerspruchsfreie, axiomatische Aufbau der Mengenlehre.

Er wird Rockefeller-Stipendiat bei David Hilbert (1862-1943) in Göttingen, arbeitet als jüngster Privatdozent an den Universitäten in Berlin und Hamburg. Ab 1930 nimmt er parallel zu seinen Tätigkeiten in Europa eine Tätigkeit als Gastdozent an der Universität von Princeton auf; sein Ruf als mathematisches Genie verbreitet sich weltweit. 1933 gehört er mit Albert Einstein (1879–1955) zu den fünf ersten Professoren, die an das neu geschaffene Institute for Advanced Study in Princeton berufen werden. 1937 nimmt er die amerikanische Staatsbürgerschaft an.

1926 beschäftigt er sich mit den widersprüchlich erscheinenden Theorien der Atomphysiker Werner Heisenberg (1901-1976) und Erwin Schrödinger (1887-1961) und versucht, eine mathematische Theorie zu verfassen, die beide Ansätze beinhaltet: »Mathematische Grundlagen der Quantenmechanik« erscheint 1932. Aus dieser Arbeit ergeben sich neue Impulse für die Funktionalanalysis, ein Gebiet der Mathematik, das sich allgemein mit Eigenschaften des Funktionenraums beschäftigt (»von-Neumann-Algebra«). 1936 verfasst er einen Beitrag zu einer neuen »Logik« der Quantenmechanik: Photonen können zueinander senkrecht stehende Polarisationsfilter nicht passieren; gemäß »klassischer« Logik dürfte es keine Rolle spielen, wenn man noch einen dritten Filter hinzunimmt. Stellt man den dritten Filter in diagonaler Richtung vor oder hinter die beiden Filter in den Weg der Photonen, so ändert sich tatsächlich nichts, wohl aber, wenn er dazwischen gestellt wird.

Von Neumann gilt als Begründer der mathematischen Spieltheorie; 1928 veröffentlicht er einen Beitrag zum »Minimax-Theorem«. Bei diesem mathematischen Satz geht es um die Strategie, den maximalen Verlust der beteiligten Spieler in einem Nullsummenspiel (das heißt, die Summe von Gewinn und Verlust aller Spieler ist gleich null) minimal zu halten. 1937 verallgemeinert er dies zu Fragen des Gleichgewichts von Angebot und Nachfrage und verfasst 1944 zusammen mit Oskar Morgenstern (1902-1977) das Standardwerk der Ökonomie, »Theory of Games and Economic Behaviour«, in dem unter aanderem aufgezeigt wird, dass sich auch Tarifverhandlungen, strategische Unternehmensentscheidungen und zwischenstaatliche Konflikte mithilfe mathematischer Modelle beschreiben lassen.

1936 besucht Alan Turing (1912–1954) das Institut in Princeton, um dort zu promovieren; in seiner berühmten Schrift »On Computable Numbers with an Application to the Entscheidungsproblem« beschäftigt er sich mit der Berechenbarkeit eines mathematischen Problems (sogenannte Turing-Maschine). Seine Anwesenheit in Princeton regt von Neumann an, sich stärker mit dem Bau von Rechenautomaten zu beschäftigen.

Er analysiert die existierenden Rechnerkonzepte und entwickelt sie in seiner berühmten Schrift »First draft on a Report on the EDVAC« (Electronic Discrete Variable Automatic Computer) weiter. Wesentlich ist seine Erkenntnis, dass man die Programme nicht fest verdrahten, sondern ebenso wie Daten abspeichern sollte. Seitdem spricht man von der von-Neumann-Architektur der Rechner; nach ihr besteht ein Computer aus einem Rechenwerk, einem Steuerwerk, den In- und Outputgeräten und einem gemeinsamen Speicherwerk für Instruktionen und für Daten (was erst bei den jüngsten PC-Generationen geändert wurde). Er interessiert sich für biologische Informationsprozesse und untersucht neuronale Netze (Analogie von Computer und Gehirn).

Von 1937 an beschäftigt sich von Neumann mit Fragen der Mathematik in militärischen Anwendungen, zum Beispiel mit der Wirksamkeit von Bomben in Abhängigkeit von der Explosionshöhe, und verfasst eine Arbeit über »Schockwellen«. Die wichtigste Anwendung dieser Arbeit zeigt sich 1945 beim Atombombenabwurf über Hiroshima und Nagasaki. Er gehört zu den führenden Mitarbeitern des Manhattan-Projekts (Herstellung der ersten Atombombe) wie auch des Teams, das die erste Wasserstoffbombe entwickelte.

In diesem Zusammenhang entwickelt er Simulationsmethoden (Monte-Carlo-Methode) und entwirft ein Verfahren zur Erzeugung von Pseudozufallszahlen, die »middle square method«: Man startet mit einer 4stelligen Zahl, deren Quadrat eine achtstellige Zahl ergibt, von der dann die mittleren 4 Ziffern genommen werden, und so weiter. von Neumann lässt Kritik an der schlechten Qualität der so erzeugten Zahlen nicht gelten; man würde es schon merken, wenn die Simulation nicht brauchbar sei. Außerdem: »Anyone who considers arithmetical methods of producing random numbers is, of course, in a state of sin.«

In seinen Vorlesungen als Mathematikprofessor soll er oft sprunghaft in der Beweisführung gewesen sein und chaotisch im Tafelbild; dies kümmert ihn wenig, vertritt er doch provokant die Meinung: »In mathematics you don’t understand things, you just get used to them.« und »If people do not believe that mathematics is simple, it is only because they do not realize how complicated life is.«

Ende 1956 entdeckt man bei ihm Bauchspeicheldrüsen- und Knochenkrebs, Folgen seiner Anwesenheit bei den Nukleartests im Pazifik und der Arbeit in den Laboratorien von Los Alamos. Als John von Neumann stirbt, hat er 150 wissenschaftliche Schriften verfasst, davon je 60 in reiner beziehungsweise angewandter Mathematik und 20 in Physik.