Die moderne Mengenlehre beginnt nach Auffassung vieler Mathematiker mit den Arbeiten von Georg Cantor Ende des 19. Jahrhunderts. Seine Definition einer Menge aus dem Jahre 1895 als eine „Zusammenfassung bestimmter, wohlunterschiedener Objekte unserer Anschauung oder useres Denkens zu einem Ganzen“ stellt die Grundlage der naiven Mengenlehre dar.

Schon um 450 v.Chr. beschäftigte sich Zenon von Elea mit dem Problem der Unendlichkeit (siehe [9]). Von Zenon von Elea stammt z.B. das Paradoxon von Achilles und der Schildkröte. Es besagt, daß Achilles nicht in der Lage ist, eine ihm vorauskriechende Schildkröte einzuholen: Zu Beginn befinde sich Achilles am Punkt A und die Schildkröte am Punkt B. Erreicht Achilles Punkt B, so ist die Schildkröte bereits zu Punkt C gelangt, usw.

Die Paradoxien des Zenon von Elea waren eine Triebkraft für die Entwicklung der Mengenlehre und der Analysis. Ihre Auflösung gelang erst mit Hilfe des Begriffs der Konvergenz unendlicher Reihen, der in mathematischer Strenge im 19. Jahrhundert von Gauß entwickelt wurde.

Aus dem 14. Jahrhundert stammt die Arbeit Questiones subtilissime in libros de celo et mundi von Albert von Sachsen (geb. 1316, gest. 1390), in der er mit einem anschaulichen Argument zeigt, daß ein unendlich langer Holzbalken dasselbe Volumen hat wie der gesamte dreidimensionale Raum.

In heutiger Sprache gibt Albert von Sachsen ein Beispiel für eine bijektive Abbildung zwischen einer unendlichen Menge und einer echten Teilmenge an. Weitere solche Beispiele finden sich Jahrhunderte später in Bolzanos Arbeit Paradoxien des Unendlichen (siehe [1]).

Tatsächlich ist die Existenz einer Bijektion auf eine echte Teilmenge charakteristisch für unendliche Mengen und kann wie bei Dedekind 1888 als deren Definition verwendet werden.

In [1] definiert Bolzano eine Menge als „Inbegriff, den wir einem Begriff unterstellen, bei dem die Anordnung seiner Teile gleichgültig ist“.

Im Gegensatz zu einer Vielzahl seiner Zeitgenossen glaubte Bolzano an die Existenz unendlicher Mengen und verteidigte sie gegen Kritiker.

Zwischen Cantor und Dedekind ist aus der Zeit zwischen 1873 und 1879 ein reger Briefwechsel überliefert, so daß man davon ausgehen kann, daß sie sich in ihrer Arbeit gegenseitig beeinflußt haben.

Dedekind gibt 1888 den ersten mengentheoretischen Aufbau des Zahlsystems von den natürlichen bis zu den reellen Zahlen.

In seiner bahnbrechenden Arbeit von 1874, die des Öfteren als die „Geburtsstunde der modernen Mengenlehre“ bezeichnet wird, zeigt Cantor, daß sich die algebraischen Zahlen bijektiv auf die natürlichen Zahlen abbilden lassen und daß es eine Bijektion zwischen den reellen und den natürlichen Zahlen nicht geben kann. Cantor betrachtet damit erstmalig verschiedene Stufen der Unendlichkeit. Vier Jahre später führt Cantor den Begriff der Mächtigkeit von Mengen ein.

In den Jahren 1883 und 1885 veröffentlicht Cantor grundlegende Arbeiten zur Theorie der Kardinalzahlen und Ordinalzahlen und deren Arithmetik.

Einer der heftigsten Kritiker der Cantorschen Ideen war Kronecker. Kronecker glaubte nicht an die Existenz einer Mathematik außerhalb des Bereichs der natürlichen Zahlen. Cantors Betrachtungen zu unterschiedlichen Stufen der Unendlichkeit wieß er daher als sinnlos zurück (siehe [7]).

Obwohl die Cantorsche Mengenlehre für die Entwicklung in vielen mathematischen Disziplinen von entscheidender Bedeutung war, ist sie nicht geeignet, die Mathematik in befriedigender Weise zu begründen.

Es zeigt sich nämlich, daß die Cantorsche Mengenlehre nicht frei von Widersprüchen ist. 1897 entdeckte Burali-Forti die heute nach ihm benannte Antinomie (Burali-Forti, Antinomie von). Es folgten die Entdeckungen der Cantorschen Antinomie 1899 sowie der Russellschen Antinomie 1902.

Etwa zur gleichen Zeit versuchte Frege (siehe [6]) ein Axiomensystem für die Cantorsche Mengenlehre anzugeben. Die Folge war, daß das Fregesche Axiomensystem die Schwächen der Cantorschen Mengenlehre teilte. So kann das Fregesche Komprehensionsaxiom, welches in seiner ursprünglichen Version lautet „zu jeder Eigenschaft E existiert die Menge \begin{eqnarray}{M}_{E}:=\{x:x\space \text{ist Menge},\text{und}\space E\space \text{triff zu auf}\space x\} \mbox{"},\end{eqnarray} als Ursache der Russellschen Antinomie betrachtet werden.

Dennoch stellt Freges Arbeit praktisch den Anfang der axiomatischen Mengenlehre dar. In der Folgezeit bemühten sich eine Vielzahl von Mathematikern um die Aufstellung eines widerspruchsfreien Axiomensystems zur Begründung der Mengenlehre.

Zur Vermeidung der Russellschen Antinomie wurden dabei verschiedene Wege eingeschlagen. So entwickelt Russell in [10] eine Typentheorie, in der vermieden wird, daß sich Kollektionen selbst enthalten.

Eine andere Strategie bestand in der Modifizierung des Fregeschen Komprehensionsaxioms. So enthält das von Zermelo 1908 veröffentlichte Axiomensystem ein Komprehensionsaxiom, welches lediglich fordert, daß die Kollektion von Elementen einer Menge, die eine bestimmte Eigenschaft besitzen, wieder eine Menge ist.

Zermelos Axiomensystem wurde durch Arbeiten von Fraenkel und Skolem ergänzt und war 1922 in einer Form, in der es bis heute die Grundlage der von den meisten Mathematikern akzeptierten Mengenlehre bildet. Man bezeichnet dieses Axiomenssystem mit den Buchstaben ZFC und nennt es das Zermelo-Fraenkelsche Axiomensystem mit Auswahlaxiom.

Andere bedeutsame Axiomensysteme der Mengenlehre wurden von Bernays, Gödel und von Neumann entwickelt (Axiomatische Mengenlehre).

Gödel war es auch, der einige prinzipielle Schwierigkeiten der axiomatischen Mengenlehre deutlich machte. 1931 veröffentlichte Gödel seine Unvollständigkeitssätze, und es wurde klar, daß es zu jedem widerspruchsfreien Axiomensystem Aussagen gibt, die von dem Axiomensystem unabhängig sind, d. h., sich aus den Axiomen weder beweisen noch widerlegen lassen. Insbesondere kann man aus einem widerspruchsfreien Axiomensystem, das reichhaltig genug ist, um für die Begründung der Mathematik geeignet zu sein, dessen Widerspruchsfreiheit nicht beweisen.

Ein wichtiger Zweig der modernen Mengenlehre beschäftigt sich mit dem Nachweis von Konsistenz- und Unabhängigkeitsresultaten.

Gödel zeigte 1940, daß das Auswahlaxiom und die verallgemeinerte Kontinuumshypothese mit ZF konsistent sind. 1963 zeigte Cohen, daß beide Aussagen sogar von ZF unabhängig sind. Cohen entwickelte dazu das sogenannte Forcing, das seither das Standardverfahren zum Nachweis nichttrivialer Unabhängigkeitsresultate ist.