eine spezielle Untergruppe der Gruppe \({\mathcal{M}}\) der Möbius-Transformationen.

Zur genauen Definition sind einige Vorbereitungen notwendig. Dazu sei G eine Untergruppe von \({\mathcal{M}}\). Ein Punkt \(\alpha \,\,\in \,\,\hat{{\mathbb{C}}}\) heißt Grenzpunkt von G, falls ein \(z\in\hat{{\mathbb{C}}}\) und eine Folge (g_n) paarweise verschiedener Elemente in G existiert mit lim_n→∞g_n(z) = α; andernfalls heißt α ein gewöhnlicher Punkt von G. Die Gruppe G heißt diskontinuierlich an α, falls α ein gewöhnlicher Punkt von G ist; sie heißt diskontinuierlich, falls G an einem Punkt α diskontinuierlich ist. Die Menge der Grenzpunkte von G wird mit Λ = Λ(G) und die Menge der gewöhnlichen Punkte von G mit Ω = Ω(G) bezeichnet. Offenbar sind Λ und Ω ( disjunkt, und es gilt \(\Lambda\cup\Omega=\hat{{\mathbb{C}}}\). Eine Kleinsche Gruppe ist nun eine diskontinuierliche Untergruppe G von \({\mathcal{M}}\), d. h. es gilt Ω(G) ≠ ∅.

Für eine endliche Menge M bezeichne |M| im folgenden die Anzahl der Elemente von M. Weiter sei I ∈ \({\mathcal{M}}\) die identische Abbildung, d. h. I(z) = z für alle \(z\in\hat{{\mathbb{C}}}\)

Für jede Untergruppe G von \({\mathcal{M}}\) ist Ω eine offene und Λ eine abgeschlossene Menge. Weiter sind Ω und Λ invariant unter G, d. h. g(Ω) = Ω und g(Λ) = Λ für alle g ∈ G. Eine Kleinsche Gruppe G enthält höchstens abzählbar viele Elemente. Sie ist eine endliche Gruppe genau dann, wenn \(\Omega=\hat{{\mathbb{C}}}\) Dies ist z. B. der Fall, wenn G neben I nur elliptische Elemente enthält. Die Grenzmenge Λ enthält entweder höchstens zwei Elemente, oder sie ist eine perfekte Menge, d. h. jeder Punkt von Λ ist ein Häufungspunkt von Λ. Im letzten Fall ist Λ insbesondere eine überabzählbare Menge. Gilt |Λ| ≤ 2, so heißt G eine elementare Kleinsche Gruppe. Für jede Kleinsche Gruppe ist Λ nirgends dicht in \(\hat{{\mathbb{C}}}\), d. h. Λ enthält keine inneren Punkte. Zu jeder abgeschlossenen und in \(\hat{{\mathbb{C}}}\) nirgends dichten Menge A existiert eine Kleinsche Gruppe mit Λ ⊃ A.

Es sei T ∈ \({\mathcal{M}}\) und G = ⟨T⟩ die von T erzeugte zyklische Gruppe. Ist T nicht elliptisch, so ist G eine elementare Kleinsche Gruppe, und Λ enthält genau die Fixpunkte von T. Nun sei T elliptisch. Hat T endliche Ordnung, so gilt \(\Omega=\hat{{\mathbb{C}}}\). Ist die Ordnung von T unendlich, so ist G keine Kleinsche Gruppe.

Ist G eine unendliche Untergruppe von \({\mathcal{M}}\) und enthält neben I nur elliptische und parabolische Elemente, die alle einen gemeinsamen Fixpunkt \(\zeta =\hat{{\mathbb{C}}}\) besitzen, so ist G eine elementare Kleinsche Gruppe mit Λ = {ζ}. Falls G nicht elementar ist, so enthält G hyperbolische oder loxodromische Elemente.

Eine Kleinsche Gruppe ist stets diskret, d. h. es existiert keine Folge (g_n) paarweise verschiedener Elemente in G, die auf \(\hat{{\mathbb{C}}}\) gleichmäßig gegen I konvergiert. Die sog. Picard-Gruppe aller Möbius-Transformationen, \begin{eqnarray}T(z)=\frac{az+b}{cz+d}\end{eqnarray}

mit a, b, c, d ∈ ℤ + iℤ ist diskret, aber keine Kleinsche Gruppe. Manche Autoren verstehen unter einer Kleinschen Gruppe eine diskrete Untergruppe von \({\mathcal{M}}\). Sie unterscheiden dann Kleinsche Gruppen 1. Art, d. h. Ω = ∅, und Kleinsche Gruppen 2. Art, d. h. Ω ≠ ∅.

Ist G eine Untergruppe von \({\mathcal{M}}\), so sind folgende Aussagen äquivalent:

1. Es sei G die Gruppe aller Möbius-Transformationen \begin{eqnarray}T(z)=\frac{az+b}{cz+d}\end{eqnarray} mit a, b, c, d ∈ ℤ und ad − bc = 1. Dann ist G eine Fuchssche Gruppe 1. Art mit Hauptkreis Γ = ℝ. Diese Gruppe nennt man auch Modulgruppe.
2. Es sei G die von den Möbius-Transformationen \begin{eqnarray}{T}_{1}(z)=\frac{2z+3}{z+2},\quad{T}_{2}(z)=\frac{5z+24}{z+5}\end{eqnarray}

erzeugte Untergruppe der Modulgruppe. Dann ist G eine Fuchssche Gruppe 2. Art.