die Gruppe Γ aller Möbius-Transformationen der Form \begin{eqnarray}M(z)\,=\,\frac{az\,+\,b}{cz\,+\,d}\end{eqnarray}

mit a, b, c, d ∈ ℤ und ad − bc = 1. Es ist Γ eine Gruppe bezüglich der Komposition ∘ von Abbildungen. Bezeichnet SL(2, ℤ) die Gruppe aller (2 × 2)-Matrizen \begin{eqnarray}A\,=\,\left(\begin{array}{cc}a & b\\ c & d\end{array}\right)\end{eqnarray}

mit a, b, c, d ∈ ℤ und det A = 1, so wird jeder Matrix A ∈ SL(2, ℤ) durch \begin{eqnarray}{M}_{A}(z)\,=\,\frac{az\,+\,b}{cz\,+\,d}\end{eqnarray}

ein Element M_A ∈ Γ zugeordnet. Die hierdurch definierte Abbildung ϕ : SL(2, ℤ) → Γ ist ein Gruppenepimorphismus, dessen Kern aus den beiden Matrizen ±E besteht, wobei E die Einheitsmatrix bezeichnet. Man kann zeigen, daß Γ bereits von den beiden Matrizen \begin{eqnarray}S & :\,= & \begin{array}{cc}\left(\begin{array}{cc}0 & -1\\ 1 & 0\end{array}\right) & \begin{array}{clc}\text{und} & T \begin{array}{cc}:\,= & \left(\begin{array}{cc}1 & 1\\ 0 & 1\end{array}\right)\end{array}\end{array}\end{array}\end{eqnarray} erzeugt wird. Ein M ∈ Γ heißt Modultransformation und liefert eine konforme Abbildung der oberen Halbebene \({\mathcal{H}}\) ={ z ∈ ℂ : Im z > 0 } auf sich.

Die Modulgruppe spielt eine wichtige Rolle in der Theorie der elliptischen Funktionen, und man nennt sie daher auch elliptische Modulgruppe. Dazu sei \begin{eqnarray}L\,=\,{\rm{{\mathbb{Z}}}}{\omega }_{1}\,+\,{\rm{{\mathbb{Z}}}}{\omega }_{2}\,=\,\{m{\omega }_{1}\,+\,n{\omega }_{2}\,:\,m,\,n\,\in \,{\rm{{\mathbb{Z}}}}\}\end{eqnarray} ein Periodengitter. Das Paar (ω₁, ω₂) nennt man eine Basis von L. Ist \(({{\omega }^\prime}_{1},\,{{\omega }^\prime}_{2})\) eine weitere Basis von L, so existiert eine Matrix A ∈ SL(2, ℤ) mit \begin{eqnarray}\left(\begin{array}{c}{\omega }^{\prime}_{2}\\ {{\omega }^{\prime}_{1}}\end{array}\right)\,=\,A\left(\begin{array}{c}{\omega }_{2}\\ {\omega }_{1}\end{array}\right).\end{eqnarray}

Ist τ = ω₂/ω₁ und \({\tau }{^\prime}={\omega}^{\prime}_{2}/{\omega}^{\prime}_{1}\), so gilt τ′ = M_A(τ ). Man kann zeigen, daß es zu jedem Periodengitter L stets eine Basis (ω₁, ω₂) gibt derart, daß das Verhältnis τ = ω₂/ω₁ folgende Eigenschaften hat:

Das Verhältnis τ ist hierdurch eindeutig bestimmt, und es existieren zwei, vier oder sechs zugehörige Basen. Die Menge \({\mathcal{F}}\) aller τ ∈ ℂ, die die Bedingungen (i), (ii), (iii) und (iv) erfüllen, heißt der Fundamentalbereich der Modulgruppe Γ oder auch Modulfigur.

Anders ausgedrückt lautet obige Aussage: Zu jedem τ ∈ \({\mathcal{H}}\) gibt es ein M ∈ Γ mit M(τ ) ∈ \({\mathcal{F}}\). Hieraus folgt \begin{eqnarray}\mathcal{H}\,=\,\displaystyle \mathop{\bigcup }\limits_{M\in \Gamma }M( {\mathcal F} )\,.\end{eqnarray}

Weiter kann man zeigen, daß diese „Pflasterung“ der oberen Halbebene „überlappungsfrei“ ist, d. h. für alle M, N ∈ Γ mit M ≠ N gilt \begin{eqnarray}M( {\mathcal F} )\,\cap \,N( {\mathcal F} )\,=\,\emptyset\,.\end{eqnarray}

Untergruppen der Modulgruppe spielen eine Rolle bei der Untersuchung von Modulfunktionen.