für eine fest vorgegebene ganze Zahl A ≠ 0 eine Gleichung in zwei Unbestimmten x, y der Form \begin{eqnarray}\begin{array}{cc}{x}^{2}-A{y}^{2}=1,\end{array}\end{eqnarray} wenn man nur an ganzzahligen Lösungen interessiert ist (d.h., wenn man (1) als diophantische Gleichung betrachtet).

Die beiden Lösungen (x, y) = (±1, 0) bezeichnet man als triviale Lösungen. Ist A ≤ −2 oder eine Quadratzahl, so besitzt Gleichung (1) keine (ganzzahlige) Lösung außer den beiden trivialen. Für A = −1 kommen noch die beiden Lösungen (x, y) = (0, ±1) hinzu. Interessant ist eine Pellsche Gleichung also nur, wenn A eine natürliche Zahl, aber keine Quadratzahl, ist.

Die mathematische Untersuchung derartiger Gleichungen reicht bis etwa ins 5. Jahrhundert v.Chr. zurück. Die erste Anwendung war die näherungsweise Berechnung von \(\sqrt{2}\): Ist (x, y) eine Lösung der Pellschen Gleichung \begin{eqnarray}\begin{array}{cc}{x}^{2}-2{y}^{2}=1,\end{array}\end{eqnarray} so kann man \(\frac{x}{y}\) als Näherungsbruch für \(\sqrt{2}\) betrachten; dies sieht man wie folgt: Die Pellsche Gleichung (2) ist offenbar äquivalent zu \begin{eqnarray}{\left(\frac{x}{y}\right)}^{2}-2=\frac{1}{{y}^{2}}\end{eqnarray} und zu \begin{eqnarray}\left(\frac{x}{y}\right)=\sqrt{\left(2+\frac{1}{{y}^{2}}\right)}.\end{eqnarray}

Hieran kann man ablesen, daß der Bruch \(\frac{x}{y}\) den wahren Wert von \(\sqrt{2}\) immer ein wenig überschätzt, daß er aber eine immer bessere Approximation an diesen liefert, je größer der Nenner y ist.

Bei Euklid findet sich ein geometrischer Algorithmus zur Konstruktion sämtlicher Lösungen von (2). Fermat behauptete 1657 in einem Brief an Frénicle, daß Gleichung (1) für eine natürliche Zahl D, die keine Quadratzahl ist, unendlich viele Lösungen besitzt. Fermat fragte Frénicle nach einer Regel zum Auffinden von Lösungen. Brouncker und Wallis nahmen die Herausforderung an, hatten aber Fermat mißverstanden und bestimmten die rationalen Lösungen (was nicht so schwierig ist). Nachdem Fermat das Mißverständnis aufgeklärt hatte, gelang es Brouncker, das Problem zu lösen. Wallis beschrieb 1657 und 1658 in zwei Briefen die Methode. Euler nannte Gleichung (1) eine Pellsche Gleichung und erklärte in seiner „Algebra“ ebenfalls eine Methode zum Auffinden von Lösungen. Der Grund für Eulers Namensgebung ist vermutlich eine Verwechslung bei der Rezeption der Wallisschen Werke. Wallis beschrieb sowohl das Lösen einer diophantischen Gleichung (1) als auch Ergebnisse von Pell zur Analysis, und man vermutet, daß dabei etwas durcheinander geraten ist.

Die vollständige Aufklärung der Lösungsstruktur einer Pellschen Gleichung gelang Lagrange 1766. Zum Lösen einer gegebenen Gleichung (1) verschaffe man sich zunächst eine sog. Minimallösung (x₁, y₁), bestehend aus zwei positiven ganzen Zahlen und mit der Eigenschaft, daß jede aus natürlichen Zahlen bestehende Lösung (x, y) die Ungleichungen x ≥ x₁ und y ≥ y₁ erfüllt. Zu einem solchen Paar kommt man z. B. durch Probieren: Man berechnet den Term 1+Ay² der Reihe nach für y = 1, 2, 3,… solange, bis 1+Ay² selbst eine Quadratzahl ist; das kann recht lang dauern, z. B. für A = 4 729 494. Ein mitunter kürzerer Weg über die Kettenbruchentwicklung von \(\sqrt{A}\) war schon Euler bekannt.

Hat man eine Minimallösung gefunden, so benutzt man folgenden Satz:

Gegeben sei die Minimallösung (x₁, y₁) der Feilschen Gleichung (1), wobei A > 0 und A ≠ n²für alle n ∈ ℕ vorausgesetzt sei. Bezeichnen (für jedes n ∈ ℕ) x_n, y_n die eindeutig bestimmten natürlichen Zahlen mit\begin{eqnarray}{x}_{n}+{y}_{n}\sqrt{A}={\left({x}_{1}+{y}_{1}\sqrt{A}\right)}^{n},\end{eqnarray}so sind sämtliche Lösungen (x, y) von (1) in den natürlichen Zahlen durch die Formeln\begin{array}{l}x=\displaystyle\frac{1}{2}\left({({x}_{1}+{y}_{1}\sqrt{A})}^{n}+{({x}_{1}-{y}_{1}\sqrt{A})}^{n}\right),\\ y=\displaystyle\frac{1}{2\sqrt{A}}\left({({x}_{1}+{y}_{1}\sqrt{A})}^{n}-{({x}_{1}-{y}_{1}\sqrt{A})}^{n}\right),\end{array}wobei n die natürlichen Zahlen durchläuft, gegeben.