Omar Khayyam gilt als einer der bedeutendsten Mathematiker des Mittelalters; in seiner »Algebra« gibt er als Erster eine systematische Übersicht über das Lösen kubischer Gleichungen. Er beschäftigt sich mit dem Parallelenaxiom des Euklid und versucht es zu beweisen – in Anlehnung an den Mathematiker und Physiker Ibn-al-Haitham (965–1039). In Europa jedoch wird er vor allem bekannt durch seine Gedichte (»Rubaiyat«), im Jahr 1859 von Edward FitzGerald herausgegeben; vermutlich stammen nicht alle Gedichte der Sammlung tatsächlich von Omar Khayyam.

Der deutsche Mathematiker Karl Weierstraß (1815–1897) sagte einst: »Ein Mathematiker, der nicht auch etwas Poet ist, wird nie ein vollkommener Mathematiker sein.«

In Nishapur studiert Omar Khayyam die – alle Wissenschaften umfassende – Philosophie; mit 25 Jahren hat er bereits Bücher zur Arithmetik und Algebra sowie über Fragen der Musik verfasst. Seine Studien setzt er in Samarkand (heute Usbekistan) fort und schreibt dort sein berühmtestes mathematisches Werk, »Risalah fi'l-barahin 'ala masa'il al-jabr wa'l-muqabalah« (Abhandlung über Probleme der Algebra).

In der Mitte des 11. Jahrhunderts errichtet das aus Mittelasien einfallende Volk der Seldschuken ein Reich, das vom Mittelmeer bis nach Persien reicht. Als 1073 Malik-Shah die Regierung übernimmt, lädt er Omar Khayyam ein, in Isfahan ein Observatorium zu bauen. Omar Khayyam erstellt ein Verzeichnis der Sterne und bestimmt die Länge eines Jahres mit unvorstellbarer Präzision. Er schlägt eine Kalenderreform vor mit 8 Schaltjahren in 33 Jahren; dies ist »genauer« als der 500 Jahre später in Europa eingeführte Gregorianische Kalender. Aufgrund seiner Himmelsbeobachtungen kommt er zur Überzeugung, dass die Erde sich dreht und der Sternhimmel »fest« ist.

Bereits griechische Mathematiker wie Menaichmos (um 360 v. Chr.) hatten sich mit den Schnittpunkten von Kegelschnitten (Kreis, Parabel, Ellipse, Hyperbel) beschäftigt. Omar Khayyam erkennt, dass sich das Lösen aller kubischen Gleichungen auf die Schnittpunktbestimmung von geeigneten Kegelschnitten zurückführen lässt; seine Ansätze hierfür sind jedoch meistens ziemlich trickreich. Insgesamt unterscheidet er 14 Typen von Gleichungen (mit positiven Koeffizienten und positiven Lösungen). Er entdeckt, dass eine kubische Gleichung auch zwei positive Lösungen haben kann; allerdings erkennt er nicht, dass sogar drei Lösungen möglich sind. Er bedauert, dass er nicht in der Lage ist, die Lösungen durch algebraische Methoden zu bestimmen und hofft, dass dies »irgendjemand nach ihm« gelingt – dies geschieht im 16. Jahrhundert durch Scipione del Ferro (1465–1517), Niccolo Tartaglia (1500–1557) und Ludovico Ferrari (1522–1565).

Beispiel 1: Die Lösung der Gleichung \(x^3 = a\) ergibt sich als Schnitt von \(1/a \cdot x^2 = 1/x\), also einer gestauchten Parabel mit einer Normalhyperbel (hier: \(a = 2\)).

Beispiel 2: Die Gleichung \(x^3 + a^2 x = a^2 b\) löst er durch Schnitt des Kreises \(x^2 + y^2 = bx\) mit der Parabel \(x^2 = ay\). Einsetzen von \(y = x^2/a\) liefert \(x^2 + (x^2/a)^ 2 = bx\), das heißt \(x^2 + x^4/a^2 = bx\), also \( x^3 + a^2x = a^2b\) (hier: \(a = 3; b = 2)\).

Omar Khayyam entwickelt auch eine Methode, um \(n\)-te Wurzeln zu ziehen; dabei verwendet er die Binomialkoeffizienten, die in Europa erst 500 Jahre später durch Blaise Pascal (1623–1662) (wieder-) entdeckt werden.

Als Malik-Shah im Jahr 1094 stirbt, gerät der Freigeist Omar Khayyam in das Visier der orthodoxen Geistlichkeit; das Observatorium wird geschlossen, die Kalenderreform rückgängig gemacht. Er wird zur Pilgerfahrt nach Mekka gezwungen; danach lebt er bis zu seinem Tod zurückgezogen in Nishapur.

Edward FitzGerald hat in seinen freien Übersetzungen versucht, Inhalt und Form der Vierzeiler des »Rubaiyat« zu erhalten. Der Erfolg der Gedichte war im 19. Jahrhundert so groß, dass manche Verse als geflügelte Worte in die englische Sprache eingegangen sind. Auf den 1967 in Dubai erschienenen Briefmarken sind sechs dieser Vierzeiler illustriert.

Die Gedichte zeigen einen Menschen, der sich mit der Frage der Unbeständigkeit und Unsicherheit des Lebens ebenso auseinandersetzt wie mit der Frage der Existenz Gottes; er zweifelt an der göttlichen Vorsehung und dem Leben nach dem Tode, macht sich über die bigotten Frommen lustig und sieht Erfüllung in den irdischen Freuden: »Nütze die Zeit, die dir noch bleibt, bevor auch du zu Staub zerfällst, Staub unter Staub und ohne Wein, und ohne Lieder – ohne Ende!«; »Ach, all die Heiligen und Weisen, die so gelehrt von beiden Welten sprachen, sind längst verstummt, ihr harter Mund ist vollgestopft mit Staub.«; »Die Offenbarung aller Heiligen und Weisen, die vor uns lebten und als Ketzer brannten, sind nur Geschichten, die sie träumten und, als sie kurz erwachten, uns erzählten.«; »Der Himmel ist das Trugbild unserer Wünsche, die Hölle nur der Schatten einer Seele dort auf dem Feuer in dem Dunkel, aus dem wir kamen und in das wir gehen.«