nichtlineare Optik (Abk. NLO), Sammelbegriff für bei hohen Lichtintensitäten auftretende Effekte, die ihre Ursache in einer nichtlinearen Reaktion eines Mediums auf die Lichteinwirkung haben. Im Gegensatz dazu ist diese Reaktion in der konventionellen Optik, wo man es mit vergleichsweise niedrigen Intensitäten zu tun hat, linear. Es verhalten sich nämlich die Atome bzw. Moleküle eines Mediums bei Einfall von Licht geringer Intensität wie harmonische Oszillatoren, die durch das Licht zum Mitschwingen, d.h. zu Schwingungen mit der Lichtfrequenz, veranlaßt werden. Genauer gesprochen werden an den einzelnen Atomen oszillierende elektrische Dipolmomente induziert, die proportional zu der treibenden elektrischen Feldstärke sind. Diese Dipole senden daher auch wieder Licht der gleichen Frequenz wie das einfallende aus. Dieser Sachverhalt entspricht der täglichen Erfahrung: Die Frequenz des Lichtes bleibt bei den unterschiedlichen Arten der Wechselwirkung mit Materie wie Reflexion, Transmission oder Streuung unverändert. Was ein Medium im Falle des Lichtdurchgangs tatsächlich bewirkt, ist eine Veränderung der Phasengeschwindigkeit des Lichtes, wodurch das Medium einen von Eins verschiedenen Brechungsindex erhält.

Wie für die einzelnen Dipolmomente besteht natürlich auch für die Summe der in der Volumeneinheit befindlichen Dipolmomente, d.h. für die Polarisation P des Mediums, ein linearer Zusammenhang mit der elektrischen Feldstärke E


,

wobei ε₀ die Dielelektrizitätskonstante des Vakuums und χ⁽¹⁾_ik die Suszeptibilität 1. Ordnung (bei Kristallen in der Regel, wie angeschrieben, ein Tensor, bei Gasen und Flüssigkeiten ein Skalar) bezeichnen. Die Indizes i, k beziehen sich jeweils auf die drei Achsen eines kartesischen Koordinatensystems.

Nun können aber die Atome nur bei schwacher Anregung als harmonische Oszillatoren angesehen werden, bei stärkerer Anregung dagegen machen sich Anharmonizitäten bemerkbar. Die Folge davon ist, daß der Oszillator nicht nur bei der Frequenz ν der einfallenden Strahlung, sondern auch bei Vielfachen 2ν, 3ν usf. – allgemeiner, im Falle einer Einstrahlung von Licht mit unterschiedlichen Frequenzen ν₁, ν₂, ν₃, ... auch bei den verschiedenen Kombinationsfrequenzen wie z.B. ν₁±ν₂, 2ν₁±ν₂, ν₁±ν₂±ν₃ – schwingt und damit auch ausstrahlt. Mathematisch drückt sich dieser Sachverhalt in nichtlinearen Beiträgen Pⁿ¹ zur Polarisation aus. Es gilt:

wobei die Tensoren χ⁽²⁾, χ⁽³⁾, ... nun Suszeptibilitäten 2., 3., ...Ordnung bedeuten.

Derartige nichtlineare Suszeptibilitäten können bei Gasen, Flüssigkeiten und festen Körpern vorliegen, wobei sich die räumlichen Symmetrien des Mediums in entsprechenden Symmetrieeigenschaften der Suszeptibilitätstensoren widerspiegeln. So verschwinden z.B. bei Medien, die ein Inversionszentrum besitzen (Gase, Flüssigkeiten sowie bestimmte Kristalle), alle Suszeptibilitätstensoren gerader Ordnung.

Durch den obigen Ausdruck für die nichtlineare Polarisation des Mediums werden Wechselwirkungen zwischen Lichtwellen erfaßt, bei denen das Medium lediglich die Rolle eines Mittlers spielt, d.h. Energie weder aufnimmt noch abgibt. In erster Linie handelt es sich dabei um Prozesse, bei denen Licht bei neuen Frequenzen erzeugt wird. Dazu zählen die Harmonischenerzeugung, die Summenfrequenzerzeugung, die Differenzfrequenzerzeugung, die parametrische Fluoreszenz, die parametrische Verstärkung und die parametrische Oszillation sowie die Vierwellenmischung.

Hinzu kommen Effekte, bei denen intensive Wellen den Brechungsindex einer Probewelle verändern. Allgemein wird so eine Doppelbrechung induziert (Kerr-Effekt, 3). Ist nur eine einzige intensive Welle vorhanden, so tritt Selbstwechselwirkung auf. Die Welle verändert dabei in Abhängigkeit von ihrer Intensität den Brechungsindex des Mediums. Es kommt so zu Selbstfokussierung und Selbstphasenmodulation.

Es gibt aber auch Prozesse, bei denen sich das Medium am Energieaustausch beteiligt. Im einzelnen sind dies die induzierte Raman- und Brillouin-Streuung sowie die Mehrphotonenabsorption und die Mehrphotonenionisation. Schließlich zählt auch die kohärente Wechselwirkung zur n.O.

Effekte der n.O. treten auch in optischen Wellenleitern auf. Dies ist bereits bei wenig intensiver Einstrahlung – in der Regel reicht schon ein Dauerstrichlaser als Strahlungsquelle aus – der Fall, da die genannten Strukturen die Energie der Strahlung konzentrieren und so für die erforderlichen hohen Intensitäten sorgen. Ebene Wellenleiter werden oft zur Harmonischen-, Summenfrequenz- und Differenzfrequenzerzeugung verwendet. Bei Glasfasern dagegen verschwindet die für die erwähnten Prozesse maßgebliche Suszeptibilität 2. Ordnung, so daß nur solche Prozesse möglich sind, die mit einer Suszeptibilität 3. Ordnung verknüpft sind. Im einzelnen wurden stimulierte Raman- und Brillouin-Streuung, Vierwellenmischung, Selbstphasenmodulation und der optische Kerr-Effekt beobachtet. Die Fasern haben gegenüber den Wellenleitern den Vorteil, daß sie sehr verlustarm sind und die nichtlineare Wechselwirkung damit über sehr große Strecken hinweg aufrechterhalten wird.