quadratische MatrixA über einem Körper 𝕂, für die ein natürliches k ≥ 1 existiert mit \begin{eqnarray}{A}^{k}=0.\end{eqnarray} (0 bezeichnet die Nullmatrix.)

Nilpotente Matrizen sind stets singulär; mit A ist auch jede zu A ähnliche Matrix nilpotent.

Entsprechend heißt ein Endomorphismusφ auf einem endlichdimensionalen Vektorraum nilpotent, falls ein k ≥ 1 mit φ^k = 0 existiert (0 bezeichnet die Nullabbildung). Die kleinste natürliche Zahl k mit A^k = 0 bzw. φ^k = 0 heißt der Nilpotenzindex von A bzw. φ. Das Minimalpolynom einer nilpotenten Matrix (eines nilpotenten Endomorphismus) vom Index k ist gegeben durch m(t) = t^k, und 0 ist folglich der einzige Eigenwert.

Ist der Endomorphismus φ auf dem n-dimensionalen Vektorraum V nilpotent mit Index k, so ist die Folge \begin{eqnarray}(\upsilon, \varphi (\upsilon ),\ldots, {\varphi }^{k-1}(\upsilon ))\end{eqnarray} linear unabhängig, der Nilpotenzindex ist also stets kleiner als n. Zu jedem nilpotenten Endomorphismus φ : V → V auf dem n-dimensionalen Vektorraum V vom Index n existiert ein v ∈ V so, daß \begin{eqnarray}(\upsilon, \varphi (\upsilon ),\ldots, {\varphi }^{n-1}(\upsilon ))\end{eqnarray} eine Basis von V bildet.

Beispiel: Sei N = (n_ij) die (n × n)-Matrix mit n_ij = 1 für j = i+1 (1 ≤ i ≤ n−1) und n_ij = 0 sonst. Dann ist N nilpotent vom Index n (Jordansche Normalform). Jede nilpotente Matrix A vom Nilpotenzindex n ist ähnlich (Matrizenähnlichkeit) zu einer Blockdiagonalmatrix, deren Blöcke obige Gestalt haben; mindestens einer der Blöcke ist dabei von der Ordnung n. Die Anzahlen der Blöcke jeder Ordnung sind durch A eindeutig bestimmt.