Newton-Verfahren (Optimierung)

Zur Minimierung von f sucht dieses Verfahren eine Nullstelle des Gradienten f. Unter Verwendung der Taylor-Entwicklung bis zur 2. Ordnung ergibt sich der Iterationsschritt durch Lösen des LGS:

Hf(xi)Δx=f(xi)xi+1=xi+Δx

Es konvergiert quadratisch, benötigt aber die Berechnung der Hesse-Matrix.