Optimalitätskriterien
Man nennt ein Tupel ein strenges lokales Minimum (bzw. ein strenges lokales Maximum), falls eine Zahl existiert, so dass gilt
Eine -Matrix
Dies ist der Fall, falls
und
gilt.
Notwendiges Kriterium:
Ist ein lokales Minimum bzw. ein lokales Maximum, so muss gelten
.
D.h. muss ein sogenannter kritischer Punkt von sein.
Hinreichendes Kriterium:
Ist ein kritischer Punkt der Funktion , und die Hessematrix an dieser Stelle positiv definit, so ist ein strenges lokales Minimum.
Die hinreichenden Bedingungen für ein strenges lokales Minimum sind jedoch nicht notwendig. Der kritische Punkt beispielsweise ist ein strenges lokales Minimum der Funktion , obwohl die Hessematrix an dieser Stelle nicht positiv definit ist.
|
|
Bemerkung:
Für den Fall von nur einer Veränderlichen entsprechen diese Optimalitätskriterien denen der aus der Differentialrechnung bei einer Veränderlichen bekannten: " ist genau dann ein strenges lokales Minimum der Funktion , wenn die erste Ableitung und die zweite Ableitung ist. Diese Bedingungen sind jedoch nicht notwendig (z.B. )."
Da im Fall einer quadratischen Funktion
Beispiel: |
Die quadratische Funktion |
|
|
mit positiv definiter Matrix |
|
besitzt ein strenges Minimum an der kritischen Stelle |
|
Wir werden zeigen, wie man mit dem konjugierten Gradientenverfahren das strenge Minimum in nur zwei Iterationsschritten bestimmen kann.
Auf diese Weise kann die bei mehreren Veränderlichen aufwendige Berechnung der inversen Matrix umgangen werden.