Минимум функции методом Флетчера-Ривса. Примеры решений

Пример №1. Найти минимум функции методом сопряженных градиентов: f(X) = 2x12+2x22+2x1x2+20x1+10x2+10.
Решение. В качестве направления поиска выберем вектор градиент в текущей точке:

▽ f(X) =
4*x1+2*x2+20
2*x1+4*x2+10

Итерация №0.
▽ f(X0) =
20
10

Проверим критерий остановки: |▽f(X0)| < ε

Вычислим значение функции в начальной точке f(X0) = 10.
Сделаем шаг вдоль направления антиградиента.
X1 = X0 - t0▽ f(X0) =
0
0
- t0
20
10
=
-20.0*t0
-10.0*t0

f(X1) = 2*(-20.0*t0)2+2*(-10.0*t0)2+2*(-20.0*t0)*(-10.0*t0)+20*(-20.0*t0)+10*(-10.0*t0)+10 → min
Найдем такой шаг, чтобы целевая функция достигала минимума вдоль этого направления. Из необходимого условия существования экстремума функции (f '(x1)=0):
2800*t1-500 = 0
Получим шаг: t0 = 0.1786
Выполнение этого шага приведет в точку:
X0 =
0
0
- 0.1786
20
10
=
-3.5714
-1.7857

Итерация №1.
▽ f(X1) =
2.143
-4.286

Проверим критерий остановки: |▽f(X1)| < ε

Вычислим значение функции в новой точке f(X1) = -34.643.
X2 = X1 - t1d1
d1 = ▽f(X1) + b0▽f(X0)
d1 =
2.143
-4.286
+ 0.0459
20
10
=
3.061
-3.827

Сделаем шаг вдоль направления антиградиента.
X2 = X1 - t1▽ f(X1) =
-3.5714
-1.7857
- t1
3.061
-3.827
=
-3.0612*t1-3.5714
3.8265*t1-1.7857

f(X2) = 2*(-3.0612*t1-3.5714)2+2*(3.8265*t1-1.7857)2+2*(-3.0612*t1-3.5714)*(3.8265*t1-1.7857)+20*(-3.0612*t1-3.5714)+10*(3.8265*t1-1.7857)+10 → min
Найдем такой шаг, чтобы целевая функция достигала минимума вдоль этого направления. Из необходимого условия существования экстремума функции (f '(x2)=0):
49.198250728863*t2-22.9591836734694 = 0
Получим шаг: t0 = 0.4667
Выполнение этого шага приведет в точку:
X0 =
-3.5714
-1.7857
- 0.4667
3.061
-3.827
=
-5
0

Итерация №2.
▽ f(X2) =
0
0

Проверим критерий остановки: |▽f(X2)| < ε

Вычислим значение функции в новой точке f(X2) = -40.

Анализ решения. Найдем матрицу Гессе функции f(X) = 2x12+2x22+2x1x2+20x1+10x2+10.

H =
42
24
Так как матрица Гессе является положительно определенной, то функция f(X) строго выпукла и, следовательно, в стационарной точке достигает глобальный минимум.
загрузка...