Минимум функции методом наискорейшего спуска. Примеры решений

Пример №1. Найти минимум целевой функции методом Коши с точностью ε=0.1.
f(x) = 8x12+4x1x2+522.

Решение находим с помощью сервиса Метод Коши. Итерация №1.
В качестве направления поиска выберем вектор градиент в текущей точке:

▽f(X) =
4*x2+16*x1
4*x1+10*x2

Значение градиента в точке X1:
▽f(X1) =
52
-14

Проверим критерий остановки:
|▽f(X1)| < ε
Имеем:
|▽f(X1)| = 53.85>0.1
Вычислим значение функции в начальной точке f(X1) = 125. Сделаем шаг вдоль направления антиградиента
X2 = X1 - λ1▽f(X1) =
4
-3
- λ1
52
-14
=
4-52*λ1
-3+14*λ1

Вычислим значение функции в новой точке.
f(X2) = 8*(4-52*λ1)2+4*(4-52*λ1)*(-3+14*λ1)+5*(-3+14*λ1)2
Найдем такой шаг, чтобы целевая функция достигала минимума вдоль этого направления. Из необходимого условия существования экстремума функции (f'(X)=0):
-2900+39400*λ1 = 0
Получим шаг: λ1 = 0.0736
Выполнение этого шага приведет в точку:
X2 =
4
-3
- 0.0736
52
-14
=
0.1726
-1.9695

Итерация №2.
Значение градиента в точке X1:
▽f(X1) =
-5.1164
-19.0046

Проверим критерий остановки:
|▽f(X2)| < ε
Имеем:
|▽f(X1)| = 19.6812695251094>0.1
Вычислим значение функции в начальной точке f(X2) = 18.273. Сделаем шаг вдоль направления антиградиента
X3 = X2 - λ2▽f(X2) =
0.1726
-1.9695
- λ2
-5.1164
-19.0046
=
0.17260+5.11640*λ2
-1.9695+19.0046*λ2

Вычислим значение функции в новой точке.
f(X3) = 8*(0.17260+5.11640*λ2)2+4*(0.17260+5.11640*λ2)*(-1.9695+19.0046*λ2)+5*(-1.9695+19.0046*λ2)2
Найдем такой шаг, чтобы целевая функция достигала минимума вдоль этого направления. Из необходимого условия существования экстремума функции (f'(X)=0):
-387.35+4808.47*λ2 = 0
Получим шаг: λ2 = 0.08056
Выполнение этого шага приведет в точку:
X3 =
0.1726
-1.9695
- 0.08056
-5.1164
-19.0046
=
0.5848
-0.4386
загрузка...