Матрица Гессе

• Ввод данных
• Инструкция

Дважды непрерывно дифференцируемая функция f(x) является выпуклой (вогнутой) тогда и только тогда, когда матрица Гессе функции f(x) по x положительно (отрицательно) полуопределена для всех x (см. точки локальных экстремумов функции многих переменных).

Критические точки функции:

• если гессиан положительно определён, то x₀ — точка локального минимума функции f(x),
• если гессиан отрицательно определён, то x₀ — точка локального максимума функции f(x),
• если гессиан не является знакоопределённым (принимает как положительные, так и отрицательные значения) и невырожден (det G(f) ≠ 0), то x₀ — седловая точка функции f(x).

Критерии определенности матрицы (теорема Сильвестра)

• все диагональные элементы матрицы должны быть положительны;
• все ведущие главные определители должны быть положительны.

Положительная полуопределенность:

• все диагональные элементы неотрицательны;
• все главные определители неотрицательны.

Квадратная симметрическая матрица порядка n, элементами которой являются частные производные целевой функции второго порядка, называется матрицей Гессе и обозначается:

Отрицательная определенность.
Для того чтобы симметрическая матрица была отрицательно определена, необходимо и достаточно, чтобы имели место неравенства:
(-1)^k D_k> 0, k =1,.., n.
Другими словами, для того, чтобы квадратичная форма была отрицательно определённой, необходимо и достаточно, чтобы знаки угловых миноров матрицы квадратичной формы чередовались, начиная со знака минус. Например, для двух переменных, D₁ < 0, D₂ > 0.

Если гессиан полуопределен, то это может быть и точка перегиба. Нужны дополнительные исследования, которые могут быть проведены по одному из следующих вариантов:

1. Понижение порядка. Делается замена переменных. Например, для функции двух переменных это y=x, в итоге получаем функцию одного переменного x. Далее исследуется поведение функции на прямых y=x и y=-x. Если в первом случае функция в исследуемой точке будет иметь минимум, а в другом случае максимум (или наоборот), то исследуемая точка представляет собой седловую точку.
2. Нахождение собственных значений гессиана. Если все значения положительные, функция в исследуемой точке имеет минимум, если все отрицательные – имеется максимум.
3. Исследование функции f(x) в окрестности точки ε. Переменные x заменяются на x₀+ε. Далее необходимо доказать, что функция f(x₀+ε) от одной переменной ε, либо больше нуля (тогда x₀ точка минимума), либо меньше нуля (тогда x₀ точка максимума).

Примечание. Чтобы найти обратный гессиан достаточно найти обратную матрицу.

Пример №1. Какие из следующих функций являются выпуклыми или вогнутыми: f(x) = 8x12+4x1x2+5x22.
Решение. 1. Найдем частные производные.


2. Решим систему уравнений.
-4x₁+4x₂+2 = 0
4x₁-6x₂+6 = 0
Получим:
а) Из первого уравнения выражаем x₁ и подставляем во второе уравнение:
x₂ = x₂+¹/₂
-2x₂+8 = 0
Откуда x₂ = 4
Данные значения x₂ подставляем в выражение для x₁. Получаем: x₁ = ⁹/₂
Количество критических точек равно 1.
M₁(⁹/₂;4)
3. Найдем частные производные второго порядка.



4. Вычислим значение этих частных производных второго порядка в критических точках M(x₀;y₀).
Вычисляем значения для точки M₁(⁹/₂;4)



Строим матрицу Гессе:

D₁ = a₁₁ < 0, D₂ = 8 > 0
Поскольку диагональные миноры имеют различные знаки, то о выпуклости или вогнутости функции ничего сказать нельзя.

Пример №2. Выяснить, является ли функция f(x) = 2x₁² + x₂² + sin(x₁ + x₂) выпуклой в пространстве R².
Решение. Дважды дифференцируемая функция является выпуклой в пространстве R², если главные угловые миноры матрицы Гессе неотрицательны. Запишем матрицу Гессе – матрицу вторых производных:

Пример №3. Является ли функция f(x) = x1+2*x1*x2+4*x2 выпуклой, вогнутой?
Решение. 1. Найдем частные производные.

2. Решим систему уравнений.
2•x₂+1 = 0
2•x₁+4 = 0
Получим:
Количество критических точек равно 2.
M₁(0;^-1/₂), M₂(-2;0)
3. Найдем частные производные второго порядка.



4. Вычислим значение этих частных производных второго порядка в критических точках M(x₀;y₀).
Вычисляем значения для точки M₁(0;^-1/₂)



Строим матрицу Гессе:

Пример №4. Выяснить, является ли функция выпуклой в пространстве R².
Решение. Запишем матрицу Гессе – матрицу вторых производных:

Угловые миноры равны:


Таким образом, D₁> 0, D₂ > 0 при всех значениях x∈R², т.е. функция f(x) выпукла.