Метод наименьших квадратов

Метод наименьших квадратов позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака y от расчетных y(x) минимальна: ∑(y - yx)2 → min
Система нормальных уравнений для линейной регрессии: Система нормальных уравнений для линейной регрессии

Пример №1. Функция задана таблицей

X -2 -1 0 1 2
Y 3.1 1.7 0.9 0.7 1.05

Применяя метод наименьших квадратов, приблизить ее многочленами 1-й и 2-й степени. Для каждого приближения определить величину среднеквадратичной погрешности, построить график.

Рекомендации к решению. На первом шаге в калькуляторе необходимо выбрать Вид сглаживани: по прямой. Чтобы получить приближение 2-й степени необходимо выбрать Вид сглаживани: по параболе.

Количество строк (исходных данных)

Пример №2. По 10 парам наблюдений получены следующие результаты: ∑xi = 100; ∑yi = 200; ∑xiyi = 21000; ∑yi2 = 12000; ∑yi2 = 45000. По МНК оцените коэффициенты линейных уравнений регрессии Y на X и X на Y. Оцените коэффициент корреляции и детерминации. Проинтерпретируйте результаты.
Решение.

Уравнение регрессии X на Y: y = a + bx
Найдем средние значения.
x = 100/10 = 10; y = 200/10 = 20; xy = 21000/10 = 2100;
b = (2100-10×20)/(12000/10-102) = 1.727
a = 20 – 1.727×10 = 2.727
y = 2.727 + 1.727x

Уравнение регрессии Y на X: x = a + by = (y-2.727)/1.727 = 0,579x – 1.579
Дисперсии
σx2 = 12000/10 – 102 = 1100
σy2 = 45000/10 – 202 = 4100
Среднеквадратические отклонения
σx = (1100)1/2 = 33.17
σy = (4100)1/2 = 64.03

Коэффициент корреляции rxy = b σxy = 1.727×33.17/64.03 = 0.895
Коэффициент детерминации: R2 = 0,8952 = 0.8. Следовательно, в 80% случаев изменения х приводят к изменению y. Другими словами, точность подбора уравнения регрессии - высокая.

Пример №3. В задачах результаты измерений величин x и y даются таблицей. Предполагая, что между переменными x и y существует линейная функциональная зависимость y = ax + b, найти, пользуясь способом наименьших квадратов эту функцию. Вычислить с помощью полученной формулы приближенные значения y при x = 2.5 и x=6.

загрузка...