Метод наименьших квадратов - Основы научных исследований

Пусть проведен однофакторный эксперимент, в котором исследована зависимость У от Х. Установлено, что основные предпосылки регрессионного анализа выполняются. Требуется найти функцию регрессии.

Рассмотрим вначале простейший случай, когда эмпирическая зависимость может быть хорошо аппроксимирована линейной функцией

Задача линейного РА состоит в том, что, зная положение экспериментальных точек на плоскости ХОУ, так провести линию регрессии, чтобы ее отклонение от всех точек было минимальным, как это показано на рисунке 15.1.

линейная регрессия

Рисунок 15.1 Линейная регрессия

При выборе линии регрессии можно, казалось бы, добиваться выполнения условия

,

Т. е. чтобы сумма отклонений всех расчетных точек от экспериментальных была равна нулю. Но соблюдение этого условия не позволяет однозначно определить линию регрессии, т. к. все прямые, проходящие через точку с координатами, удовлетворяют этому условию.

Для однозначного выбора функции регрессии используется какая-нибудь естественная характеристика точности аппроксимации. Чаще всего используется дисперсия остатков

(15.1)

Следовательно, мерой отклонения расчетных точек от экспериментальных в этом случае является сумма квадратов отклонений. Очевидно, что прямая наилучшим образом будет аппроксимировать экспериментальные данные, если будет минимальной. Для этого нужно минимизировать функцию

(15.2)

Метод, основанный на минимизации суммы квадратов отклонений расчетных значений откликов от экспериментальных называется методом наименьших квадратов (МНК).

С его помощью отыскиваются такие значения А0 и АІ, которые сводят к минимуму. Для этого вычисляются частные производные от (15.1) и приравниваются к нулю

(15.3)

Отсюда

(15.4)

Воспользовавшись правилом Крамера, получим

(15.5)

Свободный член можно определить и проще, воспользовавшись уравнением прямой линии в следующем виде

Отсюда

Похожие статьи




Метод наименьших квадратов - Основы научных исследований

Предыдущая | Следующая