Краткая теоретическая справка

Во многих задачах требуется установить и оценить зависимость изучаемой случайной величины Y от одной или нескольких других случайных величин. Остановимся на зависимости Y от одной случайной величины X. Две случайные величины могут быть связаны либо функциональной зависимостью, либо статистической, либо быть независимыми. Строгая функциональная зависимость реализуется редко, так как обе величины, или одна из них подвержены действию случайных факторов. В таких случаях возникает статистическая зависимость.

Статистической называют зависимость, при которой изменение одной из величин влечёт изменение распределения другой. Если при изменении одной из величин, изменяется среднее значение другой, то такая статистическая зависимость называется корреляционной.

Условным средним называют среднее арифметическое значений Y, соответствующих значению .

Корреляционной зависимостью Y(X) называют функциональную зависимость условной средней от x: (1)

Уравнение (1) называют уравнением регрессии Y на X. Функцию называют регрессией Y на X, а её график – линией регрессии Y на X.

Условным средним называют среднее арифметическое значений X, соответствующих значению .

Корреляционной зависимостью X(Y) называют функциональную зависимость условной средней от y:

Уравнение (2) называют уравнением регрессии X на Y. Функцию называют регрессией X на Y, а её график – линией регрессии X на Y.

Теория корреляции рассматривает две задачи:

1) установление формы корреляционной связи, то есть вид функции регрессии;

2) оценивание тесноты корреляционных связей.

Регрессия бывает линейной и нелинейной. Если регрессия линейная, то её графиком является прямая линия. Если регрессия линейная, то регрессия так же будет линейной.

Тесноту корреляционной зависимости оценивают по величине рассеивания значений признака вокруг условного среднего этого признака. Большое рассеяние свидетельствует о слабой зависимости, либо об её отсутствии между рассматриваемыми признаками. Малое рассеивание указывает на наличие достаточно сильной зависимости, вплоть до функциональной.

Пусть изучается система количественных признаков (X, Y ). В результате n независимых опытов получены n пар чисел . Найдем по данным наблюдений выборочное уравнение прямой линии среднеквадратичной регрессии. Для определенности будем искать уравнение регрессии Y на X.

Поскольку различные значения x признака X и соответствующие им значения y признака Y наблюдались по одному разу, то группировать данные нет необходимости. Также нет надобности использовать понятие условной средней, поэтому искомое уравнение можно записать так: . Угловой коэффициент прямой линии регрессии Y на X называется выборочным коэффициентом регрессии Y на X. Обозначим его как . Он является оценкой коэффициента регрессии. Таким образом, выборочное уравнение прямой линии регрессии Y на X будет иметь вид: .

Подберем параметры и b так, чтобы точки , построенные по данным наблюдений, на плоскости xOy лежали как можно ближе к прямой .

Назовем отклонением разность ,

где – вычисленная по уравнению ордината, соответствующая наблюдаемому значению , - наблюдаемая ордината, соответствующая .

Подберем параметры и b так, чтобы сумма квадратов отклонений была минимальной (в этом состоит сущность метода наименьших квадратов). Так как каждое отклонение зависит от отыскиваемых параметров, то и сумма квадратов отклонений есть функция F этих параметров

.

Для отыскания минимума приравняем нулю соответствующие частные производные:

Таким образом, коэффициент регрессии Y на X имеет вид: .

Аналогично находят выборочный коэффициент регрессии X на Y

Обозначим .

Замечаем, что . Тогда .

В результате уравнение прямой линии регрессии Y на X имеет вид:

.

Аналогично получаем уравнение прямой линии регрессии X на Y:

.

Свойства выборочного коэффициента корреляции:

1)

2) Если и выборочные линии регрессии прямые, то X и Y не связаны линейной корреляционной зависимостью.

3) Если , то наблюдаемые значения признаков связаны линейной функциональной зависимостью.

4) С возрастанием линейная корреляционная зависимость становится более тесной и при переходит в функциональную. Таким образом, характеризует тесноту линейной связи между количественными признаками выборки. Чем ближе к 1, тем связь сильнее, чем ближе к 0, тем связь слабее.

5) Если , то линейная регрессия имеет положительное направление; если , то отрицательное.

Замечание. Формулы для уравнений прямых линий регрессии остаются справедливыми, если данные признаков сгруппированы.