Элементы регрессионного анализа

Во многих случаях требуется установить зависимость между двумя случайными величинами. Чаще всего предполагается линейная зависимость. Например, при обмене облигаций использовалась линейная зависимость между изменениями доходностей двух облигаций.

Рассмотрим две случайные величины ξ и η и предположим, что когда случайная величина ξ принимает значения X1, X2…., Xn, то случайная величина η принимает соответственно значения Y1, Y2…., Yn.

Линейной регрессионной моделью называют уравнение следующего вида (1):

При построении линейной регрессионной модели коэффициенты а и b необходимо подобрать так, чтобы влияние случайной погрешности ξ на случайную величину η было как можно меньше.

Из уравнения (1) следует, в частности, что

Коэффициенты регрессии а и b чаще всего подбираются методом наименьших квадратов (least squares), который сводится к отысканию значений а и b так, чтобы достигалось наименьшее значение функции (2)

Нетрудно проверить, что наименьшее значение функции (2) достигается при

При выборе коэффициентов регрессии указанным выше способом будут выполняться следующие соотношения (3):

Пример. Построение линейной регрессионной зависимости доходности среднесрочных корпоративных облигаций одного и того же кредитного рейтинга (η) от доходности 10-летних казначейских облигаций (ξ). Исходная информация и предварительные расчеты приведены в таблице ниже.

Коэффициенты регрессии находят следующим образом:

Из соотношения (3) следует, что

Отношение суммы квадратов, объясняемой регрессией, к полной сумме квадратов называют коэффициентом детерминации и обозначают R2. Таким образом,

Коэффициент детерминации всегда находится между 0 и 1, причем чем ближе коэффициент детерминации к единице, тем выше качество регрессионной модели.