Во многих случаях требуется установить зависимость между двумя случайными величинами. Чаще всего предполагается линейная зависимость. Например, при обмене облигаций использовалась линейная зависимость между изменениями доходностей двух облигаций.
Рассмотрим две случайные величины ξ и η и предположим, что когда случайная величина ξ принимает значения X1, X2…., Xn, то случайная величина η принимает соответственно значения Y1, Y2…., Yn.
Линейной регрессионной моделью называют уравнение следующего вида (1):

При построении линейной регрессионной модели коэффициенты а и b необходимо подобрать так, чтобы влияние случайной погрешности ξ на случайную величину η было как можно меньше.
Из уравнения (1) следует, в частности, что

Коэффициенты регрессии а и b чаще всего подбираются методом наименьших квадратов (least squares), который сводится к отысканию значений а и b так, чтобы достигалось наименьшее значение функции (2)

Нетрудно проверить, что наименьшее значение функции (2) достигается при
При выборе коэффициентов регрессии указанным выше способом будут выполняться следующие соотношения (3):

Пример. Построение линейной регрессионной зависимости доходности среднесрочных корпоративных облигаций одного и того же кредитного рейтинга (η) от доходности 10-летних казначейских облигаций (ξ). Исходная информация и предварительные расчеты приведены в таблице ниже.
Коэффициенты регрессии находят следующим образом:



Из соотношения (3) следует, что


Отношение суммы квадратов, объясняемой регрессией, к полной сумме квадратов называют коэффициентом детерминации и обозначают R2. Таким образом,

Коэффициент детерминации всегда находится между 0 и 1, причем чем ближе коэффициент детерминации к единице, тем выше качество регрессионной модели.