где X - матрица n*k значений входных переменных

Решение системы нормальных уравнений доставляющее оценки коэффициентов множественной регрессии имеет вид:

где B_оц - вектор-столбец МНК-оценок коэффициентов множественной регрессии 

 X^т - транспонированная матрица X ;

 (X^т*X)^-1 - матрица обратная матрице X^т* X.

 Несмещенной оценкой дисперсии возмущений явлется величина: 

S²_e = (Y - X*B_оц)^т_*(Y - X*B_оц)/(n - k), 

где k - число оцениваниемых коэффициентов в уравнении регрессии.

 ПОЛУЧИВ МНК-ОЦЕНКИ  B_оц  КОЭФФИЦИЕНТОВ УРАВНЕНИЯ РЕГРЕССИИ НЕОБХОДИМО ПРОВЕРИТЬ ДЛЯ КАЖДОЙ ОЦЕНКИ ГИПОТЕЗУ О РАВЕНСТВЕ НУЛЮ ИСТИННОГО ЗНАЧЕНИЯ: H_o:b_j=0. 

Проверка гипотезы осуществляется сравнением вычисленной T-статистики с критическим значением при заданном уровне значимости и числе степеней свободы(ЧСС) N-k:

T_j = |b_j|*[n*(1 - R²_j0)]^1/2/S_e 

где R_j0 - коэффициент множественной корреляции j-той входной переменной с остальными.

Если T_j>T_кр, то данные противоречат гипотезе о равенстве нулю истинного значения коэффициента b_j (КОЭФФИЦИЕНТ ЗНАЧИМ), если нет, то b_j следует считать нулевым (КОЭФФИЦИЕНТ НЕЗНАЧИМ). 

По результатам проверки гипотез о равенстве нулю истинных значений коэффициентов множественной регрессии, составляющие с незначимыми коэффициентами должны быть исключены из модели. При этом, в общем случае оценки коэффициентов, оставшиеся в модели должны быть пересчитаны! Это обусловлено коррелированностью входных переменных (матрица X^т*X - недиагональна). Только в случае отсутствия взаимной корреляции входных переменных (матрица X^т*X - диагональна) нет необходимости вновь вычислять оценки коэффициентов регрессии. Однако этого можно добиться лишь при реализации методов активного съема информации (АКТИВНОГО ЭКСПЕРИМЕНТА) с исследуемого объекта. 

Пусть оцениваются коэффициенты модели: 

y = b₀+b₁*x₁+b₂*x₂+b₃*x₃. 

Результаты представлены в таблице.

 Число наблюдений n=15, следовательно число степеней свободы T-статистики составляет n-k=15-4=11. При α=0,05 T_кр=2.20. Из таблицы видно, что отличными от нуля следует считать b₀ и b₁, т.к. для них значение T-статистики превышает T_кр. В правом столбце таблицы приведена значимость - вероятность получения такой оценки и больше (по абсолютной величине) при равенстве нулю истинного значения. Иногда, не совсем корректно, говорят, что это вероятность равенства нулю истинного значения коэффициента. Если значимость меньше заданного α, то соответствующий коэффициент значим.

 После удаления из модели составляющих с незначимыми коэффициентами (переменных x₂ и x₃) и перерасчета оценок имеем: 

При α=0,05 и числе степеней свободы n-k=15-2=13 критическое значение T-статистики T_кр=2,16. Таким образом, при α=0,05 оба коэффициента значимы. Это же подтверждается величинами значимости в правом столбце таблице. Следовательно, на следующем этапе исследования необходимо рассматривать модель: y = b₀+b₁*x₁