Предсказанные значения, остатки, суммы квадратов, “качество подгонки”
- Предсказанное значение: \(\hat{y}_i=\hat{\beta}_0+\hat{\beta}_1x_1+\cdots+\hat{\beta}_kx_k=x'\hat{\beta}\)
- Остатки: \(e_i=\hat{u}_i=y_i-\hat{y}_i\)
- Общая сумма квадратов: \(TSS=\sum_{i=1}^n(y_i-\bar{y})^2=ESS+RSS\)
- Объяснённая сумма квадратов \(ESS=\sum_{i=1}^n(\hat{y}_i-\bar{y})^2\)
- Остаточная сумма квадратов \(RSS=\sum_{i=1}^n \hat{u}^2_i=\sum_{i=1}^n(y_i-\hat{y}_i)^2\)
- “Качество подгонки” \(R^2=\frac{ESS}{TSS}=1-\frac{RSS}{TSS}\)
- Исправленный \(adj.R^2=1-(1-R^2)\frac{n-1}{n-k-1}\)
F-тест
- Значимость регрессии \(F=\frac{R^2}{1-R^2}\frac{n-k-1}{k}\)
- Совместная значимость \(F=\frac{R^2-R^2_{restr}}{1-R^2}\frac{n-k-1}{J}\)
- Структурные изменения (тест Чоу) \(F=\frac{RSS-RSS_I-RSS_{II}}{RSS_I+RSS_{II}}\frac{n-2(k+1)}{k+1}\)