Standarization and linear regression

Page 1

Standarization and linear regressiona. Se obtiene un nuevo grupo de valores con media 0 y desviación 1

Una vez hecho esto ¿qué relación hay entre correlación, covarianza, pendiente de los nuevos datos estandarizados respecto a los originales?

Covarianza: cambia

Pendiente: cambia

Y intersección: cambia

Correlación: Es la misma

En un grupo estandarizado la correlación, la pendiente y la covarianza tienen el mismo valor. La Y intersección está siempre en (0,0)

Si además de la estandarización se asume que X, Y y los errores siguen una distribución normal o de Gauss tenemos que hay una relación directa entre la varianza de nuestros errores y coeficiente de determinación

R^2: coeficiente de determinación

¿Qué pasa cuando hay múltiples X?

Es importante asegurarse de que todas aportan información. A veces si las X están relacionadas entre sí, hay colinearidad, no traen información nueva

Entropía

Hay relación directa entre la medida de la correlación y Mutual Information