DERIVACIN DE LOS COEFICIENTES DE REGRESIN

En general, siendo el modelo Yi = 1+2Xi+ui

n

RSS e (Yi b1 b2 X i )2
i 1

2
i

i 1

La estimacin MCO consiste en minimizar las RSS, definida como se muestra

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

n
2
(Yi b1 b2 X i )
RSS
0
i 1
b1
b1
n
2
(Yi b1 b2 X i )
RSS
0
i 1
b2
b2

Aplicamos a RSS la primera condicin de mnimo, es decir calcularemos las derivadas

parciales de RSS respecto de b1 y b2, e igualaremos a cero

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

n
RSS
2 (Y b1 b2 X )(1) 0 b1 Y b2 X
b1
i 1

RSS
2 (Y b1 b2 X )( X ) 0 b2
b2
i 1
n

YX b X
1

i 1

2
X

i 1

Aplicando las reglas de la derivacin se obtiene ...

i 1

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

n
RSS
2 (Y b1 b2 X )(1) 0 b1 Y b2 X
b1
i 1

RSS
2 (Y b1 b2 X )( X ) 0 b2
b2
i 1
n

YX b X
1

i 1

i 1

2
X

i 1

Medias y sumatorios pueden obtenerse fcilmente a partir de la muestra de datos.

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

n
RSS
2 (Y b1 b2 X )(1) 0 b1 Y b2 X
b1
i 1

RSS
2 (Y b1 b2 X )( X ) 0 b2
b2
i 1
n

YX b X
1

i 1

2
X

i 1

Se forma as un sistema de dos ecuaciones con dos incgnitas, b1 y b2.

i 1

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

b2

YX b X
1

i 1

i 1

2
X

i 1

No es difcil demostrar que b2 es igual al cociente entre la covarianza (Y, X) y la varianza

de X.

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

n
YX
YX
YX b1 X
b1 X
(Y b2 X )X

i 1
i 1
i 1 N
i 1 N
b2

n
2
n
n
X
X2
2
X

N
i 1
i 1
i 1 N

Dividiendo numerador y denominador por N

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

n
YX
YX
YX b1 X
b1 X
(Y b2 X )X

i 1
i 1
i 1 N
i 1 N
b2

n
2
n
n
X
X2
2
X

N
i 1
i 1
i 1 N

Sustituyendo b1 por su valor

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

n
YX
YX
YX b1 X
b1 X
(Y b2 X )X

i 1
i 1
i 1 N
i 1 N
b2

n
2
2
n
n
X
X
2
X

i 1
i 1 N
i 1 N

n
YX
YX
2
Y X b2 X
Y X

2
b
X
N
i 1 N
2
i 1

n
n
n
X2
X2
X2

i 1 N
i 1 N
i 1 N

Reordenando

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

n
YX
YX
Y X
Y X

2
2
b2 X
X
i 1 N
i 1 N
b2
n 2 b2 b2 n 2
2
n
n
X
X
X
X2

N
N
N
i 1
i 1
i 1
i 1 N

X2
b2 1 n 2
X

N
i 1

n
n YX
n X2
YX
2
N Y X
N X N Y X
i 1 n 2
b2 i 1 n 2 i 1 n 2
X
X
X

N
i 1
i 1 N

i 1

Eliminando denominadores

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

n
n X2

YX
2
b2
X
Y X
i 1 N
i 1 N
n

YX
Y X

cov(Y , X )
i 1 N
b2 n 2

X
var( X )
2
X

i 1 N

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

Yn b1 b2 X n

Yn
Y1

b1

b2

Y1 b1 b2 X 1
X1

Xn X

Resumiendo: bajo la hiptesis de que el verdadero modelo es Y = 1 +2X , hemos ajustado

una lnea recta a partir de una muestra de datos.
39

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

Yn b1 b2 X n

Yn
Y1

b1

b2

Y1 b1 b2 X 1
X1

Xn X

Hemos elegido los parmetros de la lnea ajustada de forma que minimicen la suma
cuadrtica residual, derivando de esta forma las expresiones que permiten calcular b 1 y b2.
40

DERIVACIN DE LOS COEFICIENTES DE REGRESIN

Yn b1 b2 X n

Yn
Y1

b1

b2

Y1 b1 b2 X 1

b1 Y b2 X
b2

X X Y Y

X X
i

X1

Xn X

Hemos elegido los parmetros de la lnea ajustada de forma que minimicen la suma
cuadrtica residual, derivando de esta forma las expresiones que permiten calcular b 1 y b2.
40

FIN

17.06.06