You are on page 1of 20

1

Tema 4 - Introducci
on

Tema 3. Estimaci
on puntual
Criterios de comparaci
on de estimadores:
Insesgadez.
Estimadores de mnima varianza.
Error cuadratico medio.
Consistencia.

C
omo obtener
estimadores?
Tema 4. Estimadores de maxima verosimilitud
Metodos de calculo.
Propiedades.
Estadstica I

Andres M. Alonso

Distribuci
on temporal del temario

Tema 1
Tema 2
Tema 3
Tema 4
Tema 5
Tema 6
Tema 7

1
T
T
T
T
T
T
T

2
T
T
T
T
T
T
T
7

3
T
T
T
T
T
T
T
7

4
P
P
P
P
P
P
P
7

T denota una hora


de clase
de 0teora 7
0
0

T
T
T
T
T
T

T
T
T
T
T
T

T
T
T
T
T
T

P
P
P
P
P
P

P
P
P
P
P
P

6
0

6
0

6
0

6
6

6
6

P denota una hora de clase practica

Estadstica I

Andres M. Alonso

58
19

Tema 4. Estimadores de maxima verosimilitud

Los contenidos a desarrollar en este tema son los siguientes:


Definici
on y propiedades.
Tecnicas de calculo.
Propiedades de los estimadores de maxima verosimilitud en muestras
grandes.
Lecturas recomendadas: Secci
on 7.6 del libro de Pe
na (2005).

Estadstica I

Andres M. Alonso

Ejemplo 1. En una urna hay 4 bolas que pueden ser blancas o negras. La
proporci
on, , de bolas blancas en la urna es desconocida y puede tomar valores
en = {0, 1/4, 1/2, 3/4, 1}. Para obtener mas informaci
on extraemos de la
urna 2 bolas con reemplazamiento. Supongamos que la primera bola observada
es blanca (B) y la segunda es negra (N). Si calculamos la probabilidad de
obtener ese resultado para cada valor posible de obtenemos:

0
si = 0

3/16 si = 1/4
1/4 si = 1/2
Pr {B, N|} =

3/16 si = 3/4

0
si = 1
Que valor de te resulta mas verosmil?
Verosmil:
1. adj. Que tiene apariencia de verdadero.
2. adj. Creble por no ofrecer caracter alguno de falsedad.
c
Real Academia Espa
nola
Estadstica I

Andres M. Alonso

Definiciones
Definici
on 1. Sea (X1, X2, . . . , Xn) una muestra aleatoria de una poblaci
on
X con funci
on de probabilidad P (o con funci
on de densidad f ) donde
= (1, 2, . . . , k ) es un vector de parametros. La funci
on de verosimilitud,
L(x1, x2, . . . , xn; ), de la muestra (x1, x2, . . . , xn) es la funci
on de probabilidad
(o de densidad) de (X1, X2, . . . , Xn) evaluada en (x1, x2, . . . , xn).
Definici
on 2. Sea (X1, X2, . . . , Xn) una muestra aleatoria simple de
una poblaci
on X con funci
on de probabilidad P (o con funci
on de
densidad f ) donde = (1, 2, . . . , k ) es un vector de parametros.
La funci
on de verosimilitud de la muestra (x1, x2, . . . , xn) es:
L(x1, x2, . . . , xn; ) = P (x1)P (x2) . . . P (xn),
o

Estadstica I

L(x1, x2, . . . , xn; ) = f (x1)f (x2) . . . f (xn).

Andres M. Alonso

Ejemplo 1. Por simplicidad supondremos que toma valores en =


{1/4, 1/2, 3/4}. Definimos la variable X que toma valor 1 si sale blanca
y 0 si sale negra.
(a) Escriba la funci
on de verosimilitud en el caso de que las bolas se obtengan
con reemplazamiento (m.a.s.).
W Definici
on 2.
x1

1x1

L(x1, x2; ) = (1 )

x2

1x2

(1 )

(b) Escriba la funci


on de verosimilitud en el caso de que las bolas se obtengan
W Definici
on 1.
sin reemplazamiento (No es m.a.s.).
x1

1x1

L(x1, x2; ) = (1 )

Estadstica I

4 x1
3

x2 


1

4 x1
3

1x2 !

Andres M. Alonso

Definiciones
Definici
on 3. Sea (X1, X2, . . . , Xn) una muestra aleatoria de una poblaci
on
X con funci
on de verosimilitud L(x1, x2, . . . , xn; ) donde = (1, 2, . . . , k )
es un vector de parametros. Un estimador, b = b1, b2, . . . , bk ) es el estimador
de m
axima verosimilitud de si
L(x1, x2, . . . , xn; b) = m
ax L(x1, x2, . . . , xn; ),

para cada (x1, x2, . . . , xn) X .


Ejemplo 1. (c) Obtenga el estimador maximo verosmil (E.M.V.) de en el
caso de muestras con reemplazamiento.
L(x1, x2; ) = (x1+x2)(1)(2x1x2).
Tenemos que = {1/4, 1/2, 3/4},
as que bastara con evaluar la funci
on
de verosimilitud en estos valores.
Estadstica I

x1 + x2

0.25
0.50
0.75

0
0.5625
0.2500
0.0625

1
0.1875
0.2500
0.1875

2
0.0625
0.2500
0.5625

Andres M. Alonso

Definiciones
I A menudo resulta mas c
omodo trabajar con ln f en lugar de con f , y
buscamos el EMV mediante:
ln L(x1, x2, . . . , xn; b) = m
ax ln L(x1, x2, . . . , xn; ).

I La funci
on `(x1, x2, . . . , xn; ) = ln L(x1, x2, . . . , xn; ) recibe el nombre de
funci
on soporte.
I Si la funci
on de verosimilitud es derivable respecto de entonces el sistema
de ecuaciones de verosimilitud:

`(x1, x2, . . . , xn; ) = 0, para j = 1, 2, . . . , k,


j
x, ).
proporcionan los maximos relativos de `(x
Estadstica I

Candidatos a EMV
Andres M. Alonso

Ejemplo 1. (d) Suponiendo que = [0, 1], obtenga el estimador maximo


verosmil (E.M.V.) de en el caso de muestras con reemplazamiento.
`(x1, x2; ) = (x1 + x2) ln() + (2 x1 x2) ln(1 ).
`(x1,x2;)
1
1
=
(x
+
x
)
(2

x
)
1
2
1
2 1 .

x +x
I Igualando a cero, obtenemos: b = 1 2 2 .

Es el EMV?

(e) Obtenga la estimaci


on maximo verosmil para la muestra x1 = 1 y x2 = 0.
x +x
I Bastara evaluar el estimador obtenido: b = 1 2 2 = 12 .

Ejercicio: Apartados (c) y (e) con muestras sin reemplazamiento.

Estadstica I

Andres M. Alonso

10

Ejemplo 2. Obtenga los E.M.V. de los parametros de las siguientes distribuciones suponiendo que dispone de una muestra aleatoria simple de tama
no
n:
X Bernoulli(p).

X N (, 2) con conocida.

X Poisson().

X N (, 2) con conocida.

X Exponencial().

X N (, 2).

Ejemplo 3. Obtenga el E.M.V. para el parametro de una distribuci


on
U(0, ).

Estadstica I

Andres M. Alonso

11

Propiedades de los EMV


Principio de m
axima verosimilitud: Si b es el estimador maximo verosmil
b es el E.M.V. de = h().
de , entonces
b = h()
Consistencia y distribuci
on asint
otica:
Bajo ciertas condiciones, se tiene que:
b es un estimadores consistente de .
b es asint
oticamente normal:

A
n(b ) N (0, i()1),
h

i

2

donde i() = E
ln f (X; )
es la cantidad de informaci
on de
Fisher correspondiente a una observaci
on.

Estadstica I

Andres M. Alonso

12

Ejemplo 4. (a) Obtenga el EMV del parametro = e = Pr(X = 0) de


una distribuci
on P oisson() si dispone de una m.a.s. de tama
no n.
b=x
I En el Ejemplo 2 obtuvimos que el EMV de es
, entonces, por el
b
principio de verosimilitud, el EMV de es: b = e = ex.
b
(b) Obtenga la distribuci
on asint
otica de .

Tenemos que

b ) N (0, i()1),
n(
2 #

donde

2 #

i() = E
ln
=E
(X ln ln X!)

X!

"
2 #
 2

X
X
X
+ 2

1
= E
1
=E 2 2 +1 =
2 +1= .

"

Finalmente,
Estadstica I

"

b ) N (0, ).
n(
Andres M. Alonso

13

b
(c) Obtenga la distribuci
on asint
otica de .
Tenemos que

"

n(b ) N (0, i()1),

"

2 #

( ln())
i() = E
=E
ln

X!
"
"
2 #
2 #

1
1
=E X
= E
(X ln( ln()) + ln() ln X!)
+

ln

ln

X!

2 #

donde

1
ln + ln2
1
1
+ 2

ln
+
2
+
=

2
+
=

.
2
2
2
2
2
2
2
2
2
ln
ln
ln
ln
ln

Finalmente,

n(b ) N (0, 2 ln ).

I La informaci
on de Fisher tambien puede calcularse
mediante:

2
i() = E
ln f (X; ) .
2

Estadstica I

Andres M. Alonso

14

Propiedades de los EMV


Insesgadez asint
otica:
b .
E[]
Eficiencia asint
otica:
A

b = 1/E
Var[]

"

2 #

X ; )
= I()1 = (n i())1.
ln f (X

Cota de FrechetCramerRao.
b I()1,
Var()
donde b es un estimador centrado cualesquiera e I() es la
informaci
on de Fisher de una muestra de tama
no n.

Estadstica I

Andres M. Alonso

15

Ejemplo 5. Supongamos que los rendimientos de las acciones de la empresa


SEGURA.SL siguen una distribuci
on normal de media euros y varianza 2. Se
toma una m.a.s. de 20 rendimientos y se tiene:
5,29 3,66 5,71 6,62 4,30 5,85 6,25 3,40 3,55 5,57
4,60 5,69 5,81 5,71 6,29 5,66 6,19 3,79 4,98 4,84
(a) Calcular los valores de los estimadores maximo verosmiles de y en esa
muestra.
En el Ejemplo 2 obtuvimos que el EMV de (, 2) es (
x, s2), entonces, por el
principio de verosimilitud, tenemos que (b
,
b) = (
x, s).
x
=
r
s=

1
(5,29 + 3,66 + + 4,84) = 5,188,
20

1
((5,29 5,188)2 + (3,66 5,188)2 + + (4,84 5,188)2) 0,9712.
20

Estadstica I

Andres M. Alonso

16

Ejemplo 5. (b) El VaR (value at risk) es una medida de la maxima perdida esperada en una cartera, durante perodo de tiempo especfico con una
probabilidad dada, . Una manera de calcular el VaR es suponiendo que los
beneficios diarios de un valor se distribuyen de acuerdo a la distribuci
on normal.
Esta simplificaci
on permiti
o un importante avance de la teora de carteras, y es
frecuentemente empleada en calculos estadsticos financieros.

La empresa SEGURA.SL considera como perdidas todos los rendimientos inferiores a 5 euros por acci
on. Es decir, los beneficios siguen una distribuci
on
N ( 5, 2). En ese caso, las perdidas maximas esperadas para un nivel
son:
V aR = 5 z.
Obtenga la distribuci
on asint
otica del estimador
V[
aR =
b 5 z
b.

Estadstica I

Andres M. Alonso

17

I En primer lugar, obtenemos la distribuci


on de (b
,
b).
Tenemos,


1
1 (x )
exp
2 2
2

1 (x )2
.
ln f (x) = ln 2 ln
2 2
f (x) =

Obtenemos la derivadas parciales respecto de y :

(x )
ln f (x) =

1
(x )2
ln f (x) =

3
y la matriz de segundas derivadas (Jacobiano):
"
# "
2
2
1
ln
f
(x)
ln
f
(x)

2
=
2
2
(x)

ln
f
(x)
ln
f
(x)
2

Estadstica I

2 (x)
3
(x)2
1
3 4
2

#
.

Andres M. Alonso

18

Obtenemos la matriz de informaci


on:
"
i() = i(, ) = E

1
2
2 (X)
3

2 (X)
3
(X)2
1
2 + 3 4

"
=

1
2

12

y la distribuci
on de (b
,
b)0 es:,




   2

0
A
1
0
n

N (0 , i() ) = N
,

0
0

I Finalmente, como V[
aR =
b 5 z
b = [1, z]

0
2
+ 3 4

0
2
2


.


5, obtenemos:




2


A
n V[
aR V aR N 0, 2 + z2
.
2

Estadstica I

Andres M. Alonso

19

Recapitulaci
on

Tema 4. Estimadores de maxima verosimilitud


Definici
on del estimador MV.
Tecnicas de calculo.

W C
omo obtener
estimadores?

Propiedades de los estimadores de MV


en muestras grandes.
Insesgadez asint
otica.
Asint
oticamente de mnima varianza.
Consistentes.
Distribuci
on asint
otica normal.

W Por que elegir un EMV?

Estadstica I

Andres M. Alonso

20

Tema 3. Estimaci
on puntual
Tema 4. Estimadores de maxima verosimilitud

Generalizaci
on
Tema 5. Intervalos de confianza
Definici
on.
Intervalos de confianza para medias y varianzas en
poblaciones normales.
Intervalos de confianza en muestras grandes.
Determinaci
on del tama
no muestral.

Estadstica I

Andres M. Alonso