Professional Documents
Culture Documents
Tema 4 - Introducci
on
Tema 3. Estimaci
on puntual
Criterios de comparaci
on de estimadores:
Insesgadez.
Estimadores de mnima varianza.
Error cuadratico medio.
Consistencia.
C
omo obtener
estimadores?
Tema 4. Estimadores de maxima verosimilitud
Metodos de calculo.
Propiedades.
Estadstica I
Andres M. Alonso
Distribuci
on temporal del temario
Tema 1
Tema 2
Tema 3
Tema 4
Tema 5
Tema 6
Tema 7
1
T
T
T
T
T
T
T
2
T
T
T
T
T
T
T
7
3
T
T
T
T
T
T
T
7
4
P
P
P
P
P
P
P
7
T
T
T
T
T
T
T
T
T
T
T
T
T
T
T
T
T
T
P
P
P
P
P
P
P
P
P
P
P
P
6
0
6
0
6
0
6
6
6
6
Estadstica I
Andres M. Alonso
58
19
Estadstica I
Andres M. Alonso
Ejemplo 1. En una urna hay 4 bolas que pueden ser blancas o negras. La
proporci
on, , de bolas blancas en la urna es desconocida y puede tomar valores
en = {0, 1/4, 1/2, 3/4, 1}. Para obtener mas informaci
on extraemos de la
urna 2 bolas con reemplazamiento. Supongamos que la primera bola observada
es blanca (B) y la segunda es negra (N). Si calculamos la probabilidad de
obtener ese resultado para cada valor posible de obtenemos:
0
si = 0
3/16 si = 1/4
1/4 si = 1/2
Pr {B, N|} =
3/16 si = 3/4
0
si = 1
Que valor de te resulta mas verosmil?
Verosmil:
1. adj. Que tiene apariencia de verdadero.
2. adj. Creble por no ofrecer caracter alguno de falsedad.
c
Real Academia Espa
nola
Estadstica I
Andres M. Alonso
Definiciones
Definici
on 1. Sea (X1, X2, . . . , Xn) una muestra aleatoria de una poblaci
on
X con funci
on de probabilidad P (o con funci
on de densidad f ) donde
= (1, 2, . . . , k ) es un vector de parametros. La funci
on de verosimilitud,
L(x1, x2, . . . , xn; ), de la muestra (x1, x2, . . . , xn) es la funci
on de probabilidad
(o de densidad) de (X1, X2, . . . , Xn) evaluada en (x1, x2, . . . , xn).
Definici
on 2. Sea (X1, X2, . . . , Xn) una muestra aleatoria simple de
una poblaci
on X con funci
on de probabilidad P (o con funci
on de
densidad f ) donde = (1, 2, . . . , k ) es un vector de parametros.
La funci
on de verosimilitud de la muestra (x1, x2, . . . , xn) es:
L(x1, x2, . . . , xn; ) = P (x1)P (x2) . . . P (xn),
o
Estadstica I
Andres M. Alonso
1x1
L(x1, x2; ) = (1 )
x2
1x2
(1 )
1x1
L(x1, x2; ) = (1 )
Estadstica I
4 x1
3
x2
1
4 x1
3
1x2 !
Andres M. Alonso
Definiciones
Definici
on 3. Sea (X1, X2, . . . , Xn) una muestra aleatoria de una poblaci
on
X con funci
on de verosimilitud L(x1, x2, . . . , xn; ) donde = (1, 2, . . . , k )
es un vector de parametros. Un estimador, b = b1, b2, . . . , bk ) es el estimador
de m
axima verosimilitud de si
L(x1, x2, . . . , xn; b) = m
ax L(x1, x2, . . . , xn; ),
x1 + x2
0.25
0.50
0.75
0
0.5625
0.2500
0.0625
1
0.1875
0.2500
0.1875
2
0.0625
0.2500
0.5625
Andres M. Alonso
Definiciones
I A menudo resulta mas c
omodo trabajar con ln f en lugar de con f , y
buscamos el EMV mediante:
ln L(x1, x2, . . . , xn; b) = m
ax ln L(x1, x2, . . . , xn; ).
I La funci
on `(x1, x2, . . . , xn; ) = ln L(x1, x2, . . . , xn; ) recibe el nombre de
funci
on soporte.
I Si la funci
on de verosimilitud es derivable respecto de entonces el sistema
de ecuaciones de verosimilitud:
Candidatos a EMV
Andres M. Alonso
x
)
1
2
1
2 1 .
x +x
I Igualando a cero, obtenemos: b = 1 2 2 .
Es el EMV?
Estadstica I
Andres M. Alonso
10
Ejemplo 2. Obtenga los E.M.V. de los parametros de las siguientes distribuciones suponiendo que dispone de una muestra aleatoria simple de tama
no
n:
X Bernoulli(p).
X N (, 2) con conocida.
X Poisson().
X N (, 2) con conocida.
X Exponencial().
X N (, 2).
Estadstica I
Andres M. Alonso
11
A
n(b ) N (0, i()1),
h
i
2
donde i() = E
ln f (X; )
es la cantidad de informaci
on de
Fisher correspondiente a una observaci
on.
Estadstica I
Andres M. Alonso
12
Tenemos que
b ) N (0, i()1),
n(
2 #
donde
2 #
i() = E
ln
=E
(X ln ln X!)
X!
"
2 #
2
X
X
X
+ 2
1
= E
1
=E 2 2 +1 =
2 +1= .
"
Finalmente,
Estadstica I
"
b ) N (0, ).
n(
Andres M. Alonso
13
b
(c) Obtenga la distribuci
on asint
otica de .
Tenemos que
"
"
2 #
( ln())
i() = E
=E
ln
X!
"
"
2 #
2 #
1
1
=E X
= E
(X ln( ln()) + ln() ln X!)
+
ln
ln
X!
2 #
donde
1
ln + ln2
1
1
+ 2
ln
+
2
+
=
2
+
=
.
2
2
2
2
2
2
2
2
2
ln
ln
ln
ln
ln
Finalmente,
n(b ) N (0, 2 ln ).
I La informaci
on de Fisher tambien puede calcularse
mediante:
2
i() = E
ln f (X; ) .
2
Estadstica I
Andres M. Alonso
14
b = 1/E
Var[]
"
2 #
X ; )
= I()1 = (n i())1.
ln f (X
Cota de FrechetCramerRao.
b I()1,
Var()
donde b es un estimador centrado cualesquiera e I() es la
informaci
on de Fisher de una muestra de tama
no n.
Estadstica I
Andres M. Alonso
15
1
(5,29 + 3,66 + + 4,84) = 5,188,
20
1
((5,29 5,188)2 + (3,66 5,188)2 + + (4,84 5,188)2) 0,9712.
20
Estadstica I
Andres M. Alonso
16
Ejemplo 5. (b) El VaR (value at risk) es una medida de la maxima perdida esperada en una cartera, durante perodo de tiempo especfico con una
probabilidad dada, . Una manera de calcular el VaR es suponiendo que los
beneficios diarios de un valor se distribuyen de acuerdo a la distribuci
on normal.
Esta simplificaci
on permiti
o un importante avance de la teora de carteras, y es
frecuentemente empleada en calculos estadsticos financieros.
La empresa SEGURA.SL considera como perdidas todos los rendimientos inferiores a 5 euros por acci
on. Es decir, los beneficios siguen una distribuci
on
N ( 5, 2). En ese caso, las perdidas maximas esperadas para un nivel
son:
V aR = 5 z.
Obtenga la distribuci
on asint
otica del estimador
V[
aR =
b 5 z
b.
Estadstica I
Andres M. Alonso
17
1
1 (x )
exp
2 2
2
1 (x )2
.
ln f (x) = ln 2 ln
2 2
f (x) =
(x )
ln f (x) =
1
(x )2
ln f (x) =
3
y la matriz de segundas derivadas (Jacobiano):
"
# "
2
2
1
ln
f
(x)
ln
f
(x)
2
=
2
2
(x)
ln
f
(x)
ln
f
(x)
2
Estadstica I
2 (x)
3
(x)2
1
3 4
2
#
.
Andres M. Alonso
18
1
2
2 (X)
3
2 (X)
3
(X)2
1
2 + 3 4
"
=
1
2
12
y la distribuci
on de (b
,
b)0 es:,
2
0
A
1
0
n
N (0 , i() ) = N
,
0
0
I Finalmente, como V[
aR =
b 5 z
b = [1, z]
0
2
+ 3 4
0
2
2
.
5, obtenemos:
2
A
n V[
aR V aR N 0, 2 + z2
.
2
Estadstica I
Andres M. Alonso
19
Recapitulaci
on
W C
omo obtener
estimadores?
Estadstica I
Andres M. Alonso
20
Tema 3. Estimaci
on puntual
Tema 4. Estimadores de maxima verosimilitud
Generalizaci
on
Tema 5. Intervalos de confianza
Definici
on.
Intervalos de confianza para medias y varianzas en
poblaciones normales.
Intervalos de confianza en muestras grandes.
Determinaci
on del tama
no muestral.
Estadstica I
Andres M. Alonso