Simulação de variáveis aleatórias: Métodos e exemplos

Motivacao M. da Transformada Inversa Exemplos do MTI M. da Rejeicao R.
Estocastica
Simulacao de variaveis aleatorias: Parte 1
Prof. Caio Azevedo
Prof. Caio Azevedo

Motivacao M. da Transformada Inversa Exemplos do MTI M. da Rejeicao R. Estocastica
Simular: reproduzir, controlando caractersticas de interesse,

fenomenos reais. Exemplo: avaliar o efeito de um Tsunami numa
parede de concreto.
Simulacao variaveis aleatorias: gerar valores para representar o

comportamento de fenomenos aleatorios.
Aplicacoes: comparar estimadores, comparar modelos, estimar a

distribuicao de uma variavel aleatoria.
Prof. Caio Azevedo

Lembrete
Sempre conferir a qualidade dos valore simulados.
Formas simples:
Calcular momentos amostrais.

Comparar histogramas (curvas de nvel) observados com os teoricos.
Prof. Caio Azevedo

Metodo da transformada inversa (v.a. contnua)
Seja X FX (.; ), FX (.; ) e uma funcao de distribuicao acumulada

(fda) contnua.
Entao Y = FX (X ; ) U(0, 1) (exerccio). OBS: resultado tambem

vale se usar SX (x; ) = 1 FX (x; ) (funcao de sobrevivencia).
Algoritmo para simular uma amostra aleatoria (aa, conjunto de

variaveis independentes e identicamente distribudas) de
X FX (.; ), faca (tambem pode ser usada a SX ( )):
1 Simule ui U(0, 1), i = 1, ..., n.

2 Calcule xi = FX1 (ui ), i = 1, ..., n.
Prof. Caio Azevedo

Exponencial
Seja X exp(), > 0, E(X ) = .
Temos que FX (x) = (1 e x/ )11(0,) (x). Portanto,

x = ln(1 u).
Programa no R:
n<-50
theta <-2
u <- runif(n)
x <- -theta*log(1-u)
Prof. Caio Azevedo

Valores simulados
media = 15.8 , var= 362.77 , n= 40 media = 12.18 , var= 213.81 , n= 50
0.06
0.04
0.04
densidade
densidade
0.02
0.02
0.00
0.00
0 20 40 60 80 100 0 10 20 30 40 50 60
valores valores
0.04
0.03
densidade
densidade
0.02
0.02
0.01
0.00
0.00
0 10 20 30 40 50 60 70 0 50 100 150
valores valores
Prof. Caio Azevedo

Normal truncada
Seja X N[a,b] (, 2 ), R, 2 > 0, a < b.

FY (x)FY (a)
Temos que FX (X ) = FY (b)FY (a) , Y N(, 2 ) (exerccio).
Assim x = FY1 [u (FY (b) FY (a)) + FY (a)].
Temos que

a
b

E(X ) = +
b a

2
a a
b b a b

V(X )= 2 1 +

b

a
b

a

+ +
Prof. Caio Azevedo

Cont.
Programa no R:
v.u <- (runif(n))

aux <- cbind(u*(pnorm(b,mu,sqrt(sigma2))
-pnorm(a,mu,sqrt(sigma2))) + pnorm(a,mu,sqrt(sigma2)))
v.x <- qnorm(aux,mu,sqrt(sigma2))
Prof. Caio Azevedo

Valores simulados

0.8
0.6
0.6
densidade
densidade
0.4
0.4
0.2
0.2
0.0
0.0
0.0 0.5 1.0 1.5 2.0 2.5 0.0 0.5 1.0 1.5 2.0 2.5
valores valores
0.8
0.6
0.6
densidade
densidade
0.4
0.4
0.2
0.2
0.0
0.0
0.0 0.5 1.0 1.5 2.0 2.5 3.0 0 1 2 3 4
valores valores
Prof. Caio Azevedo

Normal multivariada
X Np (, ), Rp , > 0.
Sabemos que X = Z + , = Cholesky(),

i.i.d.
Z = (Z1 , ..., Zn ), Zi N(0, 1), i = 1, ..., p.
x = FZ1 (u) + , u = (u1 , ..., up ).
m.u <- cbind(runif(n))

m.z <- qnorm(m.u)
for (i in 2:p)
{m.u <- cbind(runif(n)) m.z <- cbind(m.z,qnorm(m.u)) }
m.x <- t(chol(m.sigma)%*%t(m.z) + matrix(v.mu,p,n))
Prof. Caio Azevedo

Comentarios
Neste caso, tem-se que Xi N1 (i , i2 ), em que E(Xi ) = i e

V(Xi ) = i2 .
Alem disso, a distancia de Mahalanobis tem distribuicao

qui-quadrado com p graus de liberdade, ou seja:
(X )0 1 (X ) 2p
Prof. Caio Azevedo

Valores simulados
media = 1.19 , var= 3 , n= 100 , p = 3 media = 0.03 , var= 1.41 , n= 100 , p = 3
0.30
0.20
0.20
densidade
densidade
0.10
0.10
0.00
0.00
6 4 2 0 2 4 4 2 0 2 4
valores valores
media = 1.92 , var= 3.76 , n= 100 , p = 3 media = 2.97 , var= 5.16 , n= 100
0.20
0.20
0.15
densidade
densidade
0.10
0.10
0.05
0.00
0.00
2 0 2 4 6 0 2 4 6 8 10 12 14
valores valores
Prof. Caio Azevedo

Metodo da transformada inversa (v.a. discreta)
P
Seja X uma v.a discreta, PX (X = xi ) = pi 11{0,1,2,...} (i), i pi = 1.
Algoritmo para simular uma amostra aleatoria (aa, conjunto de

variaveis independentes e identicamente distribudas) de
X PX (X = i), faca:
Prof. Caio Azevedo

Cont.
1 Simule ui U(0, 1), i = 1, ..., n.

2 Faca

x0 , se u < p0

x1 , se p1 u < p0 + p1
.
xi = ..

Pj1 Pj
i=0 pi u <

xj , se

i=0 pi

..

.

Dado que 0 < a < b < 1, P(a U < b) = b a, temos que

j1
X j
X
P(X = xj ) = P( pi U < pi ) = pj
i=0 i=0
Prof. Caio Azevedo
Bernoulli
Seja X Bernoulli(), (0, 1).
Algoritmo: gere ui , U U(0, 1), i = 1, 2..., n e faca

0, se u >
xi =
1, se u
Prof. Caio Azevedo

Valores simulados
mean = 0.75 var= 0.2 n = 20 mean = 0.72 var= 0.21 n = 50

1.0
1.0
0.8
0.8
0.6
0.6
0.4
0.4
0.2
0.2
0.0
0.0
0 1 0 1
mean = 0.78 var= 0.17 n = 100 mean = 0.764 var= 0.18 n = 500
1.0
1.0
0.8
0.8
0.6
0.6
0.4
0.4
0.2
0.2
0.0
0.0
0 1 0 1
Prof. Caio Azevedo

Binomial
Seja X Binomial(m, ), (0, 1), m conhecido.
Duas formas:
Metodo da transformada inversa. Repetir n vezes: Gerar u, de

U(0, 1), i = 1, .., n e atribuir x = xj se j1
P Pj
i=1 pj u < i=1 pj .
Pm i.i.d.
Representacao estocastica : X = i=1 Yi , Yi Bernoulli().
Repetir n vezes: gerar y1 , ..., ym (usando o metodo da transformada
inversa e fazer x = m
P
i=1 yi .
Prof. Caio Azevedo

Valores simulados
media = 7.1 , var= 1.25 , n= 20 , p = 3 media = 7.26 , var= 1.58 , n= 50 , p = 3

0.5
0.5
0.4
0.4
densidade
densidade
0.3
0.3

0.2
0.2

0.1
0.1

0.0
0.0

5 6 7 8 9 5 6 7 8 9 10
valores valores
0.5
0.5
0.4
0.4
densidade
densidade
0.3
0.3

0.2
0.2

0.1
0.1

0.0
0.0
4 5 6 7 8 9 10 3 4 5 6 7 8 9 10
valores valores
Prof. Caio Azevedo

Poisson
e i
Seja X Poisson(), > 0. pi = P(X = i) = i! 11{0,1,2,...} (i)

Pode-se provar que pi+1 = i+1 pi
Algoritmo:
1 Simule u de U(0, 1).

2 Faca i = 0, p = e , F = p.
3 Se u F, atribua X = i e pare.
p
4 p= i+1
,F = F + p.i = i + 1
5 Va para o passo 3.
Prof. Caio Azevedo

Valores simulados
media = 3.58 , var= 4.13 , n= 30 , lambda = 3 media = 3.08 , var= 3.18 , n= 50 , p = 3

0.5
0.5
0.4
0.4
densidade
densidade
0.3
0.3

0.2
0.2

0.1
0.1

0.0
0.0

0 1 2 3 4 5 6 7 8 0 1 2 3 4 5 6 7 8
valores valores
0.5
0.5
0.4
0.4
densidade
densidade
0.3
0.3

0.2
0.2

0.1
0.1

0.0
0.0
1 2 3 4 5 6 7 0 1 2 3 4 5 6 7
valores valores
Prof. Caio Azevedo

Metodo da rejeicao (v.a. contnua)
Seja X fX (.; ), fX (.; ) e uma funcao densidade de probabilidade

com suporte X ().
Queremos simular de fX . Para isso podemos encontrar um

envelope constante (c 1) e uma densidade envelope gY com
mesmo suporte de X, tal que
fX (x)
c, x X ()
gY (x)
O algotimo da rejeicao pode ser descrito como
1 Simule ui U(0, 1), i = 1, ..., n e y de gy de modo independente.
fX (y )
2 Se u cgY (y )
faca x = y, caso contrario, volte ao Passo 1.
Prof. Caio Azevedo

Beta a = 2 e b =4
X uma va tal que fX (x) = 20x(1 x)3 , Beta(2,4).
Seja gY (y ) = 11(y )(0,1) .

f (x) f (1/4) 135
O maximo de g (x) e obtido para x = 1/4 e assim g (1/4) = 64 .
f (x) 256
Portanto, cg (x) = 27 x(1 x)3
Algoritmo
1 Gere, de modo independentes, u1 e u2 de U(0, 1).
2 Se u2 256
27 1
u (1 u1 )3 faca x = u1 , caso contrario, volte ao passo 1.
Prof. Caio Azevedo

Valores simulados

2.5
2.5
2.0
2.0
densidade
densidade
1.5
1.5
1.0
1.0
0.5
0.5
0.0
0.0
0.0 0.2 0.4 0.6 0.8 0.0 0.2 0.4 0.6 0.8
valores valores
3.0
2.0
1.5
2.0
densidade
densidade
1.0
1.0
0.5
0.0
0.0
0.0 0.2 0.4 0.6 0.8 0.0 0.2 0.4 0.6 0.8 1.0
valores valores
Prof. Caio Azevedo

Gama r = 3/2 e =1
X uma va tal que fX (x) = Kx 1/2 e x 11(x)(0,) , K = 2/sqrt,

gama(3/2,4).
Seja gY (y ) = 23 e 2x/3 11(y )(0,) .

f (x) f (3/2) 33/2
O maximo de g (x) e obtido para x = 3/2 e assim g (3/2) = (2e)1/2
.
f (x)
Portanto, cg (x) = (2e/3)1/2 x 1/2 e x/3
Algoritmo
1 Gere, u1 de U(0, 1) e faca y = 23 ln u1 .
2 Gere u2 de U(0, 1).
3 Se u2 (2ey /3)1/2 e y /3 faca x = y , caso contrario, volte ao passo
1.
Prof. Caio Azevedo
Valores simulados

0.6
0.6
0.4
0.4
densidade
densidade
0.2
0.2
0.0
0.0
0 1 2 3 4 5 6 0 1 2 3 4
valores valores
0.6
0.6
0.4
0.4
densidade
densidade
0.2
0.2
0.0
0.0
0 1 2 3 4 5 6 0 2 4 6 8
valores valores
Prof. Caio Azevedo

Metodo da rejeicao (v.a. discreta)
Seja X fX (.; ), fX (.; ) e uma funcao de probabilidade com

suporte X ().
Queremos simular de fX . Para isso podemos encontrar um

envelope constante (c 1) e uma densidade envelope gY com
mesmo suporte de X, tal que
fX (x)
c, x X (), f (x) 6= 0, g (x) 6= 0
gY (x)
O algotimo da rejeicao pode ser descrito como
1 Simule ui U(0, 1), i = 1, ..., n e y de gy de modo independente.
fX (y )
2 Se u cgY (y )
faca x = y, caso contrario, volte ao Passo 1.
Prof. Caio Azevedo

Variavel aleatorioa discreta
Seja X , P(X = 1) = 1/6, P(X = 0) = 3/6, P(X = 1) = 2/6.
Seja gY (y ) = 13 11(y ){1,0,1}

fX (x) fX (x)
O maximo de gY (x) ocorre para x = 0 e, nesse caso, gY (x) = 9/6
Algoritmo:
1 Simule u1 de U(0, 1) e u2 de U{1,0,1}

2 Se u1 f (u2 )/((9/6)g (u2 )) faca x = u2 , caso contrario, volte ao
passo 1.
Prof. Caio Azevedo

Valores simulados
n= 30 n= 50
0.6

prop.table(table(v.x))

0.4
0.4

0.2
0.2

0.0
0.0
1 0 1 1 0 1
v.x v.x
n= 100 n= 500
0.6
0.5

0.4
0.4

0.3
0.2
0.2

0.1
0.0
0.0
1 0 1 1 0 1
v.x v.x
Prof. Caio Azevedo

Eficiencia do metodo da rejeicao
A eficiencia do metodo da rejeicao e determinada pela probabilidade

de aceitacao 1 .
Quanto menor o valor de c maior sera a eficiencia do metodo.
Em geral, queremos encontrar c,
f (x)
c = maxxX ()
g (x)
Prof. Caio Azevedo

Distribuicao log concava
gama normal truncada

2
0
2
4
4
lpx
lpx
6
6
8
8
10
10
0 10 20 30 40 1.0 1.5 2.0 2.5 3.0 3.5 4.0
x x
Prof. Caio Azevedo

Exemplo: normal truncada f (x) = N[1,] (0, 1)
Neste caso, a distribuicao e log-concava.
Uma densidade candidata e g (x) = be b(xa) 11(a,) (x)
Pode-se provar que

f (x) (bd)1 e (0,5b2 ba) , se b > a,
cb = maxx>a =
be b(xa) (bd)1 e 0,5b2 , se b a

em que d = 2(1 (a)). O primeiro limite e minimizado em

b = (a + a2 + 4)/2 e o segundo em b
b = a. A escolha de b e b .
Prof. Caio Azevedo

Cont.
Algoritmo
1 Gere u1 , u2 de U(0, 1) independentemente e faca y = b1 ln(u1 ) + a

2
+b y (b )2 /2
2 Se u2 e y faca x = y, caso contrario, volte ao passo 1.
Prof. Caio Azevedo

Valores simulados

1.2
1.2
densidade
densidade
0.8
0.8
0.4
0.4
0.0
0.0
1.0 1.5 2.0 2.5 1.0 1.5 2.0 2.5 3.0
valores valores
1.2
1.2
densidade
densidade
0.8
0.8
0.4
0.4
0.0
0.0
1.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 1 2 3 4 5 6
valores valores
Prof. Caio Azevedo

Metodo da amostragem (reamostragem) por importancia
Seja X fX (.; ), fX (.; ) e uma fdp com suporte X ().
Considere uma fdp de amostragem por importancia, com mesmo

suporte de fX (.; ).
1 Simule x1 , ..., xm iid g (x), m >>> n (n tamanho da amostra).

f (xj )
2 Defina r (xj ) = g (xj )
,j = 1, 2, ..., m
3 Selecione, sem reposicao e via reamostragem, da distribuicao
discreta uma amostra de tamanho n.
Prof. Caio Azevedo

Exemplo: Distribuicao definida no intervalo (0,1)
Seja X fX (.; r ),
sinr (x)
f (x) = 11(0,1) (x)
beta(0.5, (r + 1)/2)
Para r = 6, considere g (x) beta(2, 4)

Algoritmo
1 Como definido anteriormente
Prof. Caio Azevedo

Comportamento: f(x) x g(x)

3.0
2.5
g(x)
2.0
f.x
1.5
1.0
f(x)
0.5
0.0
0.0 0.2 0.4 0.6 0.8
v.x
Prof. Caio Azevedo

Valores simulados
n= 30 n= 50
4
4
3
3
densidade
densidade
2
2
1
1
0
0
0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.3 0.4 0.5 0.6 0.7
valores valores
n= 100 n= 500
4
4
3
3
densidade
densidade
2
2
1
1
0
0.2 0.3 0.4 0.5 0.6 0.7 0.2 0.4 0.6 0.8
valores valores
Prof. Caio Azevedo

Representacao Estocastica
Dois vetores aleatorios X e Y tal que X = g (Y).
Simulacao de uma distribuicao beta(a, b).
Simular x1 gama(a, 1) e x2 gama(b, 1).
Faca y = x1 /(x1 + x2 ).
Repetir o processo acima n vezes.
Prof. Caio Azevedo

Programa
Programa
v.x1 <- r1*(runif(n,0,0.5) -

cbind(apply(log(replicate(round(a),runif(n,0,1))),1,sum)))
v.x2 <- r2*(runif(n,0,0.5) -

cbind(apply(log(replicate(round(b),runif(n,0,1))),1,sum)))
v.y <- cbind(v.x1/(v.x1 + v.x2))
Prof. Caio Azevedo

Valores simulados
n= 20 n= 50
3.0
3.0
2.0
2.0
densidade
densidade
1.0
1.0
0.0
0.0
0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8
valores valores
n= 100 n= 500
3.0
3.0
2.0
2.0
densidade
densidade
1.0
1.0
0.0
0.0
0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.2 0.4 0.6 0.8
valores valores
Prof. Caio Azevedo

Beta binomial
Seja X |Y binomial(m, y ) e Y beta(a, b).

R1
Entao X beta-binomial, fX (x) = 0 f (x|y )f (y )dy .
Algoritmo
1 Simular n vezes y de beta(a, b).
2 Dado o vetor y simular x|y de binomial(m, y ).
3 O vetor x tera a distribuicao desejada.
Prof. Caio Azevedo

Programa
Programa
v.x1 <- cbind(rbeta(n,a,b))

v.x2 <- cbind(rbinom(n,m,v.x1))
Prof. Caio Azevedo

Valores simulados

0.5
0.5
0.4
0.4
densidade
densidade

0.3
0.3

0.2
0.2

0.1
0.1

0.0
0.0
0 1 2 3 4 0 1 2 3 4
valores valores
0.5
0.5
0.4
0.4
densidade
densidade

0.3
0.3

0.2
0.2

0.1
0.1

0.0
0.0
0 1 2 3 4 0 1 2 3 4
valores valores
Prof. Caio Azevedo

Outros metodos
Rejeicao adaptativa.
Amostragem condicional.
Metodos especficos (em geral levam em consideracao representacoes

estocasticas e pelo menos um dos algoritmos anteriores).
Prof. Caio Azevedo


Simulação de variáveis aleatórias: Métodos e exemplos

Uploaded by

Document Information

Original Description:

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

Simulação de variáveis aleatórias: Métodos e exemplos

Uploaded by

Copyright:

Available Formats

Motivacao M. da Transformada Inversa Exemplos do MTI M. da Rejeicao R.

Simulacao de variaveis aleatorias: Parte 1

Prof. Caio Azevedo

Prof. Caio Azevedo

Simular: reproduzir, controlando caractersticas de interesse,

Simulacao variaveis aleatorias: gerar valores para representar o

Aplicacoes: comparar estimadores, comparar modelos, estimar a

Prof. Caio Azevedo

Sempre conferir a qualidade dos valore simulados.

Calcular momentos amostrais.

Prof. Caio Azevedo

Metodo da transformada inversa (v.a. contnua)

Seja X FX (.; ), FX (.; ) e uma funcao de distribuicao acumulada

Entao Y = FX (X ; ) U(0, 1) (exerccio). OBS: resultado tambem

Algoritmo para simular uma amostra aleatoria (aa, conjunto de

1 Simule ui U(0, 1), i = 1, ..., n.

Prof. Caio Azevedo

Seja X exp(), > 0, E(X ) = .

Temos que FX (x) = (1 e x/ )11(0,) (x). Portanto,

Prof. Caio Azevedo

media = 15.8 , var= 362.77 , n= 40 media = 12.18 , var= 213.81 , n= 50

Prof. Caio Azevedo

Seja X N[a,b] (, 2 ), R, 2 > 0, a < b.

Prof. Caio Azevedo

v.u <- (runif(n))

Prof. Caio Azevedo

media = 0.7864 , var= 0.4522 , n= 20 media = 0.7405 , var= 0.3244 , n= 50

0.0 0.5 1.0 1.5 2.0 2.5 3.0 0 1 2 3 4

Prof. Caio Azevedo

Sabemos que X = Z + , = Cholesky(),

x = FZ1 (u) + , u = (u1 , ..., up ).

m.u <- cbind(runif(n))

Prof. Caio Azevedo

Neste caso, tem-se que Xi N1 (i , i2 ), em que E(Xi ) = i e

Alem disso, a distancia de Mahalanobis tem distribuicao

Prof. Caio Azevedo

media = 1.19 , var= 3 , n= 100 , p = 3 media = 0.03 , var= 1.41 , n= 100 , p = 3

Prof. Caio Azevedo

Metodo da transformada inversa (v.a. discreta)

Algoritmo para simular uma amostra aleatoria (aa, conjunto de

Prof. Caio Azevedo

1 Simule ui U(0, 1), i = 1, ..., n.

Dado que 0 < a < b < 1, P(a U < b) = b a, temos que

Seja X Bernoulli(), (0, 1).

Algoritmo: gere ui , U U(0, 1), i = 1, 2..., n e faca

Prof. Caio Azevedo

mean = 0.75 var= 0.2 n = 20 mean = 0.72 var= 0.21 n = 50

Prof. Caio Azevedo

Seja X Binomial(m, ), (0, 1), m conhecido.

Metodo da transformada inversa. Repetir n vezes: Gerar u, de

Prof. Caio Azevedo

media = 7.1 , var= 1.25 , n= 20 , p = 3 media = 7.26 , var= 1.58 , n= 50 , p = 3

Prof. Caio Azevedo

1 Simule u de U(0, 1).

Prof. Caio Azevedo

media = 3.58 , var= 4.13 , n= 30 , lambda = 3 media = 3.08 , var= 3.18 , n= 50 , p = 3

Prof. Caio Azevedo

Metodo da rejeicao (v.a. contnua)

Seja X fX (.; ), fX (.; ) e uma funcao densidade de probabilidade

Queremos simular de fX . Para isso podemos encontrar um

Prof. Caio Azevedo

X uma va tal que fX (x) = 20x(1 x)3 , Beta(2,4).