Mtodos de simulacin basados

Leccin 2: Variables Aleatorias

en Cadenas de Markov
Prof. Daisy Arroyo
Universidad de Concepcin
Departamento de Estadstica
Facultad de Ciencias Fsicas y Matemticas

Junio 2017
 Contenido

Cadenas de Markov

Algoritmo de Metrpolis-Hastings

Muestreo de Gibbs
 Ejemplo
Algoritmo Metrpolis
Generar la distribucin -Student con grados de
libertad, usando la distribucin propuesta
.
 Ejemplo
Veremos el efecto de las diferentes elecciones de varianza
de la distribucin propuesta, repitiendo la simulacin con
diferentes elecciones de .

La densidad es proporcional a

Entonces:
 Cdigo
Parmetros: ,
Valor inicial:
Longitud de la cadena:

Metropolis <- function(n, sigma, x0, N) {

x <- numeric(N)
x[1] <- x0
u <- runif(N)
k <- 0
for (i in 2:N) {
y <- rnorm(1, x[i-1], sigma)
if (u[i] <= (dt(y, n) / dt(x[i-1], n)))
x[i] <- y else {
x[i] <- x[i-1]
k <- k + 1
}
}
return(list(x=x, k=k))
}
 Convergencia
La convergencia del algoritmo de Metrpolis a menudo es
sensible a la eleccin del parmetro de escala.

Cuando la varianza de los incrementos es muy grande,

muchos de los puntos candidatos son rechazados y el
algoritmo es muy ineficiente.
Si la varianza del incremento es muy pequeo, los puntos
candidatos son casi todos aceptados, el algoritmo genera una
cadena que es casi como un verdadero, lo cual tambin es
ineficiente.

Un enfoque para seleccionar el parmetro de escala es

monitorear las tasas de aceptacin, los cuales deberan estar en
el rango
 Convergencia
La varianza de la distribucin es

Si consideramos , entonces la desviacin estndar de la

distribucin objetivo es .
Ejemplo
 Comparando cuantiles
En general, los problemas MCMC no tienen los
cuantiles tericos de la distribucin objetivo
disponible para comparar.

Vamos a comparar los resultados del ejemplo con

los cuantiles tericos de la distribucin objetivo.

Descartamos las primeras 500 filas de cada cadena.

 Comparando cuantiles
Los cuantiles son calculados por medio de la funcin
apply (aplicando quantile a las columnas de la
matriz).

a <- c(0.05, seq(0.1,0.9,0.1), 0.95)

Q <- qt(a,n)
w <- c(w1$x, w2$x, w3$x, w4$x)
mc <- w[501:N, ]
Qw <- apply(mc, 2, function(x) quantile(x,a))
print(round(cbind(Q, Qw),3))
 Contenido

Cadenas de Markov

Algoritmo de Metrpolis-Hastings

Muestreo de Gibbs
 Introduccin
El muestreador de Gibbs fue descrito por los hermanos Geman &
Geman (1984) en la aplicacin del anlisis de Gibbs en distribuciones
lattice.

El muestreador Gibbs se aplica a menudo cuando el objetivo es una

distribucin multivariadas.

Supongamos que todas las densidades condicionales univariadas estn

completamente especificadas y es razonablemente fcil tomar
muestras de ellas.

La cadena se genera por muestreo a partir de las distribuciones

marginales de la distribucin objetivo y, por lo tanto, se acepta cada
punto candidato.
 Introduccin
Sea un vector aleatorio.

Definamos vectores aleatorios dimensionales:

( )

Denotamos la correspondiente densidad condicional univariada

de dado ( )

( )

El muestreador de Gibbs genera la cadena por muestreo desde

cada una de las densidades condicionales ( ) .
 Algoritmo
1. Inicializamos por en el tiempo

2. Para cada iteracin indexada repetir

(a) Fijar .
(b) Para cada coordenada

i. Generar desde ( )

ii. Actualizar
(c) Fijar (cada candidato es aceptado)

(d) Incrementar
 Ejemplo
Generar una distribucin normal bivariada con vector media
varianzas , y correlacin usando el
muestreador de Gibbs.
 Ejemplo
En el caso bivariado:

Las densidades condicionales de una distribucin normal

bivariada son univariadas normales con parmetros
 Ejemplo
La cadena es generada por muestreo desde

Para una distribucin bivariada , en cada iteracin el muestreador de

Gibbs:

1. Fija

2. Genera desde

3. Actualiza

4. Genera desde

5. Fija
 Ejemplo

Cadena normal bivariada generada con el Muestreador de Gibbs

 Muestreador de Gibbs en
Geoestadstica
Principio

Se busca simular un vector aleatorio con componentes. La

transicin de un estado al estado siguiente se define como:

1) Seleccionar una componente al azar en

2) Plantear , salvo para la -sima componente, la cual se
simula condicionalmente a las otras componentes. Esto
asegura que la distribucin sea invariante por el ncleo de
transicin.

El ncleo de transicin tambin es aperidico (existe una probabilidad

no nula de seleccionar varias veces consecutivas la misma componente
, luego no puede haber periodicidad). Falta entonces comprobar la
propiedad de irreducibilidad para asegurar la convergencia.
 Muestreador de Gibbs en
Geoestadstica
Si es un vector Gaussiano de media y matriz de
varianza-covarianza , la transicin del muestreador de
Gibbs se define como:

1) Seleccionar una componente al azar en

2) Realizar el kriging simple de la -sima componente de
a partir de las otras componentes. Se obtiene un
valor estimado y una varianza de error.
3) Plantear salvo para la n-sima componente,
la cual se simula como una variable Gaussiana de media
igual al valor estimado por kriging y varianza igual a la
varianza de error de kriging.
 Muestreador de Gibbs en
Geoestadstica
Dado que la densidad de probabilidad Gaussiana es
positiva sobre , se puede pasar de cualquier estado a
cualquier otro en un nmero finito de transiciones. Por
lo tanto, el ncleo de transicin es irreducible y tiene la
distribucin multi-Gaussiana deseada como su lmite
ergdico.
Ejemplo
 Ejemplo
Grilla
 Ejemplo
El muestreador de Gibbs se utiliza para generar valores
Gaussianos correspondientes a litotipos/facies en los puntos de
muestreo (pozos, perforaciones).

Datos Simulado Real

 Referencias
Geof H. Givens and Jennifer Hoeting (2005). Computational
Statistics. Wiley series in Probability and Statistics.

Maria L. Rizzo (2008). Statistical Computing with R. Chapman

& Hall / CRC ISBN 9781584885450