Bayesiana

Aulas Pr´ aticas de Inferˆ encia Bayesiana

1

M´ etodos Aproximados
Existem v´arias formas de resumir informa¸c˜ao contida na distribui¸c˜ao a posteriori.

Em inferˆencia, especialmente inferˆencia bayesiana, o processo de estima¸ca˜o muitas vezes envolve a necessidade do c´alculo de integrais n˜ao triviais; por exemplo, no c´alculo de distribui¸co˜es marginais, preditivas e momentos a posteriori dos parˆametros de interesse.
O que vamos ver agora s˜ao alguns m´etodos para aproximar integrais complexas e/ou que n˜ao possuem solu¸c˜oes anal´ıticas.
Observa¸c˜
ao: Sempre que poss´ıvel devemos utilizar solu¸co˜es exatas, isto ´e, n˜ao aproximadas, se elas existem.

2

Problema Geral em Inferˆ encia Bayesiana
E[g(θ)] =

g(θ)p(θ|x)dθ

p(θ 1 |x) =

ou

(esperan¸cas)

2.1

p(θ|x)dθ 2 , se θ = (θ 1 , θ 2 )

(distribui¸co˜es marginais)

Exemplos

1. Constante normalizadora: g(θ) = 1

e

p(θ|x) = kq(θ)

k −1 =

⇒

2. M´edia a posteriori : g(θ) = θ
3. Variˆancia a posteriori : g(θ) = (θ − µ)2 onde µ = E[θ|X = x]
4. Probabilidade de um evento: g(θ) = IA (θ)

⇒

P (A|x) =

p(θ|x)dθ
A

1

q(θ)dθ

3

M´ etodo de Monte Carlo Simples
A ideia do m´etodo ´e justamente escrever a integral que se deseja calcular como um

valor esperado.

3.1

Motiva¸ c˜ ao

Suponha que queremos calcular b g(θ)dθ.

I= a Note que b I=

b

(b − a)g(θ)

g(θ)dθ = a a

1 dθ = (b − a)E[g(θ)], b−a onde

θ ∼ U (a, b).

(ou seja, transformamos o problema matem´atico de avaliar I em um problema estat´ıstico de avaliar uma esperan¸ca.)
Se temos uma amostra aleat´oria de tamanho n da U (a, b), digamos θ1 , ..., θn , podemos estimar I como
1
Iˆ = (b − a) n n

g(θi ). i=1 De fato, note que Iˆ ´e uma estimativa n˜ao-viesada de I, pois
ˆ = (b − a) 1
E[I]
n

n

i=1

1
E[g(θi )] = (b − a) nE[g(θ)] = (b − a)E[g(θ)]. n 2

3.2

Exerc´ıcio

Calcule

3
1

exp{−x}dx.