Uma priori informativa é uma distribuição a priori que carrega algum tipo de informação prévia em relação ao parâmetro a qual queremos inferir. Existem diversas formas de obter prioris informativas, cada uma com prós e contras.
Caso tenhamos acesso à opinião de um expert na área a qual o experimento pertence, podemos obter um histograma que quantifica esta crença a fim de iniciar a inferência já com uma priori desenvolvida.
Por exemplo, se queremos inferir algo sobre a probabilidade de se contrair uma doença dependendo da idade do paciente, podemos pedir para um médico avaliar em uma nota de \(0\) a \(10\) a probabilidade de se contrair a doença em cada intervalo de idades \([0,10)\), \([10, 20)\), etc. Posteriormente, normalizamos estas atribuições para que sua soma resulte em \(1\).
Dada a opinião de um expert, a forma mais óbvia de se obter uma priori é simplesmente construir um histograma. Ou seja, para cada intervalo \(I_{i}\) com uma avaliação normalizada \(x_{i}\), podemos tomar como prioi a função por casos \[ f(x) = \begin{cases} x_{0} \ \text{ se } \ x \in I_{0} \\ \vdots \\ x_{n} \ \text{ se } \ x \in I_{n} \end{cases} \] O problema desta priori é que o calculo da posteriori se torna bastante complicado, pois deverá ser também feito em casos e retornará uma outra função em casos. Por isso este método é fortemente desaconselhado.
Uma forma de utilizar o método do histograma de forma mais prática é através da interpolação dos pontos médios de cada torre do histograma.
Ou seja, se \(\bigcup I_{i} = [a,b]\) e \(m_{i}\) são os pontos centrais de cada intervalo \(I_{i}\), interpolamos os pontos \((a, 0), (m_{1}, x_{1}),\dots, (m_{n},x_{n}), (b,0)\) e posteriormente normalizamos o polinômio.
Assim o cálculo da posteriori ao menos não será feito em casos, mas ainda assim a posteriori poderá envolver cálculos complicados.
Se queremos uma priori de uma família de distribuições conhecida, podemos utilizar a opinião do expert para obter uma Estatísticas (bayes.) e então calcular os parâmetros da distribuição1 de forma que a distribuição tenha essa estatística.
Por exemplo, se escolhermos \(\theta \sim \text{Beta}(a,b)\), calculamos a média \(m\) e variância \(v\) da opinião já normalizada do expert. Dessa forma, \[ \begin{cases} \displaystyle m =E[\theta] = \frac{a}{a+b} \\ \displaystyle v =\text{Var}[\theta] = \frac{ab}{(a+b)^2 (a+b+1)} \end{cases} \] Resolvendo o sistema, obtemos os hiperparâmetros \(a\) e \(b\) desejados.
Na escolha da família da priori, é uma boa prática optar por uma priori conjugada à distribuição da observação.
Note que aqui estamos calculando os parâmetros da distribuição do parâmetro que queremos inferir. Estes parâmetros da distribuição do parâmetro são chamados de hiperparâmetros.↩︎