Download Slide 1

Inferencia estadística:
teoría de distribuciones
Tema 1
Itziar Aretxaga
Conceptos básicos de la inferencia estadística
Definiciones:
Espacio de la muestra (Ω) es el conjunto de los posibles valores de un
experimento
Evento (A) es el conjunto de valores tomados por el experimento dentro
del espacio de la muestra. El evento complementario es Ac ≡ Ω − A
Variable aleatoria x(Ai) es una función definida en el espacio de N posibles
eventos Ai.
Función de distribución o probabilidad acumulada, F, es la probabilidad de
que cuando se mide un valor de la variable aleatoria x, éste sea menor o
igual a x’. F es una función monotónicamente creciente.
Si −∞≤x≤∞ es Ω, entonces F(−∞)=0, F(∞)=1.
Probabilidad discreta, Pr, de una variable discreta r, es la frecuencia con
que ocurre r.
Densidad de probabilidad, o función de frecuencia, o función diferencial de
probabilidad, P(x), de una variable continua x, es P(x)=dF/dx, de manera
que la probabilidad de que x tome un valor entre x’ y x’+dx’ sea P(x’)dx’.
Ejemplos de distribuciones de probabilidad
discreta, densidades de probabilidad y
funciones acumuladas de probabilidad:
Probabilidad discreta, en función de
una variable unidimensional,
representada como un histograma
de encasillado irregular.
Probabilidad discreta y su
correspondiente probabilidad
acumulada
Probabilidad discreta
representada como un
histograma bidimensional de
encasillado regular
Densidad de probabilidad
(Figs. © Stuart & Ord, “Kendall´s Advanced Theory of Statistics”)
Conceptos básicos de la inferencia estadística
Axiomas de probabilidad (Kolmogorov):
0 ≤ P(A) ≤ 1
P(Ω) = 1, P(Ø) = 0
si AB ≡ A ∩ B = Ø
P(A U B) = P(A) + P(B)
Ejemplo: cálculo de la probabilidad de que en una tirada de una moneda, salga o águila o sol.
AS = Ø
,
P(A U S) = P(A) + P(S)= ½ + ½ = 1
Independencia:
si P(A|B) = P(A)
P(AB)=P(A)P(B)
Ejemplo: cálculo de la probabilidad de que en dos tiradas de una moneda, salgan dos águilas
P(AA) = ½ × ½ = ¼
Probabilidad condicional:
P(A|B) = P(AB) / P(B)
Ejemplo: cálculo de la probabilidad de que en dos tiradas de una moneda, dada una primera
águila, salga otra águila
P(A|A) = P(AA)/P(A) = ¼ / ½ = ½
Teorema de Bayes
P(B|A)P(A)
P(A|B) = P(B|A) P(A)/P(B) =
P(B|A)P(A) + P(B|Ac)P(Ac)
de lo que se deduce (aunque resulta filosóficamente controvertido),
P(H|X) α P(X|H) P(H)
Función posterior
Función de probabilidad
Función a priori
Éste es el fundamento de la inferencia bayesiana, que deriva la
probabilidad de que una hipótesis H sea cierta, dado un conjunto de
observaciones X.
Ejemplo:
Supongamos que el 90% de las estrellas de un cúmulo estelar se encuentran en la secuencia
principal. Hemos diseñado un método de clasificación estelar, según el cual, el 95% de las
estrellas de secuencia principal son reconocidas como tales, y el 93% de las estrellas que no lo
son, también son reconocidas como no pertenecientes a la secuencia principal. ¿Cuál es la
probabilidad de que nuestra clasificación reconozca una estrella como de secuencia principal, y
que ésta realmente lo sea?
P(X|H) = 0.95
P(Xc|Hc) = 0.93
P(H)=0.90
P(H|X) = 0.95 x 0.90 / (0.95 x 0.90 + 0.07 x 0.10) = 0.9919, es decir,
99.2%
Esperanzas
Esperanza ε(x) de una variable aleatoria x es el valor que esperamos
adopte en promedio.
N
 ( x)   xi P( xi )
si la distribución es discreta
i 1

 ( x)   xP ( x)dx
si la distribución es continua

Esperanzas de uso común:
media
 x  x   (x)
variancia
 2   ( ( x  x ) 2 )   ( x 2 )   2 ( x)
la desviación estándar es σ
covariancia
cov( x, y )   (( x  x )( y  y ))   ( xy)   ( x) ( y )
Propiedad de la covariancia:
Si x e y son independientes
cov(x,y)=0.
Nótese que una covariancia nula no indica necesariamente independencia.
Momentos de una distribución
1er momento: describe el valor central. Se define como

N
1
media
x   xi
o
x   xP( x)dx
N i 1

Otras medidas del valor central son
mediana
si la distribución es continua.
si N es impar
 x( N 1) / 2
xmed  
si N es par
1 / 2( x N / 2  x( N 1) / 2 )
moda xmod es el valor para el cuál la distribución toma su máximo absoluto
siguen un orden alfabético
f ( x) 
(Fig. © Roe, “Probability and Statistics in Experimental Physics”)
dF
dx
Momentos de una distribución
FWHM
2o momento: describe la anchura de la distribución. Se define como

N
1
− variancia, σ 2:
 2   ( xi  x ) 2 o  2   ( x  x ) 2 P( x)dx
N i 1

1/N se debe reemplazar por 1/(N−1) si la media de x no se conoce a priori,
como en las estimaciones experimentales.
Otras medidas de la anchura de la distribución:
− anchura a media altura, FWHM=a−b, tal que P(a)=P(b)=Pmax/2.
Para una gaussiana FWHM=2.3556σ

1 N
− desviación absoluta media, Δx:
 x   xi  x o  x   x  x P( x)dx
N i 1
que es más robusta frente a valores

que se devían mucho de xmod.
− intervalo
R ≡ xmax − xmin,
b
− nivel de confianza al 68.3% [a,b] tal que  P( x)dx  0.683
a
 a
[a,b] es mínimo.
− cuartiles [a,b] tal que  P( x)dx  0.25 y  P( x)dx  0.25

b
y el intervalo
Ejemplo:
(Wall J.V., 1979, Q. Jr. R. Astr. Soc., 20, 138)
Momentos de una distribución
Los momentos de orden superior son menos robustos y, por lo tanto, menos
utilizados
3er momento: describe la asimetría de la distribución.
N
3

(
x

x
)
1

i
i

1
asimetría (skewness)
m3 
o m3   ( x  x ) 3 P( x)dx
3
N


4o momento: describe el aplanamiento de la distribución.
N
4

1 i 1 ( xi  x )
4
kurtosis
m4 
o
m

(
x

x
)
P( x)dx
4
4

N


Se suele medir en una escala que
toma 3 como su cero, ya que éste
es el valor de la kurtosis de una
distribución normal estándar
En general:
1
mk 
N

N
k
(
x

x
)
i
i 1
k
(Figs. © Press et al., “Numerical Recipes”)

o
mk   ( x  x ) k P( x)dx

Distribuciones habituales: binomial
Definición: variable de Bernouilli es aquélla cuyo espacio de muestra sólo
contiene dos resultados.
x
P(x)
1
0
p
q≡1−p
Distribución: si en n intentos se obtienen k aciertos, la distribución de
probabilidad del número de aciertos viene dada por
n
n
n!
k
n−k
P(k) = ( k ) p q
donde (k ) ≡
k! (n-k)!
n=4
k=x=2
p=0.5
Momentos de la distribución:
media
<x> = ∑i xi P(xi) = np
variancia σ 2(x) = ∑i (xi − <x>)2 P(xi) = npq
(Fig. © “Hyperstat Online Textbook”)
Ejemplo: Supongamos que la probabilidad de encontrar una estrella de masa m* >10 M en un
cúmulo estelar joven es del 4%. ¿Cuál es la probabilidad de que en una muestra escogida al azar,
entre 10 miembros del cúmulo encontremos 3 estrellas con m*>10 M?
p=0.04
n=10
k=3
P(3)=10! / 3! / 7! x 0.043 x 0.967 = 0.006, es decir
0.6%
Distribuciones habituales: poissoniana
Definición: proceso poissoniano es aquél compuesto de eventos discretos
que son independientes en el espacio y en el tiempo.
Distribución: si el número de eventos esperados, μ,
en un intervalo de extensión h es μ = λh (λ da la
tasa de eventos por unidad de h), entonces la
probabilidad de que ocurran n eventos en h viene
dada por
μn e−μ
P(n) =
n!
Momentos de la distribución:
media
<x> = ∑i xi P(xi) = μ = hλ
variancia σ 2(x) = ∑i (xi − <x>)2 P(xi) = μ = hλ
Ejemplo: La señal promedio recibida de una fuente es de 10 cuentas (Fig. © Carnegie Mellon, Biological Sci.)
por segundo. Calcular la probabilidad de recibir 7 cuentas en un segundo dado.
h=1
P(7)=107 x e−10 / 7! = 0.09, es decir
9%
n=7
A comparar con la probalidad en el máximo, si te parece baja:
μ=10
P(10)=1010 x e−10 / 10! = 0.125, es decir
12.5%
Moraleja: las probabilidades poissonianas para un número de eventos dado, son siempre
pequeñas, incluso en el máximo de la distribución de probabilidad. Si se desea discutir si el
número de eventos es típico, se debe comparar con la media y la variancia.
Distribuciones habituales: gaussiana
Propiedades: es la distribución más utilizada en las ciencias porque
1. muchas variables aleatorias se pueden aproximar por una distribución
gaussiana (véase el teorema central del límite)
2. es fácil de utilizar matemáticamente
Distribución:
 1 ( x   )2 
1
P( x) 
exp 

2
 2
 2 

La distribución normal estándar: μ=0 y σ=1.
Momentos de la distribución:
media
<x> = ∫ xP(x)dx = μ
variancia σ 2(x) = ∫ (x − μ)2 P(x)dx = σ
Significancias habituales:
1σ: P(μ−σ ≤ x ≤ μ+σ) = 0.683
2σ: P(μ−2σ ≤ x ≤ μ+2σ) = 0.955
3σ: P(μ−3σ ≤ x ≤ μ+3σ) = 0.997
2
(Fig. © Univ. of Georgia, “Hyperphysics”)
(La integral de la distribución
está tabulada en todos los
libros de estadística básica)
Ejemplos: perfil de las líneas de emisión en un espectro unidimensional, perfil radial de objetos
puntuales en una imagen óptica (patrón de dispersión de una imagen puntual), …
Ejemplo: distribución de brillo de
una estrella, patrón de dispersión
de una fuente puntual
(Aretxaga et al. 1999, MNRAS)
Teorema central del límite
Si para cada número entero n, las observaciones x1,x2,...,xn se derivan de
forma independiente de una distribución cualquiera de media μ y variancia
σ2, entonces la suma Sn=x1+x2+ ... +xn es asintóticamente gaussiana, en el
sentido que
 S n  n


P
 z    ( z )
lim
2
n 
 n

donde Φ(z) es una distribución normal estándar.
El teorema también se cumple, en términos menos restrictivos, si las xi
se derivan de ciertas i distribuciones, que pueden ser diferentes entre sí.
En este caso, se deben cumplir varios criterios. Uno de los más comunes
es el criterio de Lindeberg:
 xk si xk  xk   y , k  1,..., n
donde ε es un número prefijado
Sea  k  
 0 si xk  xk   y , k  1,..., n
arbitrariamente. Entonces el teorema es cierto si (1  2  ...  n ) /  y2 n
1

es decir, si la suma no está dominada por fluctuaciones individuales.
Aplicaciones del teorema central del límite
Éste es uno de los teoremas más utilizados en CC Físicas. Debido a él las
distribuciones poissonianas y binomiales se pueden aproximar por una
gaussiana para números grandes de eventos. También la adición de
números generados por cualquier otra distribución forma una distribución
aproximadamente normal.
(Fig. © Roe, “Probability and Statistics in Experimental Physics”)
Excepciones a la aplicación del teorema
Existen situaciones físicas en las que las condiciones para el uso del
teorema central del límite no se cumplen, y por lo tanto una aplicación
ciega del mismo lleva a resultados erroneos.
Ejemplo: scattering múltiple de una partícula (Byron P. Roe, 2001, “Probability and
Statistics in Experimantal Physics”, Springer.)
El proceso de scattering simple resulta en f ( ) d dL 
K d dL
3
2
2
El proceso de scattering múltiple, sin embargo, da f ( ) d dL  exp(  / 2 ) d dL
(Fig. © Roe, “Probability and Statistics in Experimental Physics”)
Distribución gaussiana multidimensional
En dos dimensiones, la distribución centrada en (0,0) tiene la forma:
donde ρ es el coeficiente de correlación, definido por
Los momentos característicos son:
Ejemplo: cálculo de las probabilidades de propiedades intrínsecas atribuibles a galaxias (u otros
objetos) a través de mapas color-color
En general, en p dimensiones, la distribución gaussiana centrada en μ
viene dada por:
donde x es el vector de la muestra (de p dimensiones), μ es su valor medio,
y ∑ es la matriz de correlación entre las variables x
Ejemplo: distribución de redshift derivado de un diagrama color-color
(Aretxaga et al. 2003,MNRAS)
Distribuciones habituales: chi-cuadrado
Definición: sea χ2=z12+z22+...+zf2, donde zi son números generados
independientemente a partir de una distribución normal estándar.
Distribución: la densidad de probabilidad de χ2 con f grados de libertad, se
puede deducir de la distribución normal, y resulta ser
1
1 

P(  ) 
2 ( f / 2)  2
2
2



f
1
2
exp(   2 / 2)
Momentos de la distribución:
media
<χ2> = ∫ xP(x)dx = f
variancia
σ 2(χ2) = ∫ (x − f)2 P(x)dx = 2f (Fig. © Univ. of Arkansas, Community College at Hope)
momento k mk=f (f+2)...(f+2k−2)=<(χ2)k>
Propiedades:
1. es una distribución frecuentemente utilizada para medir desviaciones de
medidas experimentales respecto de un modelo adoptado.
2. cuando f   entonces (  2  f ) / 2 f   ( x) , donde Φ(x) es la
distribución normal estandar. La aproximación es buena para f ≥30.
Distribuciones habituales: F
Definición: sean y1,y2,...,ym e w1,w2,...,wn dos conjuntos de números
independientes derivados de distribuciones normales estándar. Se define la
m
2
distribución F como
y
/m


F  n 1 2
 1 w / n
Distribución: la densidad de probabilidad de F viene dada por
P( F ) 
 m  n  m 

 F 
2

 n 
m
1
2
(m,n)
n / 2m / 2Fm / n  1
que normalmente se expresa
y

 
x
 w
2
2
m n
2
m
1
2
mn
m / 2 1

 x
 2 
P( x) 
( m n) / 2
n / 2m / 2 x  1
(Fig. © NIST/SEMATECH “Engineering Statistics Handbook”)
Propiedades: es una distribución frecuentemente utilizada para comparar
dos conjuntos de datos y su representación de un modelo. Un valor muy
grande o muy pequeño de F indica qué distribución se ajusta mejor a los
datos. Sin embargo es útil estudiar el valor de χ2 para corroborar que ambas
presentan un ajuste razonable.
Distribuciones habituales: t Student
Definición: sea x1,x2,...,xn un conjunto de datos independientes derivados
de una distribución gaussiana de media 0 y variancia σ2. Se define t
x
t

n
2
x
/n
i
i 1
Distribución: la densidad de probabilidad de t viene dada por
P(t ) 
1 (n  1) / 2   t 
1  



n
/
2
n
n

2
 ( n 1) / 2
y la de t2 por la distribución F con m=1.
(Figs. © Eric W. Weisstein)
Propiedades: se utiliza frecuentemente para comparar muestras de una
distribución que se cree que es aproximadamente gaussiana, pero cuya
variancia se desconoce.
P.D.: Student era el sedónimo de W.S. Gosset (1876-1937), un pionero estadista que trabajó en la
Cervecería Guinness de Dublín como químico, y publicó sus resultados bajo seudónimo para
escapar de la política de la compañía, que prohibía publicar a los empleados.
Distribuciones habituales: log normal
Distribución: la densidad de probabilidad de una variable log x distribuída
según una función gaussiana es
 (log x   ) 2 
1

P( x) 
exp  
2
2 x
2
2


1
Momentos de la distribución:
media
<x> = ∫ xP(x)dx = exp(μ+σ2/2)
variancia
σ 2(x) = ∫ (x − <x>)2 P(x)dx = (exp σ
2
−1) exp(2μ+σ 2)
Ejemplo: fotomultiplicadores, que convierten señales débiles de fotones en señales eléctricas.
Sea n0=a0 el número inicial de e− producidos por cada fotón. El número final de fotones tras pasar
por k etapas de fotomultiplicación será nk=Πi ai, de manera que log nk = ∑i log ak. En virtud del
teorema central del límite, log nk se aproxima a una distribución gaussiana para valores grandes
de k, y por lo tanto, nk se aproxima a una distribución log-normal.
Cálculo de errores
En Astronomía se trabaja continuamente con distribuciones de medidas
(flujo, número de objetos, ...)
El error asociado a una cantidad θ=θ(x,y,..,) dependiente de las variables
x,y,..., si éstas no están correlacionadas, y su variancia es pequeña, se
puede aproximar en primer orden por
2
   2    2
2
      x     y  
 x 
 y 
2
Si los errores están correlacionados, y las variancias son pequeñas, viene
dado por
,
 
  
  
Cij    C  
 x 
 x 
i , j 1 xi x j
N
  
2
donde Cij  cov( xi , x j )
Si estas condiciones no se cumplen, entonces hay que recurrir a un Monte
Carlo (véase tema 2) para calcular los errores.
(“Kendall’s Advanced Theory of Statistics I: Distribution Theory”, Stuart & Oed, Edward Arnold
Publ., sección 10.5)
Cálculo de errores
2
   2    2
2
      x     y  
 x 
 y 
2
Ejemplo: cálculo del flujo emitido por una línea espectral.
Flujo entre a y b: L´= ∑i li´ = 1050 x 3 + 1100 x 2+ 1300 = 6650
σL´2 = ∑i li´ = L´
L=650 ±100
Determinación del nivel de continuo: c=1/N ∑i ci = 1/10 ∑110 1000 = 1000
σc2 = 1/N2 ∑i σci2 = 1/N2 ∑i ci = c/N
Continuo bajo la línea: C = 1000 x 6 = 6000 ; σC2 = 62 σc2 = 3600
Línea: L = L´ − C = 6650 − 6000 = 650; σL2 = σL´2 + σC2 = 6650 + 3600
flujo
1200
1150
1100
1050
1000
a
b
λ
Ejemplo de aplicación erronea del cálculo de propagación de errores
(Byron P. Roe, 2001, “Probability and Statistics in Experimental Physics”, Springer)
Algunas veces, los efectos no lineales en la propagación de errores hace que las fórmulas
anteriores dejen de funcionar.
En 1983 F. James revisó los datos de un experimento en el que se había encontrado una masa
no nula para el neutrino e−. La masa se medía a partir de la cantidad R
R
a
 K 2d 
d
a
(b  c)  21 
2
K e
Ke 

donde, sin entrar en detalles, a,b,c,d,e eran cantidades medibles, K era un valor fijo, y si
R<0.420, entonces el neutrino tenía masa. El experimento encontraba R=0.165 con un error
derivado de la propagación lineal de σR=0.073. La conclusión obvia era que el neutrino tenía
masa, ya que R=0.420 se encontaba a 3 sigmas, correpondiendo a una probabilidad de uno en
mil.
Sin embargo, la fórmula para el cálculo de R es fuertemente no lineal, y la fórmula de
propagación podía fallar, especialmente porque los errores de las cantidades medidas eran, en
sí, bastante grandes. Para comprobarlo, James realizó unos cálculos de Monte Carlo
suponiendo que a,b,c,d tenían errores gaussianos independientes entre sí, y evaluó la
distribución de R. Encontró que el 1.5% del tiempo, los resultados daban R>0.42, haciendo el
resultado mucho menos robusto de lo que anteriormente se creía.
En muchos casos prácticos, los errores tienen largas colas de probabilidad, con las que hay
que trabajar con mucho cuidado, sin sobreinterpretar el valor de la desviación cuadrática
media.
Análisis de identidad de dos distribuciones
Test de t-Student: ¿Tienen dos distribuciones la misma media?
Suposiciones: las muestras están derivadas de distribuciones gaussianas
con la misma variancia. Por lo tanto, el test es paramétrico.
Estrategia: medir el número de desviaciones estándar que las separa
(err = σ/√N)
Método: sean las muestras A ≡ {xi}, i=1,...,NA de media xA
B ≡ {xi}, i=1,...,NB de media xB
e igual variancia σ2. Se definen sD y t
1/ 2
x A  xB
 N A ( xi  x A ) 2  N B ( xi  xB ) 2  1


1
t

i 1


sD   i 1

sD
N A  NB  2
N
N


B 
 A

La probabilidad de que t tome un valor así de grande o más viene dada
por la distribución t-Student con n ≡ NA+NB grados de libertad, donde un
valor pequeño significa que la diferencia es muy significante.
 x2 
1 (n  1) / 2
P(t , n) 
dx 1  

n
n (n / 2) t 
t
 ( n 1)
2
Esta función está tabulada en los libros de estadística básica, y se puede
encontrar codificada en la mayoría de las bibliotecas de programación.
(Press et al., “Numerical Recipes”)
Análisis de identidad de dos distribuciones
Variante del test de t-Student: ¿Tienen dos distribuciones la misma
media?
En el caso de que las variancias de las dos muestras sean diferentes,
σA2 ≠ σB2, se definen t y n
t
x A  xB
( A2 / N A   B2 / N B )1/ 2


/ N A   B2 / N B
n 2
( A / N A ) 2 ( B2 / N B ) 2

N A 1
N B 1
2
A
2
donde n no tiene por qué ser un número entero.
La probabilidad de que t sea así de grande o más viene aproximadamente
dada por la misma distribución P(t,n) anterior.
(Press et al., “Numerical Recipes”)
Análisis de identidad de dos distribuciones
Test F: ¿Tienen dos distribuciones diferente variancia?
Suposiciones: las distribuciones son gaussianas. El test es, por lo tanto,
paramétrico.
Estrategia: se analiza el cociente de las variancias y su desviación de la
unidad.
Método: sean las muestras A ≡ {xi}, i=1,...,NA de media xA y variancia σA2
B ≡ {xi}, i=1,...,NB de media xB y variancia
σB2
Se define F ≡ σA2/σB2, donde σA>σB.
La significancia de que la variancia de la distribución A sea mayor que la de
la distribución B viene dada por la distribución F con nA ≡ NA−1 y nB ≡ NB−1
x
grados de libertad en el numerador y denominador:
nB
nA
1
1
donde
(nA  nB ) / 2
P( F nA ,nB )  2
dt t

(nA / 2)(nB / 2) 0
nB / 2
x
nB / 2  F n A / 2
2
(1  t ) 2
La distribución F está tabulada en los libros de estadística básica, y se
encuentra codificada en la mayoría de las bibliotecas de programación.
(Press et al., “Numerical Recipes”)
Análisis de identidad de dos distribuciones
Test Kolmogorov-Smirnov: ¿Son dos distribuciones diferentes?
Suposiciones: las distribuciones son continuas. El test no es paramétrico,
lo que lo hace muy eficaz. Es un test muy popular en Astronomía.
Estrategia: medir la desviación máxima de las distribuciones acumuladas.
Método: sean las muestras A ≡ {xi}, i=1,...,NA
B ≡ {xi}, i=1,...,NB
Se define la distribución acumulada SN(x) ≡ 1/N ∑i f(xi) , donde
{
0 si xi<x
para cada muestra. La diferencia máxima entre ellas
1 si xi≥x
viene dada por D ≡ max |SA(x)−SB(x)|
f(xi) ≡
La significancia de que las dos distribuciones
difieran viene dada aproximadamente por

PKS ( )  2 (1) j 1 exp( 2 j 22 )
donde


j 1

N e  0.12  0.11 / N e D
y Ne=NANB/(NA+NB). La expresión es buena
para Ne≥4 (Stephens 1970) .
Análisis de identidad de dos distribuciones
El test de Kolmogorov-Smirnov no es muy sensible si la diferencia máxima
entre las distribuciones acumuladas ocurre en los extremos de las
mismas.
Para solucionar este problema, se introdujo una variante del test.
Test de Kuiper: ¿Son dos distribuciones diferentes?
Suposiciones y estrategia: las mismas que K-S.
Método: se definen las diferencias máximas por exceso, D+ , y por
defecto, D− , y la diferencia combinada
D ≡ D+ + D− = max [ SA(x) − SB(x) ] + max [ SB(x) − SA(x) ] .
La significancia con la que las dos distribuciones difieren viene dada por
PKP = 2 ∑j (4j2λ2−1) exp(−2j2λ2) ,
donde λ ≡ [ √Ne + 0.155 + 0.24 / √Ne ] D
y
Ne ≡ NANB/(NA+NB)
Análisis de identidad de una distribución observada con una distribución
teórica: tanto KS y KP se pueden aplicar a una sola distribución para
estudiar si se deriva de una distribución teórica P(x). La estrategia es la
misma, y las ecuaciones son válidas, substituyendo SB(x) por P(x) y
haciendo Ne=NA.
(Press et al., “Numerical Recipes”)
(Aragón-Salamanca et al. 1996, MNRAS, 281, 945)
Ejemplo: distribución de galaxias débiles entorno a QSOs
QSOs: 85%
RQ QSOs: 39%
RL QSOs: 99.5%
Análisis de identidad de dos distribuciones
Test Kolmogorov-Smirnov multidimensional:
615; Fasano & Franceschini 1987, MNRAS, 225, 155)
(Peacock 1983, MNRAS, 202,
Dificultad: en una dimensión, K-S es independiente de cómo se ordenan los
datos, pero en N dimensiones, existe más de una forma de ordenarlos.
Estrategia: se consideran las cuatro posibles acumulaciones de los n datos
de una muestra siguiendo los ejes de coordenadas. En 2D, se considera el
número de datos de la muestra que cae en cada cuadrante
(x<Xi, y<Yi), (x<Xi, y>Yi), (x>Xi, y<Yi), (x>Xi, y>Yi) , i=1,...,n,
y se compara con la distribución padre o la distribución de comparación. Se
define DBKS como la diferencia normalizada más grande de entre todos los
cuadrantes y todos los puntos.
En 3D, de igual manera,
(x<Xi, y<Yi, z<Zi), (x<Xi, y<Yi, z>Zi), (x<Xi, y>Yi, z>Zi),
(x>Xi, y<Yi, z<Zi), (x>Xi, y<Yi, z>Zi), (x>Xi, y>Yi, z>Zi), i=1,...,n.
Significancia: formalmente no existe una expresión rigurosa que dé la
probabilidad de que las dos distribuciones difieran. Se han realizado
diversos Monte Carlos con distribuciones en el plano y el espacio que
presentan diferentes niveles de correlación. Fasano & Franceschini (1987)
proveen de tablas y expresiones polinomiales para calcular la diferencia
crítica Zn≡DBKS√Ne que rechaza la identidad de las dos distribuciones, dados
n, CC (coeficiente de correlación) y SL (el nivel de significancia).
Análisis de identidad de dos distribuciones
Cálculo de la dependencia de la
diferencia crítica entre dos
distribuciones 2D con el coeficiente
de correlación de los puntos, el
número de puntos y el nivel de
confianza escogido para rechazar la
hipótesis nula de identidad (Fasano &
Franceschini 1987).
CC 
cov( x, y )
 x y
Modelos de correlación entre los datos explorados
Análisis de identidad de dos distribuciones
Aproximaciones polinomiales a las significancias encontradas en el Monte
Carlo. Estos polinomios están codificados en varios paquetes de análisis
estadístico (ejem. “Numerical Recipes”)
(Wall J.V., 1996, Q. Jr. R. Astr. Soc., 37, 519)
Inferencia clásica frente a inferencia bayesiana
(Loredo T. 1992, en “Statistical Challenges in Modern Astronomy”, ed. Feigelson & Babu,
Springer, http://www.astro.cornell.edu/staff/loredo/bayes/tjl.html)
Dos diferentes interpretaciones del término probabilidad:
• frecuentista: frecuencia con que un cierto resultado se obtiene en la
repetición infinita de un proceso.
• bayesiana: plausibilidad de que una proposición (modelo) pueda dar
cuenta de un conjunto de datos.
En muchas situaciones se obtiene el mismo resultado utilizando las dos
técnicas, pero existen excepciones notables (ejem. Kraft et al. 1991, ApJ, 374,
344).
Los dos métodos son fundamentalmente diferentes. Parten de
concepciones opuestas sobre cuál es la información fidedigna y por
evaluar (modelo o datos). Los cálculos bayesianos discriminan entre
hipótesis plausibles, mientras que los cálculos frecuentistas evalúan la
validez del conjunto de datos dada una hipótesis que se toma como
cierta.
Teorema de Bayes:
P ( H D)  P ( H )
P( D H )
P ( D)
Inferencia bayesiana
Pasos a seguir en la inferencia Bayesiana:
1. Especificar el modelo, o hipótesis a evaluar: en general tendremos
varias Hi a comparar
2. Asignar las probabilidades:
a priori o anterior P(Hi)
anterior predictiva P(D)
de muestreo P(D|Hi)
3. Calcular la probabilidad posterior mediante el teorema de Bayes.
P ( H D)  P ( H )
P( D H )
P ( D)
4. Comparar los resultados entre los diferentes modelos, mediante el
cociente de probabilidades posteriores P(Hi|D)/P(Hj|D), por ejemplo.
Ejemplo: estimación de una media poissoniana
Supongamos que hemos obtenido una medida de n eventos en un intervalo de tiempo T,
y que deseamos inferir la frecuencia de eventos, r .
1.- Especificamos la hipótesis H, de que el proceso es poissoniano con una frecuencia de
eventos 0  r  rmax.
2.- Asignamos probabilidades:
de muestreo:
a priori (anterior):
, que en este caso es una probabilidad no informativa
anterior predictiva:
3.- Aplicamos el teorema de Bayes para calcular la probabilidad posterior:
Si Trmax>> n, entonces la función incompleta gamma se puede aproximar por
y la probabilidad posterior resulta
Para el caso particular en el que se detectan 7 eventos en 1 segundo, la probabilidad de que el
proceso tenga una media de 10 eventos por segundo es del 9%:
(nota: compárese con la probabilidad frecuentista)
P(10 | 7)
(Loredo 1992)
Ejemplo: estimación de una media poissoniana sobre un fondo
Supongamos que hemos obtenido una medida de Non eventos en un intervalo de tiempo
Ton, y que deseamos inferir la frecuencia de eventos de la señal, s , sobre el fondo, b. Se
supone que se puede estimar el fondo de una medida independiente de Noff eventos en un
intervalo Toff.
Toff (bToff ) N off e bToff
p(b | N off ) 
N off !
Como en el caso anterior
Para la medida con señal y fondo conjuntamente:
p( sb | N on )  p( sb)
p( N on | sb)
p( N on | sb)
 p( s | b) p(b)
p( N on )
p( N on )
[( s  b)Ton ]Non e  ( s b )Ton
p( N on | sb) 
N on !
p(s|b) = p(s)= 1/smax
p(b) = p(b | Noff)
}
p(Non) = 1/Tonsmax
donde
es la probabilidad de muestreo
dan la probabilidad a priori
prob. anterior predictiva (
)
Para calcular la probabilidad posterior de la señal, hay que marginar el parámetro b,
calculando p(s|Non) =  db p(sb|Non). Realizando la expansión del término (s+b)Non se
encuentra
 N  i )!
i (N
Non
p ( s | N on )   Ci
i 0
i
Ton ( sTon ) e
i!
 sTo n
(1  Toff / Ton )
, Ci 
on
off
( N on  i )!
Non
( N  N off  j )!
(1  Toff / Ton ) j on

( N on  j )!
j 0
(Loredo 1992)
Se debe resaltar que éste es un cálculo ambiguo bajo la inferencia frecuentista, aunque hay
algunas publicaciones con aproximaciones no libres de inconsistencias (O’Morgain, 1973,
Nature, 241, 376; Cherry et al. 1980, ApJ, 242, 1257)
♦ Ejemplo: medida en la que b ≥ n (Kraft et al. 1991, ApJ, 374,344) — inconsistencias de los
cálculos frecuentistas.
Supóngase que b de conoce por un método alternativo con una gran precisión
• Cálculo frecuentista para constreñir s:
Existen muchos métodos propuestos que no son correctos desde el punto de vista del
planteamiento real del problema (véase Kraft et al.). Lo que sí es correcto, es calcular los
límites de confianza (CL) de un s+b dado, con la función de probabilidad
e  s s N s e  b s N b e  ( s  b ) ( s  b) n
P ( n)  

, donde n  N s  N b
N
!
N
!
n
!
N s , Nb
s
b
y substraer a estos el b previamente determinado.
•
Cálculo bayesiano:
No existe ninguna ambigüedad en el planteamiento del problema. Se deben calcular los CL de
la densidad de la probabilidad posterior P(s| n,b)
1
 n e  b b i  e  ( s  b ) ( n  b) n
P( s nb)  

n!
 i 0 i! 
El intervalo de s para diferentes valores de CL, n, b se encuentra tabulado, aunque es simple
calcularlo al resolver los CL con la expresión anterior.
(Kraft et al. 1991)
La comparación de ambos métodos indica que el cálculo frecuentista incurre en
contradicciones cuando n<b, ya que los límites superiores de los CL llegan a ser negativos.
Sin embargo, para casos en que b<n, los límites calculados son prácticamente iguales.
bayesiana
bayesiana
frecuentista
frecuentista
(Kraft et al. 1991)