seleccion bayesiana de modelos aplicada al anova usando ...

Universidad Tecnológica de la MixtecaSelección bayesiana de modelos aplicada al ANOVAusando distribuciones a priori intrínsecasTesis para obtener el título de:Licenciado en Matemáticas AplicadasPresenta:Iván Méndez GarcíaDirectora de Tesis:M. C. Norma Edith Alamilla LópezHuajuapan de León, Oaxaca. Febrero del 2007

vi. Dedicatoria

En ciertos problemas, el conocimiento inicial sobre el verdadero valor delparámetro θ puede ser muy débil, o vaga, ésto ha llevado a generar un tipo dedistribuciones iniciales llamada distribuciones a priori no informativas, lascualesreflejan un estado de ignorancia inicial.Las ventajas principales del enfoque bayesiano son su generalidad y coherencia,pues todos los problemas de inferencia se resuelven con los principios decálculo de probabilidades y teoría de decisión. Además, posee una capacidad deincorporar información a priori adicional que se tenga del parámetro, a la muestra.Esta última también es una desventaja, pues algunos investigadores rechazanque la información inicial se incluya en un proceso de inferencia científica. Peroesta situación se puede evitar estableciendo una distribución a priori no informativao de referencia, la cual se introduce cuando no se posee mucha informaciónprevia acerca del problema.A un problema específico se le puede asignar cualquier tipo de distribución apriori, ya que finalmente al actualizar la información a priori que se tenga acercadel parámetro, mediante el teorema de Bayes y obtener la distribución a posterioridel parámetro, es con ésta distribución con la que se hacen las inferencias acercadel mismo.Se analizará el problema de contraste de hipótesis. El contraste de hipótesisconstituye una técnica inferencial cuyo objetivo es comprobar la plausibilidad dedos hipótesis estadísticas contrapuestas mediante la formulación e interpretaciónde una regla de decisión.Desde el enfoque clásico o frecuentista esta regla de decisión esta basada en lascaracterísticas del estadístico de contraste y en las de su distribución muestral, yla evaluación de las hipótesis se realiza en términos de las probabilidades de dostipos de error. Estas probabilidades de error representan la “casualidad” de quese observe una muestra para la cual el contraste acepte la hipótesis errónea.Desde el enfoque bayesiano la tarea de evaluación de las hipótesis resultaconceptualmente más sencilla. La regla de decisión se basa en el cálculo de lasprobabilidades a posteriori de las hipótesis contrastadas y su evaluación dependede los resultados obtenidos. La ventaja conceptual de este último análisis es quedichas probabilidades a posteriori son las verdaderas probabilidades de las hipótesisque reflejan los datos observados y la distribución a priori.Se abordará el problema de contraste de hipótesis asumiendo que las varianzasde las distribuciones normales son distintas, pero cuyo cociente es conocido, a esteprocedimiento se le conoce como análisis de varianza bajo heterocedasticidad; asítambién se analizará el análisis de varianza bajo homocedasticidad, el cual a diferenciadel anterior se supone que las varianzas de las distribuciones normales soniguales. Se han propuesto distintos procedimientos de contraste pero la mayoríade ellos han sido tema de controversia respecto a su validez o utilidad.3

4 Capítulo 1. IntroducciónAunque las probabilidades a posteriori de las hipótesis son las principalesmedidas en los problemas de contraste, se abordará un concepto de gran interés:el factor de Bayes; el cual utilizaremos para la comparación de modelos.En el contexto de selección de modelos o comparación de modelos, éste seconsidera como un problema estadístico. Existen diferentes criterios para resolverel problema. En Bernardo y Smith (1994) se plantean tres criterios de éstos.El primero, el cual es llamado criterio M-cerrado, se cree que uno de los modelos{M i ,i∈ I}, es el verdadero, sin el conocimiento explicito de cuál de ellos es elverdadero modelo. Desde este criterio tiene sentido asignar probabilidades a losmodelos, cuyas probabilidades son las que cree el estadístico, por su experienciaque tiene acerca de los mismos.El segundo criterio es el llamado M-completo, corresponde a una actuación individual,como si {M i ,i∈ I}, fuera un conjunto de modelos específicos, disponiblespara comparación de modelos. Desde esta perspectiva no tiene sentido asignarprobabilidades a los modelos.El tercer criterio, llamado M-abierto, también se considera que el conjunto demodelos son simplemente un rango de modelos específicos, disponibles para comparación,tampoco tiene sentido asignarles probabilidades a los modelos, puestoque no se tiene creencia de que el verdadero modelo esté en el conjunto considerado.En nuestro caso, se trabajará con el criterio M-cerrado. Considerando el criterioM-cerrado, tradicionalmente los procedimientos para la solución de problemasde selección de modelos se basan en los llamados Factores de Bayes. El interésha sido desarrollado cuando se trabaja con distribuciones a priori impropias, yaque éstos no están definidos, con éste tipo de distribución a priori. Hay algunosmétodos propuestos por Aikin(1991), O’Hagan (1995), Berger y Pericchi (1996),entre otros, los cuales tratán de resolver éste problema.Aikin (1991), propone el uso de medias de las distribuciones a posteriori de laverosimilitud bajo cada modelo en lugar de la usual media inicial. Aikin, reiteraque el uso de la media final tiene una gran ventaja, incluyendo la reducción devariación en la distribución a priori. Sin embargo éste procedimiento ha sidocriticado severamente por algunos estadísticos entre ellos Lindley, quien dice queéste no es recomendable, él propone un ejemplo en donde el uso de los factoresde Bayes finales, dan un resultado ilógico e inconsistente, el lector interesado eneste caso puede consultar la discusión.O‘Hagan (1995) describe para comparación de modelos una alternativa a losfactores de Bayes parciales, los cuales ofrecen una solución del problema eliminandoparte de los datos y tomando ésta como una muestra adicional. Estamuestra adicional es usada para obtener una distribución a posteriori informativaque se supone inicial de los parámetros en cada modelo, calculando entonces los

6 Capítulo 1. IntroducciónEn el cuarto capítulo, se analizarán los “factores de Bayes intrínsecos”. Comoes bien sabido, en el enfoque bayesiano para problemas de selección de modelosy contraste de hipótesis la herramienta principal son los factores de Bayes. Enel caso en que al definir los factores de Bayes, se usa una distribución a prioriimpropia, éstos quedan bien definidos salvo una constante multiplicativa. Los“factores de Bayes intrínsecos” (FBI), definidos por Berger y Pericchi (1996),es un método interesante para resolver dicho problema, por lo que se hace unanálisis exhaustivo del método.En el capítulo cinco, se hará un análisis de varianza desde el enfoque bayesianoasumiendo homocedasticidad, así como también un análisis de varianza desde elenfoque bayesiano asumiendo heterocedasticidad.Por último se presentan las conclusiones, así como algunos comentarios. Tambiénse incluye al final una sección de la notación y abreviaturas usadas en éstatesis.Para las soluciones numéricas de este trabajo se usó el paquete computacionalMathematica.

Capítulo 2Conceptos básicos2.1. Probabilidad subjetivaEl concepto clásico de probabilidad envuelve una larga secuencia de repeticionesde una situación dada. Por ejemplo decir que una moneda legal (balanceada)tiene probabilidad 1/2 de caer cara cuando fue lanzada, quiere decir que,en una serie larga de lanzamientos independientes de la moneda, el resultadocara ocurre aproximadamente la mitad de las veces. Desafortunadamente, esteconcepto frecuentista no es suficiente cuando se asignan probabilidades alrededorde una varia-ble aleatoria θ. Por ejemplo, consideremos el problema de intentardeterminar θ, la proporción de fumadores en alguna ciudad de México. ¿Qué significaque P (0.3

8 Capítulo 2. Conceptos básicossimple para calcular probabilidades subjetivas es comparar eventos determinandoprobabilidades relativas. Es decir, por ejemplo, si queremos encontrar P (E),simplemente comparamos E con E c (el complemento de E). Si es dos veces masfactible que ocurra E que E c , entonces claramente P (E) = 2 3 y P (Ec )= 1 3 .2.2. Distribuciones a priori no informativas2.2.1. IntroducciónLas distribuciones a priori no informativas reflejan un estado de ignoranciainicial. Por ejemplo, en el contraste de dos hipótesis simples, la distribución apriori que asigna una probabilidad de 1/2 a cada hipótesis, podría considerarseno informativa . Un ejemplo más complejo sería el siguiente:Ejemplo 2.1 Supóngase que la variable de interés es una normal con media θ,además que el espacio del parámetro es Θ =(−∞, ∞). Siunadensidadapriorino informativa es deseada, es razonable dar pesos iguales a todos los posiblesvalores de θ. Desafortunadamente, si π(θ) =c>0 es elegida, entonces π(θ)tiene masa infinita (esto es R π(θ)dθ = ∞) y esta no es una densidad propia.Sin embargo, se puede trabajar con tal π(θ), satisfactoriamente. La elección dec no es importante, además típicamente la densidad a priori no informativa paraeste problema es elegida como π(θ) =1. Frecuentemente la llamamos la densidaduniforme sobre R 1 , la cual fue introducida por Laplace (1812).Como en el ejemplo anterior, con frecuencia ocurre que la distribución a priorino informativa natural es una distribución a priori impropia, es decir, que tiene“masa infinita”.Enseguida consideraremos el problema de determinar distribucionesapriorinoinformativas.La situación más simple es considerar cuando Θ es un conjunto finito, consistentede n elementos. La distribución a priori no informativa obvia es asignaracadaelementodeΘ una probabilidad de 1/n. Uno puede generalizar esto aΘ infinito, dando a cada θ ∈ Θ densidades iguales, llegando a la distribución apriori no informativa uniforme π(θ) ≡ c. Esta distribución fue introducida porLaplace (1812) y fue criticada duramente debido a una falta de invarianza bajotransformación (ver Jefreys (1983)).Ejemplo 2.2 En lugar de considerar θ, supóngase que el problema ha sido parametrizadoen términos de η =exp{θ}. Ésta es una transformación uno a uno. Perosi π(θ) es la densidad para θ, entonces la correspondiente densidad para η es(nótese que el Jacobiano de la transformación es dθ/dη = d log η/dη = η −1 )π ∗ (θ) =η −1 π(log η).

2.2. Distribuciones a priori no informativas 9Por lo tanto, si la distribución a priori no informativa para θ es elegida comouna constante, debemos elegir la distribución a priori no informativa para η proporcionala η −1 para mantener consistencia. No podemos mantener consistenciay elegir para ambas distribuciones a priori no informativas θ y η, que sean constantes.2.2.2. Distribuciones a priori en problemas de localizaciónyescalaLos esfuerzos para derivar distribuciones a priori no informativas considerandolos problemas de invarianza bajo transformación comenzaron con Jeffreys (1961).Definición 2.1 (Parámetros de localización). Supóngase que χ y Θ son subconjuntosde R p , y que la densidad de X es de la forma f(x − θ) (esto es, solodepende de (x − θ)). La densidad entonces se dice que es una densidad de localización,y θ es llamado un parámetro de localización (o en algunas ocasiones unvector de localización cuando p ≥ 2).Ejemplo 2.3 La distribución normal con media θ yvarianzaσ 2 (N (θ, σ 2 )), conσ 2 fija; la distribución t con alfa grados de libertad, parámetro de localización µ yparámetro de escala σ 2 (t(α, µ, σ 2 )), con α y σ 2 fijo; y la normal p-variada, conmedia µ y matriz de covarianza P , (N p (θ, P )) con P fija, son todas ejemplos dedensidades de localización. Además, una muestra de variables aleatorias i.i.d. sedice que tiene una densidad de localización si su densidad común es una densidadde localización.Para derivar una distribución a priori no informativa para esta situación,imagine que, en lugar de haber observado X, hemos observado la variable aleatoriaY = X +c (c ∈ R p ). Definiendo η = θ +c, es claro que Y tiene densidad f(y − η).Si ahora χ = θ = R p , entonces el espacio muestral y el espacio paramétrico paralos (Y,η) están también en R p . Los problemas (X, θ) y(Y,η), son idénticos enestructura, y es razonable insistir en que ellos tienen la misma distribución apriori no informativa.Sea π y π ∗ que denotan las distribuciones a priori no informativas en losproblemas (X, θ) y (Y,η), respectivamente, el mismo argumento implica que π yπ ∗ deben ser iguales, esto esP π (θ ∈ A) =P π∗ (η ∈ A) (2.1)para cualquier conjunto A en R p . Mientras η = θ + c, debe ser verdadero (por unsimple cambio de variables) que

2.2. Distribuciones a priori no informativas 11(Y,η). Los dos problemas son idénticos en estructura, lo cual nuevamente indicaque ellos deben tener la misma distribución a priori no informativa.Sea π y π ∗ que denotan las distribuciones a priori no informativas en losproblemas (X, σ) y (Y,η), respectivamente, esto quiere decir que la igualdadP π (σ ∈ A) =P π∗ (η ∈ A)debe cumplirse para todo A ⊂ (0, ∞). Mientras que η = cσ, debe ser verdaderoqueP π∗ (σ ∈ A) =P π (σ ∈ c −1 A)donde c −1 A = {c −1 z : z ∈ A}. De lo anterior tenemos que se debe satisfacerP π (σ ∈ A) =P π (σ ∈ c −1 A). (2.4)Esta ecuación se debe cumplir para toda c > 0. Cualquier distribución π(θ)para la cual esto es verdadero es llamada escala invariante. Rescribiendo (2.4)(asumiendo densidades) comoZZZπ(σ)dσ = π(σ)dσ = π(c −1 σ)c −1 dσ.Ac −1 AConcluimos que para todo A ytodaσ debe ser verdadero queAEligiendo σ = c, se tiene queπ(σ) =c −1 π(c −1 σ).π(c) =c −1 π(1).Tomando π(1) = 1 por conveniencia y notando que la igualdad debe ser para todoc>0, se sigue que una distribución a priori no informativa razonable para unparámetro de escala es π(σ) =σ −1 . Observe que ésta además es una a distribucióna priori impropia, esto es que R ∞0σ −1 dσ = ∞.2.2.3. Distribuciones a priori no informativas en conjuntosgeneralesPara problemas más generales, se han hecho varias propuestas para determinardistribuciones a priori no informativas . El método usado más ampliamenteconsiderado es el propuesto por Jeffreys (1961), que eligeπ(θ) =[I(θ)] 1/2 (2.5)

2.2. Distribuciones a priori no informativas 132.2.4. La distribución marginalSi X tiene una densidad de probabilidad f(x|θ), y θ tiene una densidad deprobabilidad π(θ), entonces la densidad conjunta de X y θ esh(x, θ) =f(x|θ)π(θ).Definición 2.3 La densidad marginal de X esZm(x) =Θ⎧ R⎪⎨ f(x|θ)π(θ)dθΘf(x|θ)dF π (θ) = P⎪⎩ f(x|θ)π(θ)La cual se le conoce como densidad marginal a priori.Θ(caso continuo)(caso discreto).(2.7)2.2.5. La distribución a posterioriEl análisis bayesiano se hace combinando la información a priori π(θ) ylainformación muestral x dando como resultado la así llamada distribución a posterioride θ dado x, sobre la cual se basan todas las decisiones e inferencias.La distribución a posteriori de θ dado x, sedefine como la distribución condicionalde θ dada la observación x, ysedenotaporπ(θ|x). Nótese que la densidadconjunta de θ y X esh(x, θ) =π(θ)f(x|θ)y que la densidad marginal de X esZm(x) =Además es claro que (con m(x) 6= 0),Θf(x|θ)π(θ)dθ.h(x, θ)π(θ|x) =m(x) .Así como la distribución a priori refleja nuestra creencia acerca de la distribución apriori θ antes de la experimentación, π(θ|x) reflejalacreenciaacercadeθ despuésde haber observado la muestra x.Ejemplo 2.7 Supóngase que X ∼ N (θ, σ 2 ), donde θ es desconocida pero σ 2 es

14 Capítulo 2. Conceptos básicosconocida. Sea π(θ) una N (µ, τ 2 ), donde µ y τ 2 son conocidos. Entoncesh(x, θ) = π(θ)f(x|θ) =( √ ( " #)2πτ) −1 exp − 1 (θ − µ) 2( √ 2πσ) −12 τ 2½× exp − 1 ∙ ¸¾ (x − θ)22 σ(2"#)= (2πστ) −1 exp − 1 (θ − µ) 2 (x − θ)2+ .2 τ 2 σ 2Para encontrar m(x), notequedefinimosy completando cuadrados obtenemos"(θ − µ) 2ρ = τ −2 + σ −2 = τ 2 + σ 2τ 2 σ 2#1(x − θ)2+2 τ 2 σ 2= 1 ∙ θ 2 − 2µθ + µ 2+ x2 − 2xθ + θ 2 ¸2 τ 2 σ 2= 1 ∙µ 12 τ + 1 ³ µθ 2 − 22 σ 2 τ + x ´ µ ¸ µ2θ +2 σ 2 τ + x22 σ 2= 1 ∙2 ρ θ 2 − 2 ³ µρ τ + x ´ ¸θ + 1 µ µ22 σ 2 2 τ + x22 σ 2= 1 ∙2 ρ θ − 1 ³ µρ τ + x ´¸2− 1 ³ µ 2 σ 2 2ρ τ + x µ ´2 1 µ2+ 2 σ 2 2 τ + x22 σ 2= 1 ∙2 ρ θ − 1 ³ µρ τ + x ´¸2− τ µ 2 σ 2 σ 2 µ + τ 2 2x+ 1 µ σ 2 µ 2 + τ 2 x 22 σ 2 2(τ 2 + σ 2 ) τ 2 σ 2 2 τ 2 σ 2= 1 ∙2 ρ θ − 1 ³ µρ τ + x ´¸2− τ µ 2 σ 2 σ 4 µ 2 +2σ 2 τ 2 xµ + τ 4 x 22 σ 2 2(τ 2 + σ 2 )τ 4 σ 4+ 1 µ σ 2 µ 2 + τ 2 x 22 τ 2 σ 2³ µτ + x ´¸2− σ4 µ 2 +2σ 2 τ 2 xµ + τ 4 x 22 σ 2= 1 2 ρ ∙θ − 1 ρ= 1 ∙2 ρ θ − 1 ³ µρ τ + x ´¸22 σ 2+ σ2 µ 2 + τ 2 x 22(τ 2 + σ 2 )τ 2 σ 2 2τ 2 σ 2+ (σ2 µ 2 + τ 2 x 2 )(τ 2 + σ 2 ) − (σ 4 µ 2 +2σ 2 τ 2 xµ + τ 4 x 2 )2(σ 2 + τ 2 ) τ 2 σ 2

22 Capítulo 2. Conceptos básicosde mínimos cuadrados X =(X 1 ,X 2 ), dondeX 2 =SSY =nX(Z i − ¯Z)(Y i − Ȳ )/SSY, X 1 = ¯Z − X 2 Ȳ,i=1nX(Y i − Ȳ ) 2 , ¯Z = 1 ni=1nXZ i , y Ȳ = 1 ni=1nXY i ,i=1por lo tanto, X ∼ N 2 (θ, σ P 2 ), donde⎛XnP1 = ⎝ 1 yn i2 −ȳi=1SSY−ȳ 1⎞⎠ .Silaapriorinoinformativaπ(θ) =1se usa para θ, la distribución a posteriori,π(θ|x), es N 2 (θ, σ P 2 ).Supóngase que ahora se desea predecir el futuro de Z correspondiente a uny dado. Claramente g(z|θ) es entonces N (θ 1 + θ 2 y, σ 2 ), y la densidad conjuntade (z, θ) dado x es normal. La distribución predictiva p(z|x), es la distribuciónmarginal de Z de la distribución a posteriori normal conjunta, esta marginal debeser una distribución normal, y los cálculos nos dan una media de (x 1 + x 2 y) yvarianza V = σ 2 (1 + n −1 +(ȳ − y) 2 /SSY ).Esta distribución predictiva puede usarse para cualquier decisión de inferenciabayesiana. Por ejemplo, un conjunto creíble al 100(1 − α)% de Z debe ser³(x 1 + x 2 y)+z( α 2 )√ V, (x 1 + x 2 y) − z( α ´2 )√ V .

Capítulo 3Contraste de hipótesis y análisisde varianza3.1. Contraste de hipótesisEn el contraste de hipótesis clásico se especifica la hipótesis nula H 0 : θ ∈ Θ 0y la hipótesis alternativa H 1 : θ ∈ Θ 1 . Un procedimiento de contraste es evaluaren término de probabilidades los errores tipo I y tipo II. Estas probabilidades delos errores representan la posibilidad de que una muestra observada para dichoprocedimiento de contraste pueda ser rechazada o no rechazada.En análisis bayesiano la decisión entre H 0 y H 1 es conceptualmente másfácil. Esencialmente se calcula la probabilidad a posteriori α 0 = P (Θ 0 |x) yα 1 = P (Θ 1 |x) y se decide entre H 0 y H 1 respectivamente. La ventaja conceptuales que α 0 y α 1 son las probabilidades (subjetivas) actuales de las hipótesisen base a los datos y a la opinión a priori.Definición 3.1 La proporción α 0 /α 1 es llamada la razón de probabilidad a posterioride H 0 contra H 1 , y π 0 /π 1 es llamado la razón de probabilidad a priori(donde π 0 y π 1 son las probabilidades a priori de Θ 0 y Θ 1 ). La cantidadB =razón de probabilidad a posteriorirazón de probabilidad a priori= α 0/α 1π 0 /π 1= α 0π 1α 1 π 0es llamado el factor de Bayes en favor de Θ 0 .El interés en el factor de Bayes es que algunas veces puede ser interpretadocomo “la razón para H 0 contra H 1 dado los datos”. Esta interpretación esclaramente válida cuando las hipótesis son simples, esto es, cuando Θ 0 = {θ 0 } y23

24 Capítulo 3. Contraste de hipótesis y análisis de varianzaΘ 1 = {θ 1 }, entoncesα 0 =π 0 f(x|θ 0 )π 0 f(x|θ 0 )+π 1 f(x|θ 1 ) , α 1 =α 0= π 0f(x|θ 0 )α 1 π 1 f(x|θ 1 )π 1 f(x|θ 1 )π 0 f(x|θ 0 )+π 1 f(x|θ 1 ) ,y B = α 0π 1α 1 π 0= f(x|θ 0)f(x|θ 1 ) .En otras palabras, B es entonces justamente la razón de verosimilitud de H 0contra H 1 , que es comúnmente vista como la probabilidad de H 0 contra H 1 queesta dada por los datos.En general, B dependerá de la distribución a priori de entrada. Para exploraresta dependencia, es conveniente escribir la distribución a priori como⎧⎨ π 0 g 0 (θ) si θ ∈ Θ 0 ,π(θ) =(3.1)⎩π 1 g 1 (θ) si θ ∈ Θ 1 ,donde g 0 y g 1 son densidades a priori (propias) las cuales describen, como lamasa a priori se extiende sobre las dos hipótesis. (Recordemos que π 0 y π 1 sonlas probabilidades a priori de Θ 0 y Θ 1 ). Con esta representación se puede escribirα 0α 1=RRR Θ 0dF π(θ|x) (θ)Θ 1dF π(θ|x) (θ) = R Θ 0f(x|θ)π 0 dF g 0(θ)/m(x)= π 0Θ 1f(x|θ)π 1 dF g 1 (θ)/m(x)RR Θ 0f(x|θ)dF g 0(θ)π 1 Θ 1f(x|θ)dF g 1 (θ)por lo tantoRB = R Θ 0f(x|θ)dF g 0(θ)Θ 1f(x|θ)dF g 1 (θ)el cual es la razón de verosimilitud de Θ 0 contra Θ 1. Por lo cual g 0 y g 1 no puedenser interpretadas como una medida del soporte relativo para la hipótesis proporcionandosolamente los datos. Algunas veces, B puede ser relativamente insesgadopara elecciones razonables de g 0 y g 1, en tal caso la interpretación es razonable.La ventaja operacional principal de tener tal factor de Bayes estable es que un reportecientífico puede proporcionar este factor de Bayes, y cualquier lector puededeterminar su probabilidad a posteriori personal, simplemente multiplicando elfactor de Bayes proporcionado por la probabilidad personal a priori.Ejemplo 3.1 (continuación del ejemplo 2.6) Supóngase que el individuo al cualse le hace la prueba de inteligencia, es clasificadoenrazóndesuCI,quepuedeser menor o igual que el CI medio (menor que 100) o mayor que el CI medio(más grande que 100). Formalmente, se tomará una decisión para contrastar H 0 :θ ≤ 100 contra H 1 : θ>100. Recordando que la distribución a posteriori de θ es

3.1. Contraste de hipótesis 25N (110.39, 69.23), estandarizando los resultados y usandotablasdeladistribuciónnormal estándar, obtenemos queα 0 = P (θ ≤ 100|x) =0.106, α 1 = P (θ >100|x) =0.894,y por lo tanto la razón de probabilidad a posteriori es α 0 /α 1 =8.44. Ademásπ 0 = P π (θ ≤ 100) = 1 = π 2 1 y la razón de probabilidad a priori es 1. (Noteque una razón a priori de probabilidades de 1 indica que H 0 y H 1 son vistascomo igualmente probables inicialmente). El factor de Bayes es entonces B =α 0 π 1 /(α 1 π 0 )=8.44.3.1.1. Contraste de hipótesis unilateralUn contraste de hipótesis unilateral ocurre cuando Θ ⊂ R 1 , éste contraste notiene una característica especial. El interés esta en que es una de las pocas situacionesde contraste clásico para el cual el uso del valor-p tiene una justificaciónbayesiana. Considérese el siguiente ejemplo.Ejemplo 3.2 Cuando X ∼ N (θ, σ 2 ) y θ tiene la distribución a priori no informativaπ(θ) =1, se puede ver que π(θ|x) es N(x, σ 2 ). Consideremos ahora lasituación de contraste H 0 : θ ≤ θ 0 contra H 1 : θ>θ 0 . Entoncesα 0 = P (θ ≤ θ 0 |x) =Φ((θ 0 − x)/σ),donde, nuevamente Φ es la función de distribución acumulada de una normal estándar.El valor-p clásico contra H 0 es la probabilidad cuando θ = θ 0 , de observarun X “más extremo” que el dato x actual. Aquí el valor-p puede servalor − p = P (X ≥ x) =1− Φ( x − θ 0).σPor la simetría de la distribución normal, se sigue que α 0valor-p contra H 0 .es igual que el3.1.2. Contraste de hipótesis nula puntualEs muy común en la estadística clásica plantear un contraste de la formaH 0 : θ = θ 0 contra H 1 : θ 6= θ 0 . Tal contraste de hipótesis nula puntual esinteresante, particularmente porque el enfoque bayesiano contiene algunas característicasoriginales, pero principalmente porque las respuestas bayesianas difierenradicalmente de las respuestas clásicas. Antes de discutir este tema, se deben haceralgunos comentarios acerca de este tipo de hipótesis. Primero, los contraste de

26 Capítulo 3. Contraste de hipótesis y análisis de varianzahipótesis nula puntual son comúnmente realizados en situaciones inapropiadas.En realidad nunca se dá el caso que se considere la posibilidad que θ = θ 0 exactamente.Más razonable sería la hipótesis nula que θ ∈ θ 0 =(θ 0 − b, θ 0 + b),donde b>0 es alguna constante elegida tal que todo θ ∈ θ 0 pueda considerarse“indistinguible” de θ 0 .Dado que uno debe contrastar H 0 : θ ∈ (θ 0 − b, θ 0 + b), necesitamos saber¿cuándo es adecuada la apoximación de H 0 por H 0 : θ = θ 0 ? Desde la perspectivabayesiana, la respuesta es “la aproximación es razonable si la probabilidad aposteriori de H 0 está cerca de la igualdad en ambos contrastes”. Una condiciónfuerte es que la función de probabilidad sea aproximadamente constante en (θ 0 −b, θ 0 + b).Ejemplo 3.3 Sea X 1 , ..., X n una muestra aleatoria con una distribución N (θ, σ 2 )donde σ 2 es conocida. La función de verosimilitud observada es entonces proporcionala una densidad N (¯x, σ 2 /n) de θ. Estopuedeserconstanteen(θ 0 −b, θ 0 +b)cuando b es pequeña comparada con σ/ √ n. Porejemplo,enuncasointeresantedonde es una prueba clásica z = √ n |¯x − θ 0 | /σ más grande que 1, la función deverosimilitud puede variar no más del 5% en (θ 0 − b, θ 0 + b) sib ≤ (0.024)z −1 σ/ √ n.Cuando z =2, σ =1, y n =25,estoimponelacotab ≤ 0.024. Note que el límiteen b, depende de |¯x − θ 0 | , así como de σ/ √ n.Para realizar un contraste bayesiano la hipótesis nula puntual H 0 : θ = θ 0 , nose puede usar una distribución a priori continua. Pues tal distribución a prioriy la distribución a posteriori darán una probabilidad de cero. Una aproximaciónrazonable es dar a θ 0 una probabilidad positiva π 0 mientras que a θ 6= θ 0 ladensidad π 1 g 1 (θ), donde π 1 =1− π 0 y g 1 es propia. Uno puede pensar a π 0 comolamasaqueseleasignaríaalahipótesisH 0 : θ ∈ (θ 0 − b, θ 0 + b).La densidad marginal de X esZm(x) = f(x|θ)dF π (θ) =f(x|θ 0 )π 0 +(1− π 0 )m 1 (x),dondeZm 1 (x) = f(x|θ)dF g 1(θ),(θ6=θ 0 )es la densidad marginal de X con respecto a g 1 . Por lo tanto la probabilidad a

3.2. Análisis de varianza 27posteriori de que θ = θ 0 esπ(θ 0 |x) = f(x|θ 0)π 0m(x)f(x|θ 0 )π 0=f(x|θ 0 )π 0 +(1− π 0 )m 1 (x)∙= 1+ (1 − π 0) m 1 (x)·π 0 f(x|θ 0 )¸−1.(3.2)Note que esto es α 0, yqueα 1 =1− α 0 es por lo tanto la probabilidad aposteriori de H 1 . Así la razón a posteriori de probabilidades es (recordar queπ 1 =1− π o )α 0α 1=yelfactorH 0 contra H 1 esπ(θ 0|x)1 − π(θ 0 |x) = π 0 · f(x|θ 0 )π 1 · m 1 (x)3.1.3. Contraste de hipótesis múltipleB = f(x|θ 0 )/m 1 (x). (3.3)La característica interesante del contraste de hipótesis múltiple es que no esmás difícil que un contraste de dos hipótesis, desde una perspectiva bayesiana.Uno simplemente calcula la probabilidad a posteriori de cada una de las hipótesis.Ejemplo 3.4 (continuación del ejemplo 2.6). Considerando que el individuo alcual se le hace la prueba de inteligencia es clasificado de acuerdo a su CI, en pordebajo del promedio CI (menos que 90), el promedio CI (90 a 110) o por encimadel CI promedio (más que 110). Llamando a estas tres regiones como Θ 1, Θ 2, y Θ 3 ,respectivamente, y recordando que la distribución a posteriori es N(110.39,69.23),estandarizando los resultados y usando tablas de la distribución normal estándar,obtenemos que para x =115: P (Θ 1 |x =115)=0.007, P(Θ 2 |x =115)=0.473 yP (Θ 3 |x =115)=0.520.Lo anterior nos indica que el nivel de inteligencia (CI) del individuo encuestión, está por encima del CI medio.3.2. Análisis de varianzaEn múltiples ocasiones el analista o investigador se enfrenta al problema dedeterminarsidosomásgrupossoniguales,sidosomáscursosdeacciónarrojanresultados similares o si dos o más conjuntos de observaciones son parecidos.

3.2. Análisis de varianza 31En sentido práctico, µ representa un efecto medio global, calculado al combinar lask medias poblacionales. Note que si los tamaños muestrales son iguales, entoncesµ es simplemente el promedio de las k medias poblacionales. Puesto que d i es ladiferencia entre la media global µ y la media de la i − ésima población, d i mideel efecto del i − ésimo tratamiento. Advierta que:kXn i d i =i=1kXn i (µ i − µ) =i=1kXn i µ i − Nµ =0,por sustitución, el modelo de clasificación unidireccional con efectos fijos puedeexpresarse en cualquiera de las tres formas siguientes:Modelo de efectos fijosdeclasificación unidireccionalY ij = µ i + ε ijY ij = µ +(µ i − µ)+(Y ij − µ i )Y ij = µ + d i + ε ij .Estos modelos expresan matemáticamente la idea de que cada respuesta puededividirse en tres componentes reconocibles, como sigue:i=1dondeY ij = µ +(µ i − µ)+(Y ij − µ i )ó Y ij = µ + d i + ijY ijEs la respuesta de la j − ésima unidad experimental ali − ésimo tratamientoµ Es la respuesta media global(µ i − µ o d i ) Es la desviación respecto de la media global, debido a quela unidad recibió el i − ésimo tratamiento(Y ij − µ i o ij ) Es la desviación aleatoria respecto de la i − ésima mediapoblacional debido a influencias aleatorias.La hipótesis nula de medias de tratamiento iguales puede expresarse de maneraalternativa al tomar nota de que si µ 1 = µ 2 = ... = µ k , entonces:Xn iµ = n i µ i /N = Nµ i /N = µ i para cada i =1, ..., ki=1y d i = µ i − µ =0para cada i. Ello implica que verificares equivalente a probar:H 0 : µ 1 = µ 2 = ... = µ kH 0 : d 1 = d 2 = ... = d k =0.

3.2. Análisis de varianza 33puesto que:asíXn ij=1(Y ij − Ȳ i+ ) =Xn ij=1ÃP nij=1Y ij − n i Ȳ i+ = n Y !iji − n i Ȳ i+n i= n i Ȳ i+ − n i Ȳ i+ =0kX Xn i(Y ij − Ȳ ++ ) 2 =i=1 j=1kXn i (Ȳ i+ − Ȳ ++ ) 2 +i=1kX Xn i(Y ij − Ȳ i+ ) 2i=1 j=1se tiene la llamada identidad de la suma de cuadrados del análisis de varianzade clasificación unidireccional. Cada uno de los componentes de esta identidadpuede interpretarse de manera que tenga sentido. En particular,kX Xn i(Y ij − Ȳ ++ ) 2 = Medida de la variabilidad de los datosi=1j=1= Suma de cuadrados total (SC Tot )kXn i (Ȳ i+ − Ȳ ++ ) 2 = Medida de la variabilidad de los datos atribuida ali=1hecho de que se usan diferentesnivelesdefactoreso tratamientos= Suma de cuadrados de los tratamientos (SC Tr )kX Xn i(Y ij − Ȳi+) 2 = Medida de la variabilidad de los datos atribuida a lai=1j=1fluctuación aleatoria entre los sujetos de un mismonivel de factor= Residuo o suma de cuadrados de error (SCE).De manera simbólica, la identidad de la suma de cuadrados puede escribirse como:SC Tot = SC Tr + SCE.En caso de existir diferencias entre las medias poblacionales, se espera que en granparte de la variación en las respuestas se deba al hecho de que se usan tratamientosdistintos. En otras palabras, se espera que SC Tr sea grande en comparación conSCE. En los procedimientos del análisis de varianza, se usa esta idea para probar

34 Capítulo 3. Contraste de hipótesis y análisis de varianzala hipótesis nula de medias de tratamientos iguales mediante la comparación de lavariación de los tratamientos (SC Tr ) contra la variación del tratamiento (SCE)con una razón F apropiada.A fin de considerar una razón F apropiada, deben considerarse los valoresesperados de las estadísticas SC Tr y SCE. Ello requiere suponer en el modeloque los errores aleatorios ij son variables aleatorias normalmente distribuidas eindependientes, cada una con media 0 yvarianzaσ 2 . Por principio de cuentas,tome nota de que para cada i:Ȳ i+ =Xn ij=1(µ + d i + ij )/n iPn i µ + n i d i + n i=n i= µ + d i +¯ i+ .Además, puesto que P ki=1 n id i =0, se tiene:Ȳ ++ =kX Xn iY ij /N =i=1j=1 ijj=1kX Xn i(µ + d i + ij )/Ni=1j=1= Nµ+ P ki=1 n id i + P k P nii=1 j=1 ijN= µ +¯ ++ .Luego de sustituir, es posible rescribir SC Tr como se muestra:SC Tr ==kXkXn i (Ȳ i+ − Ȳ ++ ) 2 = n i [(µ + d i +¯ i+ ) − (µ +¯ ++ )] 2i=1i=1kXn i (d i +¯ i+ − ¯ ++ ) 2 =kXkXkXn i d 2 i +2 n i d i¯ i+ + n i¯ 2 i+ − N¯ 2 ++.i=1i=1i=1i=1Al tomar el valor esperado de cada término se tiene:E[SC Tr ]=kXkXn i d 2 i +2 n i d i E[¯ i+ ]+i=1i=1kXn i E[¯ 2 i+] − NE[¯ 2 ++]i=1

3.2. Análisis de varianza 35pero E[¯ 2 i+] =σ 2 /n i pues⎡E[¯ 2 i+] = E ⎣ÃniXj=1 ij /n i! 2⎤⎦ = E⎡⎣ÃniXj=1 ij! 2⎤⎦ /n 2 i= 1 n 2 iE[ 2 i1 + 2 i2 + ... + 2 in i+ i1 i2 + i1 i3 + ... + i1 ini + i2 i1 + i2 i3 + ... + i2 ini+... + ini i1 + ... + ini ini −1]= 1 [σ 2 + σ 2 + ... + σ 2 ]= n iσ 2= σ2.n 2 in 2 i n iPuesto que E[ 2 ij] =E[(Y ij − µ i ) 2 ]=σ 2 y E[ ij ]=E[(Y ij − µ i )] = E[Y ij ] − µ i =µ i − µ i =0.Un argumento similar muestra que E[¯ 2 ++] = σ2 . Es fácil ver que E[¯ N i+] =0.AsíE[SC Tr ] =kXn i d 2 i +i=1= (k − 1)σ 2 +kXi=1σ 2n i − N σ2n i NkXn i d 2 i .Luego de dividir SC Tr entre k − 1, se obtiene el estadístico llamada cuadradomedio del tratamiento, que se denota CM Tr . Dicho de otra manera:i=1CM Tr = SC Tr /(k − 1).Se puede apreciar que E[CM Tr ]=σ 2 + P ki=1 n id 2 i /(k − 1). Recuerde que la sumade los cuadrados de los residuos ayuda a estimar σ 2 en el contexto de regresión.Lo mismo es válido aquí. A fin de obtener un estimador insesgado de σ 2 , sedivide la suma de cuadrados de los residuos SCE entre N − k . Es un estimadordenominado cuadrado medio del error y se denota con CM E . En otras palabras:CM E = SCE/(N − k).¿Cómo usar CM Tr y CM E para probar H 0 ?Afin de responder a esta preguntabasta tomar en cuenta que si H 0 es verdadera, entonces d 1 = d 2 = ... = d k =0y,por ende, P ki=1 n id 2 i /(k − 1) = 0. En caso de que H 0 no sea verdadera, entonceseste término es positivo. Así pues, en el primero de estos dos casos, se esperaríaque CM Tr y CM E tengan valores cercanos, ya que con ambas se estima σ 2 ,

36 Capítulo 3. Contraste de hipótesis y análisis de varianzamientras que en el segundo cabría esperar que la primera sea un tanto mayorque la segunda. Para probar la hipótesis nula H 0 : µ 1 = µ 2 = ... = µ k contra lahipótesis alternativa H 1 : µ i 6= µ j para algunas i y j se usaF k−1,N−k = CM Tr /CM E ,como estadístico de prueba lógico. Si H 0 es verdadera, se espera que su valor seacercano a 1, y en cualquier otro caso, que sea mayor que 1. Esta razón puedeusarse como estadística de prueba, puesto que si la hipótesis nula es verdadera,se sabe que tiene distribución F ,conk − 1 y N − k grados de libertad. La pruebasiempre es de cola derecha, con rechazo de H 0 en el caso de valores de la variablealeatoria F k−1,N−k que parecen demasiado grandes para haber ocurrido al azar.Es posible que los valores de F = CM Tr /CM E sean menores que la unidad ya queF es una variable aleatoria. Dicho resultado puede ocurrir únicamente por azaro causa de que el modelo lineal supuesto sea incorrecto. Aunque en la práctica esusual que el análisis de varianza se efectue mediante computadora, se cuenta conalgunosatajosdecálculo.Teorema 3.1SC Tot =kX Xn iYij 2 − T ++2Ni=1j=1SC Tr =kX Ti+2− T ++2ni=1 i NSCE = SC Tot − SC Tr .Demostración 1 Por definición se tiene queSC Tot = SC Tr + SCE ===kXi=1i=1kXn i (Ȳ i+ − Ȳ ++ ) 2 +i=1n i (Ȳ 2i+ − 2Ȳ i+ Ȳ ++ + Ȳ 2 ++)+kXµ T2n i − 2Ȳ ++−2i+n 2 ikXT i+ Ȳ i+ +i=1kXi=1kX Xn i(Y ij − Ȳ i+ ) 2i=1j=1kX Xn i(Yij 2 − 2Y ij Ȳ i+ + Ȳ 2i=1j=1kXn i Ȳ i+ + NȲ++ 2 +i=1n i Ȳ 2i+kX Xn ii=1j=1Y 2iji+)

3.2. Análisis de varianza 37=====kXi=1−2i=1T 2i+kX− 2Ȳ ++ n i Ȳ i+ + NȲ++ 2 +n ikXi=1j=1T 2i+n i+kXi=1i=1kX Xn iYij 2 − 2Ȳ++kX Xn iYij 2 − 2Ȳ++i=1i=1j=1j=1n i Ȳ 2i+kXi=1n iT i+n ikX Xn ii=1+ NȲ 2 ++ −kXT i+ + NȲ ++ 2 =i=1kX Xn iYij 2 − 2 T ++N T ++ + N T ++2 kXN = 2kX Xn iYij 2 − T ++2N ,i=1j=1i=1i=1j=1kXi=1j=1Y 2ijT 2i+n i+kXi=1n iT 2i+n 2 ikX Xn iYij 2 − 2Ȳ++T ++ + NȲ ++2Xn ij=1Yij 2 − 2 T ++2N + T ++2Nporloquequedademostradalaecuación1.Paralaecuación2tenemosquekXkXSC Tr = n i (Ȳ i+ − Ȳ ++ ) 2 = n i (Ȳi+ 2 − 2Ȳ i+ Ȳ ++ + Ȳ++)2======i=1kXµ T2n ii=1kXi=1kXi=1kXi=1kXi=1kXi=1i+n 2 iTi+2− 2Ȳ++n iTi+2− 2 T ++n i N− 2Ȳ++kXi=1i=1kXn i Ȳ i+ + NȲ ++2i=1n iT i+n i+ NȲ 2 ++kXiT i+ + Ni=1Ti+2− 2 T ++n i N T ++ + T ++2NTi+2− 2 T ++2n i N + T ++2NTi+2− T ++2n i Nµ T2++N 2Por lo tanto se cumple la ecuación 2. La ecuacion 3 es solo un despeje de SC Tot =SC Tr + SCE.¥

38 Capítulo 3. Contraste de hipótesis y análisis de varianzaLas ideas teóricas subyacentes al procedimiento de análisis de varianza en elcaso del modelo de efectos fijosdeclasificación unidireccional se resume en lasiguiente tabla.Tabla 3.2.ANOVA para clasificación unidireccional con efectos fijosF. de var. G.l S.C C.M CME FTrat. o nivel k − 1kPi=1Ti+2n i− T ++2NSC Trk−1Error o residuo N − k SCESCETotal N − 1kP P nij=1 Y ij 2 − T ++2Ni=1σ 2 + P k n i d 2 ii=1 k−1N−kσ 2CM TrCM Edonde G.l son los grados de libertad, S.C la suma de cuadrados, C.M cuadradomedio y CME cuadrado medio esperado.ElusodelarazonF se ilustra con la continuación del análisis de los datosdel carbón iniciado en el ejemplo 3.5.Ejemplo 3.7 Se ponen a pruebaH 0 : µ 1 = µ 2 = µ 3 = µ 4 = µ 5oH 0 : d 1 = d 2 = d 3 = d 4 = d 5 =0con base en los datos previos. Recuerde que µ i , i=1,2,3,4,5, denota el contenidomedio de azufre de las cinco vetas de carbón principales de una región geográfica.Se tienen las estadísticas de resumen siguientes:T 1+ =11.62 T 4+ =7.04 n 1 =7 n 4 =8T 2+ =9.36 T 5+ =8.8 n 2 =9 n 5 =10T 3+ =13.14 T ++ =49.96 n 3 =9 N =42La única estadística adicional necesaria es P 5i=1P nij=1 Y 2ij. En relación con losdatos del ejemplo 3.5, esta estadística asume el valor 67.81. Luego de sustituir en

3.2. Análisis de varianza 39las fórmulas de cálculo, se obtiene:SC Tot =SC Tr =5X Xn iYij 2 − T ++2Ni=15Xi=1j=1Ti+2− T ++2n i N=67.861 −(49.96)242= (11.62)2 + (9.36)2 + (13.14)2 + (7.04)27 8 9 8= 3.935SCE = SC Tot − SC Tr =8.432 − 3.935 = 4.497CM Tr = SC Trk − 1 = 3.935 =0.9844CM E = SCEN − k = 4.497 =0.122.37=8.432+ (8.8)210− (49.96)242El valor observado de la estadística de prueba F k−1,N−k = F 4,37 es:F 4,37 = CM TrCM E= 0.9840.122 =8.066.Puesto que f 0,05 (4,37) . =2.626, es posible rechazar H 0 con p

40 Capítulo 3. Contraste de hipótesis y análisis de varianzaparticular cuando los tamaños muestrales difieren mucho. Antes de emprender elanálisis de varianza, es necesario probar las hipótesis:H 0 : σ 2 1 = σ 2 2 = ... = σ 2 kH 1 : σ 2 i 6= σ 2 j para algunas i y j.Si se rechaza H 0 , se debe usar un análisis no paramétrico o realizar una transformaciónde los datos con la esperanza de estabilizar las varianzas. La prueba másusada para poner a prueba la hipótesis nula de varianzas iguales es la prueba deBartlett. La prueba de Bartlett se inicia con el cálculo de las varianzas muestralesS1,S 2 2, 2 ..., Sk 2 de cada una de las k muestras. También se determina el cuadradomedio del error, la estimacion ponderada de σ 2 bajo el supuesto de que la hipótesisnula es verdadera. En este contexto, resulta conveniente el cálculo directo deCM E a partir de las varianzas muestrales individuales, mediante la ecuación:CM E = S 2 p =kXi=1(n i − 1)S 2 iN − k .Luego se forma la estadística Q, definida por:Q =(N − k)log 10 S 2 p −kX(n i − 1) log Si 2 .i=1El valor esperado de ésta estadística es grande cuando las varianzas muestralesS 2 i ,i=1, 2,...,k son muy distintas, y es cercano a 0 si dichas varianzas tambiénguardan cercanía en sus valores. Para probar la hipótesis nula H 0 : σ 2 1 = σ 2 2 =... = σ 2 k contra la hipótesis alternativa H 1 : σ 2 i 6= σ 2 j para algunas i y j, se usa elestadístico de Bartlett definido por:dondeh =1+B =2.3026Q/hà kX13(k − 1)i=1A continuación se mostrará el uso de esta prueba.!1n i − 1 − 1 .N − kEjemplo 3.8 Nuevamente regresemos a los datos de las vetas de carbón del ejemplo3.5. Deben calcularse las varianzas muestrales y sus logaritmos para cada unode los cinco niveles del factor. Los resultados de esos cálculos se resumen a continuación:

3.2. Análisis de varianza 41veta de carbón varianza muestral (Si 2 ) log 10 S 2 i Tamaño muestral (n i )1 0.175 -0.757 72 0.144 -0.842 83 0.115 -0.939 94 0.123 -0.910 85 0.074 -1.131 10La estimación agrupada de σ 2 es:kXCM E = Sp 2 (n i − 1)Si2 =N − kpor sustitución, se tiene:yi=16(0.175) + 7(0.144) + 8(0.115) + 7(0.123) + 9(0.074)=42 − 5= 0.122,Q = (N − k)log 10 S 2 p −kX(n i − 1) log Si2i=1= 37log 10 0.122−[6(−0.757) + 7(−0.842) + 8(−0.939) + 7(−0.910) + 9(−1.131)]= 0.692,Ã kX!11h = 1+3(k − 1) ni=1 i − 1 − 1N − k= 1+ 1 ∙ 13(4) 6 + 1 7 + 1 8 + 1 7 + 1 9 37¸− 1= 1.055.El valor observado de la estadística de Bartlett es:B = 2.3026Q/h= 2.3026(0.692)/1.055= 1.510.Basado en la distribución ji − cuadrada, X 2 k−1 = X2 4, el valor-p se ubica entre0.75 y 0.9. Puesto que es un valor grande resulta imposible rechazar:H 0 : σ 2 1 = σ 2 2 = σ 2 3 = σ 2 4 = σ 2 5.

42 Capítulo 3. Contraste de hipótesis y análisis de varianza3.3. Análisis de varianza bidireccionalSe recurre al procedimiento llamado uso de bloques cuando se pretende compararlas medias de k poblaciones en presencia de una variable extraña. Un bloquees un conjunto de k unidades experimentales tan parecidas como sea posible enlo relativo a la variable extraña. Cada tratamiento asigna aleatoriamente a unaunidad de cada bloque. Puesto que el efecto de la variable extraña se controlacon el emparejamiento de unidades experimentales similares, toda diferencia enla respuesta se atribuye a los efectos del tratamiento.El diseño experimental analizado en esta sección se llama diseño de bloquescompletos aleatorizados con efectos fijos. En dicha expresión, bloques se refiere aque las unidades experimentales se emparejan en lo concerniente a una variableextraña; aleatorizados, a que los tratamientos se asignan de manera aleatoria alinterior de los bloques, y completo, a que cada tratamiento se usa exactamenteuna vez en cada bloque. La expresión “efectos fijos” es aplicable a los bloquesy tratamientos, es decir, se supone que ni los bloques ni los tratamientos seseleccionan al azar. Todas las inferencias elaboradas se aplican únicamente a losk tratamientos y b bloques usados realmente.La hipótesis que interesa es la de media de tratamientos iguales, dada por:H 0 : µ 1+ = µ 2+ = ... = µ k+donde µ k+ denota la media del i − ésimo tratamiento.En cuanto a la notación, Y ij denota la respuesta del i−ésimo tratamiento en elj−ésimo bloque, con i =1, 2, ..., k y j =1, 2, ..., b. Advierta que b indica el númerode bloques usado en el experimento y el número de observaciones por tratamiento;k denota el número de tratamientos que se estudia y el de observaciones porbloque, y N = kb, el número total de respuestas. Los datos recopilados en unexperimento de bloques completos aleatorizados y algunas estadísticas muestralesimportantes se presentan de manera conveniente en la siguiente tabla:Tabla 3.4.Disposición de datos de bloques completos aleatorizadosTratamientoBloque 1 2 3 ··· k Bloq.tot. Med.delbloque1 Y 11 Y 21 Y 31 Y k1 T +1 Ȳ +12 Y 12 Y 22 Y 32 Y k2 T +2 Ȳ +23 Y 13 Y 23 Y 33 Y k3 T +3 Ȳ +3. . . . . ..b Y 1b Y 2b Y 3b Y kb T +b Ȳ +bTot. del trat. T 1+ T 2+ T 3+ ···Med. del trat. Ȳ 1+ Ȳ 2+ Ȳ 3+ ···T k+Ȳ k+T ++Ȳ ++

3.3. Análisis de varianza bidireccional 43Note que:T i+ = totaldetodaslasrespuestasali − ésimo tratamiento =Ȳ i+ = media muestral del i − ésimo tratamiento = T i+ /bkXT +j = total de respuestas del j − ésimo bloque =Ȳ +j = media muestral del j − ésimo bloque = T +j /kT ++ =kX bX kXtotaldetodaslasrespuestas = Y ij = T i+ =i=1j=1Ȳ ++ = mediadetodaslasrepuestas = T ++ /N.3.3.1. El modeloEn la redacción del modelo del diseño de bloques completos aleatorizados conefectos fijos, se requiere la notación siguiente:µ ij = media del i − ésimo tratamiento al j − ésimo bloquebXµ i+ = media del i − ésimo tratamiento= µ ij /bµ +j = media del j − ésimo bloque=µ = media global =kXi=1bXµ ij /kbj=1j=1kXµ ij /kτ i = µ i+ − µ = efecto debido al hecho de que la unidad experimentalrecibió el i − ésimo tratamientoβ j = µ +j − µ = efecto debido al hecho de que la unidad experimentalestá en el j − ésimo bloque ij = Y ij − µ ij = error residual o aleatorio.i=1i=1i=1Y ijbXj=1bXj=1Y ijT +jAhora, es posible expresar el modelo como sigue:Modelo para el diseño de bloques completos aleatorizadosY ij = µ + τ i + β j + ij .

44 Capítulo 3. Contraste de hipótesis y análisis de varianzaEste modelo expresa simbolicamente el concepto de que cada observación se puededividir en cuatro componentes reconocibles: la media de efecto global µ, el efectode tratamiento τ i , el efecto de bloque β j y una desviación aleatoria ij que seatribuye a fuentes inexplicadas. Se tienen los siguientes supuestos del modelo:1. Las k ·b observaciones constituyen muestras aleatorias independientes, cadauno de tamaño 1, de k · b poblaciones con medias desconocidas µ ij .2. Cada una de las k · b poblaciones tienen distribución normal.3. Cada una de las k · b poblaciones tienen la misma varianza, σ 2 .4. Los efectos de bloque y tratamiento son aditivos, es decir, no existe interacciónde los bloques con los tratamientos.Los supuestos 1-3 son idénticos a los del modelo de clasificación unidireccional,salvo que se consideran k · b, no k, poblaciones. Afirmarquelosefectosdebloquey tratamiento son aditivos significa que los tratamientos tienen comportamientoconstante de un bloque a otro, y los bloques lo tienen de un tratamiento a otro.En lo matemático, esa naturaleza aditiva significa que:µ ij = µ + τ i + β j= µ +(µ i+ − µ)+(µ +j − µ).Al sustituir, puede reescribirse el modelo teórico como sigue:µ ij − µ = τ i + β j= (µ i+ − µ)+(µ +j − µ)+ © µ ij − £ µ +(µ i+ − µ)+(µ +j − µ) ¤ª .El remplazo de los parámetros con sus estimadores insesgados respectivos lleva a:Y ij −Ȳ++ =(Ȳi+−Ȳ++)+(Ȳ+j−Ȳ++)+ © Y ij − £ Ȳ ++ +(Ȳi+ − Ȳ++)+(Ȳ+j − Ȳ++) ¤ª .Si cada miembro de esta idéntidad se eleva al cuadrado, se suma respecto de todoslos valores posibles de i y j, y se simplifica, resulta la idéntidad siguiente de sumade cuadrados del diseño de bloques completamente aleatorizados:kX bX(Y ij − Ȳ ++ ) 2 =i=1 j=1kXbXb(Ȳ i+ − Ȳ ++ ) 2 + k(Ȳ +j − Ȳ ++ ) 2i=1+kXi=1 j=1j=1bX(Y ij − Ȳ i+ − Ȳ +j − Ȳ ++ ) 2 .La interpretación práctica de cada componente es similar a la del modelo de

3.3. Análisis de varianza bidireccional 45clasificación unidireccional. En particular:kX bX(Y ij − Ȳ++) 2 = medida de la variabilidad total de los datoskXi=1i=1j=1= suma de cuadrados total (SC Tot )kXb(Ȳ i+ − Ȳ ++ ) 2 = medida de la variabilidad total de los datosi=1atribuibles al uso de tratamientos distintos= suma de cuadrados de los tratamientos (SC Tr )bXk(Ȳ+j − Ȳ++) 2 = medida de la variabilidad total de los datosj=1atribuibles al uso de bloques distintos= suma de cuadrados de los bloques (SCB)bX(Y ij − Ȳi+ − Ȳ+j − Ȳ++) 2 = medida de la variabilidad de los datos debidaj=1a factores aleatorios= residuo o suma de cuadrados del error (SCE).En forma simbólica, la identidad de la suma de cuadrados es:Identidad conceptual de suma de cuadrados de bloques aleatorizadosSC Tot = SC Tr + SCB + SCE.La hipótesis de medias de tratamientos iguales puede expresarse con base enlos efectos de tratamientos τ i . A fin de ver cómo se logra, note que si µ 1+ = µ 2+ =... = µ k+ ,entoncesµ ==kXi=1bXµ ij /kbj=1kXµ i+ /ki=1= µ i+ para cada i =1, 2, ..., k.Por definición, τ i = µ i+ − µ. Por ende, si las medias de tratamiento son iguales,su valor común es µ y cada efecto de tratamiento tiene valor 0. La hipótesis nuladel experimento:H 0 : µ 1+ = µ 2+ = ... = µ k+

46 Capítulo 3. Contraste de hipótesis y análisis de varianzaes equivalente a:H 0 : τ 1 = τ 2 = ... = τ k =0.Al igual que el caso del modelo de clasificación unidireccional, esta forma de H 0 esútil si se pretende considerar el diseño de bloques completos aleatorizados comoun modelo lineal general y analizar los datos mediante técnicas de regresión.3.3.2. Prueba de H 0La prueba de esta hipótesis se obtiene de manera similar a la utilizada en eldiseño de clasificación unidireccional. El uso de los supuestos del modelo y lasreglas de la esperanza permite demostrar que el cuadrado de medias esperadasde los tratamientos esta dada por:E[CM Tr ] = E[SC Tr /(k − 1)]Pb k τ 2 i= σ 2 i=1+(k − 1) .Definir el cuadrado medio del error requiere notar en primer término que losgrados de libertad relacionados con esta estadística corresponden a lo usual, asaber:kb − 1 − [(k − 1) + (b − 1)] = (k − 1)(b − 1).Al igual que antes, el cuadrado medio del error es un estimador insesgado de σ 2 .En otras palabras :E[CM E ]=E[SC E /(k − 1)(b − 1)] = σ 2 .A fin de probar la hipótesis nula siguiente:H 0 : τ 1 = τ 2 = ... = τ k =0 ó H 0 : µ 1+ = µ 2+ = ... = µ k+se usa la razón F :F = CM Tr,CM Edonde CM Tr = SC Tr. La hipótesis H (k−1) 0 se debería de rechazar si CM TrCM E>c,donde ces una constante apropiada cuyo valor se puede determinar para cualquier nivel designificación a partir de una tabla de la distribución F con (k −1) y (k −1)(b −1)grados de libertad. La prueba sirve para rechazar H 0 si el valor observado delestadístico de prueba es excesivamente grande para haber ocurrido al azar.

3.3. Análisis de varianza bidireccional 47Análogamente, supóngase ahora que se van a contrastar las siguientes hipótesis:H 0 : β 1 = β 2 = ... = β b =0H 1 : La hipótesis H 0 no es cierta.Cuando la hipótesis nula H 0 es cierta el estadístico de prueba tendrá unadistribución F con (b − 1) y (k − 1)(b − 1) grados de libertad:F = CM BCM E,donde CM B = SCB . La hipótesis H (b−1) 0 se debería de rechazar si CM BCM E>c,donde ces una constante apropiada cuyo valor se puede determinar para cualquier nivel designificaciónapartirdeunatabladeladistribuciónF con (b − 1) y (k − 1)(b − 1)grados de libertad. En la tabla 5.5 se resumen las ideas desarrolladas en estasección y se incluyen algunas fórmulas de cálculo de SC Tr y SCB.Tabla 3.5.ANOVA para diseño de bloques completos aleatorizados de efectos fijosF. de var. G.l. S.C C.M CME FkPPTrat. k − 1σ 2 + b kBloque b − 1i=1bPj=1Ti+2 − T ++2b kbT+j2 − T ++2k kbSC Tr(k−1)SCB(b−1)Error (k − 1)(b − 1) sustracciónSCETotal kb − 1kP bPYij 2 − T ++2Ni=1 j=1(k−1)(b−1)i=1σ 2 + k b PA manera de ilustración, se analizan los datos del siguiente ejemplo:j=1τ 2 i(k−1)β 2 j(b−1)Ejemplo 3.9 Los funcionarios de un sistema de transporte pequeño, con apenascinco autobuses, necesitan evaluar el desgaste de cuatro tipos de neumáticos.Cada uno de los autobuses tiene ruta distinta, de modo que las condiciones deterreno y de conducción difieren de un vehiculo a otro. Es apropiado un diseñode bloques bidireccional para controlar el efecto de esta variable extraña. Cadaautobús constituye un bloque y cada tipo de neumático, un tratamiento. En otraspalabras se intenta probar :H 0 : µ 1+ = µ 2+ = µ 3+ = µ 4+ .CM TrCM ECM BCM E

48 Capítulo 3. Contraste de hipótesis y análisis de varianzaSe tienen calculadas las estadísticas de resumen siguientes:T 1+ =61.8 T +1 =58.8 T ++ =355T 2+ =100 T +2 =78.0T 3+ =119.3 T +3 =80.1T 4+ =73.9 T +4 =64.7T +5 =73.4Tabla 3.6.ANOVA de datos de desgaste de neumáticosF. de variación G.l S.C C.M FTratamientos 3 401.338 133.779 61.340Bloque 4 81.525 20.381 9.345 ∗Error 12 26.167 2.181Total 19 509.030En relación con los datos que se tienen X 4 X 5 Y ij2 =6810.28. El usoi=1 j=1de las fórmulas de cálculo de la tabla (3.5) debe permitir que el lector verifiquemuchas de las cifras de la tabla ANOVA mostradas en la tabla anterior (3.6).Puesto que f 0.05 (3, 12) = 3.49 y 61.34 > 3.49, es posible rechazar:H 0 : µ 1+ = µ 2+ = µ 3+ = µ 4+con p 3.26, es posible rechazar la hipótesis nula H 0 : β 1 =β 2 = ... = β 5 =0.

Capítulo 4Factores de Bayes intrínsecos4.1. Factores de Bayes intrínsecos para selecciónde modelos¿Es necesario otro criterio para la selección de modelos? Obviamente pensamos,¿para qué? Primero, sentimos que el modelo de selección debe tener unabase bayesiana. La selección de modelos de métodos bayesianos y contraste dehipótesis son particularmente necesarios por las siguientes razones:a) Medidas basadas en cálculos frecuentistas, tal como valor-p son las másgrandes dificultades y las más engañosas.b)Análisisdemodelosnoanidadosy/ocontrastedehipótesisesmuydificultosoen un marco frecuentista.c) Métodos no bayesianos tienen dificultad incorporada. Si dos modelos explicandatos igualmente de bien, entonces el modelo más simple será preferido, losfactores de Bayes hacen esto automáticamente.d) La predicción es frecuentemente la meta real.Una premisa básica de nuestra motivación es que uno necesita métodos automáticosde selección de modelos. La comunidad bayesiana continua un debatesobre que métodos deben ser usados, objetivos o subjetivos; muchos bayesianosaceptan que ambos métodos pueden ser usados. El argumento a favor de métodosautomáticos de selección de modelos es particularmente evidente, porque frecuentementeuno tiene inicialmente una gran variedad de modelos, y una especificacióncuidadosa de distribuciones a priori para todos los parámetros de todoslos modelos es típicamente no factible. Sin embargo, estos procedimientos tienenla limitación de que si se trabaja con distribuciones a priori impropias, entonceslosfactoresdeBayesquedandefinidos salvo una constante multiplicativa.A continuación analizaremos una técnica para el desarrollo de factores de49

50 Capítulo 4. Factores de Bayes intrínsecosBayespordefecto,loscualesllamaremosFactoresdeBayesintrínsecos(FBI).4.1.1. PreliminaresConsideremos los modelos M 1 ,M 2 ,...,M n bajo la consideración que los datostienen densidad f i (x|θ i ) bajo el modeloM i . Los vectores de parámetros θ i sondesconocidos y de dimensión k i .En el procedimiento bayesiano de selección de modelos, bajo el enfoque M-cerrado se procede seleccionando distribuciones a priori π i (θ i ), para los parámetrosde cada modelo, junto con probabilidades a priori p i de que cada modelo seaverdadero. La probabilidad a posteriori que M i es verdadero es entonces:P (M i |x) =Ã nXj=1donde B ji es el factor de Bayes de M j a M i ,definido por:p jp i· B ji! −1, (4.1)B ji = m Rj(x)m i (x) = fj (x|θ j )π j (θ j )dθR j, (4.2)fi (x|θ i )π i (θ i )dθ iaquí m j (x) es la marginal o densidad predictiva de X bajo el modelo M j .La demostración de la ecuación (4.1) es como sigueP (M i |x) = P (x|M i)P (M i )=P (x)P (x|Mi)P (Mi)nXP (x|M j )P (M j )j=1=Ã nXm i (x)p i= nXj=1m j (x)p jj=1! −1 Ã nX! −1m j (x)p jp j= · B ji .m i (x)p i pj=1 iAunque usamos un lenguaje bayesiano estándar, note que no asumimos estrictamenteque uno de los modelos es el verdadero; en particular B ji puede ser vistocomo el cociente de verosimilitud de M j con M i , y por lo tanto puede interpretarsesolamente en términos comparativos de soporte de los datos para los dos modelos.Aunque formalmente se discutirá solo el problema de selección de modelos, éstedesarrollo puede ser aplicable al contraste de hipótesis.Para calcular B ji se requiere la especificación de π i (θ i ) y π j (θ j ). Frecuentementeen análisis bayesiano, uno puede usar distribuciones a priori no informativasπ N i (θ i ). Comúnmente se elige la “distribución a priori uniforme”, π U i (θ i )=1;la

4.1. Factores de Bayes intrínsecos para selección de modelos 51distribución a priori de Jeffreys, π J i (θ i )=(det(I i (θ i ))) 1 2 ,dondeI i (θ i ) es la matrizde información esperada de Fisher correspondiente al modelo M i ;yladistribucióna priori de referencia, π R i (θ i )) la cual ha sido probada por Bernardo (1979)y Berger y Bernardo (1992).Usando cualquiera de las distribuciones a priori antes mencionadas, obtenemosRBji N = mN j (x)m N i (x) = fj (x|θ j )π N j (θ j )dθ jRfi (x|θ i )π N i (θ , (4.3)i)dθ ila dificultad con la ecuación (4.3) es que π N i (θ i ) son típicamente impropias, ypor lo tanto son definidas salvo constantes arbitrarias c i .PorlotantoB ji estadefinido salvo una constante c j /c i la cual es arbitraria.Una solución común a este problema es usar parte de los datos como unamuestra de entrenamiento. Sea x(l) quedenotalapartedelosdatosqueseráusada. La idea es que x(l) será usada para convertir la π N i (θ i ) a una distribucióna posteriori propiaπ N i (θ i |x(l)) = f i (x(l)|θ i )π N i (θ i )/m N i (x(l)),donde (abusando un poco de la notación) f i (x(l)|θ i ) es la densidad marginal deX(l) bajo M i ,yZm N i (x(l)) = f i (x(l)|θ i )π N i (θ i )dθ i . (4.4)La idea es entonces calcular los factores de Bayes con el resto de los datos, u-sando π N i (θ i |x(l)) como distribución a priori, esto puede facilitarse con el siguientelema.Lema 4.1 El factor de Bayes del modelo j al modelo i, condicional a x(l) yasumiendo que π N i (θ i |x(l)) es propia, esta dado por:dondeB ji (x(l)) = B N ji · B N ij (x(l)), (4.5)B N ij (x(l)) = m N i (x(l))/m N j (x(l)).Demostración 2 Denotando el resto de los datos por x(n − l) el resultado sesiguedeladefinición.B ji (x(l)) =Rfj (x(n − l)|θ j ,x(l))π N j (θ j |x(l))dθ jRfi (x(n − l)|θ i ,x(l))π N i (θ i|x(l))dθ i,

52 Capítulo 4. Factores de Bayes intrínsecosperoytambiényf j (x(n − l)|θ j ,x(l)) · f j (x(l)|θ j )=f j (x|θ j ),π N j (θ j |x(l)) = f j(x(l)|θ j )π N j (θ j )m N j (x(l)) ,f i (x(n − l)|θ i ,x(l)) · f i (x(l)|θ i )=f i (x|θ i ),π N i (θ i |x(l)) = f i(x(l)|θ i )π N i (θ i )m N i (x(l)) ,así sustituyendo en B ji (x(l))B ji (x(l)) =R fj (x|θ j ) · fj(x(l)|θ j )π N j (θ j)f j (x(l)|θ j ) m N jR (x(l))fi (x|θ i )dθ j=dθm N i (x(l)) if i (x(l)|θ i ) · fi(x(l)|θ i )π N i (θ i)R fj (x|θ j )π N j (θ j)m N j (x(l))dθ jR fi (x|θ i )π N i (θ i)dθm N i (x(l)) i=Rfj (x|θ j )π N j (θ j )m N i (x(l))dθ jRfi (x|θ i )π N i (θ i)m N j (x(l))dθ i= B N ji · B N ij (x(l)).¥Claramente, quitando la arbitrariedad en la elección de las constantes multiplicativasde las π N i (θ i );elcocientec j /c i que multiplica a B N ji debe ser cancelado porel cociente c i /c j quedebemultiplicaraB N ji (x(l)). El uso de muestras aleatoriastiene sentido, sólo si m N i (x(l)) en (4.4) son finitas. Esto se formaliza en la siguientedefinición.Definición 4.1 Una muestra de entrenamiento, x(l), sera llamada propia si 0

4.1. Factores de Bayes intrínsecos para selección de modelos 53De la definición se sigue queZm N 1 (x(l)) = f 1 (x(l)|θ 1 )π N 1 (θ 1 )dθ 1 =Z ∞tomando u = − 1 (x 2 2σ 2 i + x 2 j), du = (x2 i +x2 j )dσ1σ 3 1 ,1m N 1 (x(l)) =Z 01−∞ 2π eudu(x 2 i + x2 j ) = 10112π e− 2σ 2 (x 2 i +x2 j ) 11 dσσ 3 1 ,112σ 2 (x 2 i +x2 j )2π(x 2 i + 1 | ∞x2 j )e− 0 =12π(x 2 i + x2 j ),tambiénm N 2 (x(l)) ====ZZ ∞−∞Z ∞−∞Z ∞0f 2 (x(l)|θ 2 )π N 2 (θ 2 )dθ 2Z ∞10 2πσ 2 2Z ∞10 2πσ 2 2e − 14σ 2 (x i +x j ) 21 · e 1σ 2 x i x j12πe − 12σ 2 [(x i −µ) 2 +(x j −µ) 2 ]1dσ2 dµn he − 12σ 2 2 ( µ− 1 2 (x i+x j )) 2 i−x i x j + 1 2 (x i+x j ) 2o 111σ 3 2−∞σ 2 2dσ 2 dµ∙Z ∞¸e − 1σ 2 (µ− 1 2 (x i+x j )) 2 11 · dµ dσ 2 ,σ 2eligiendo u = ¡ µ − 1 2 (x i + x j ) ¢ /σ,du = dµ/σ,haciendo u = − 14σ 2 1m N 2 (x(l)) =Z ∞0e − 14σ 2 [(x i +x j ) 2 −4x i x j]12π1 √ πdσ2 ,£(xi + x j ) 2 ¤ [(x i +x j )− 4x i x j , du = 2 −4x i x j]dσ2σ 3 2 ,2σ 3 2m N 2 (x(l)) ==Z10√ £π (xi + x j ) 2 ¤ e u du− 4x i x j −∞1√ π£(xi + x j ) 2 − 4x i x j¤ =1√ π (xi − x j ) 2 .Típicamente, para una muestra de entrenamiento minimal todos los parámetrosson identificables. Frecuentemente será una muestra de tamaño max{k i },recordemos que k i es la dimensión de θ i .Silosπ N i son densidades propias entoncesla muestra de entrenamiento minimal es el conjunto vacío y B ji (x(l) =Bji N .

54 Capítulo 4. Factores de Bayes intrínsecos4.1.2. Relación con otros métodos bayesianos automáticosUso de distribuciones a priori convencionalesJeffereys (1961) introdujo el uso de distribuciones a priori convencionales parala selección de modelos y contraste de hipótesis. En la situación del ejemplo (4.1),él argumentó el uso deπ 1 (σ 1 )= 1 σ 1, π 2 (µ, σ 2 )= 1 σ 2·1πσ 2 (1 + µ 2 /σ 2 2) , (4.7)para la cual utilizó la distribución a priori no informativa estándar para parámetrosde escala pero una densidad (propia) de Cauchy(0,σ 2 ) para la a priori condicionalde µ dado σ 2 .Eligiendoπ(µ|σ 2 ) propia, la indeterminación salvo una constantedel factor de Bayes es eliminada, al menos en términos de µ. Jeffreys identificóσ 2 1 = σ 2 2 = σ 2 en esta situación y por lo tanto no se preocupó acerca dela indeterminación de π(σ) =1/σ, si esta a priori ocurre en ambos modelos,entonces una constante multiplicativa debe ser cancelada.El argumento de Jeffreys para (4.7) es bastante largo y puede o no ser convincente.Su solución no obstante es bastante razonable, eligiendo la “constante” delaapriorideµ dado σ 2 es de forma natural, y se sabe que las a priori de Cauchyson robustas en varios sentidos. Aunque es fácil objetar teniendo tales “imposiciones”sobre el análisis, es crucial recordar que no hay otra alternativa (exceptosubjetividad). Cualquier método alternativo corresponde a la imposición de alguna(propia) a priori, o peor aun, termina por no corresponder a cualquier análisisbayesiano actual. Este problema es suficientemente importante para merecer énfasis.Principio 1. Los métodos que corresponden a el uso de distribuciones a priori(propias) por defecto plausibles son preferibles a aquellas que no corresponden acualquier análisis bayesiano actual.Se intentará mencionar cuales métodos bayesianos por defecto son consistentesy no consistentes con este principio. Algunas propuestas que son consistentes condicho principio son las siguientes: Albert (1990), George y McCulloch (1993),Madigan Y Raftery (1994), McCulloch y Rosi (1993), Mitchel y Beauchamp(1988), Poirier (1985), Raftery (1993), Stewart (1987), Verdinelli y Wasserman(1995) y Sellner y Siow (1980). La limitación de estas aproximaciones es queellas fueron construidas para problemas específicos y nuestra meta es construirun método completamente general y automático, pero que sea consistente con elprincipio anterior.

4.1. Factores de Bayes intrínsecos para selección de modelos 55Métodos asintóticos y criterio de información de BayesEl método asintótico de Laplace (Haughton 1988, Kass y Raftery 1995) esproducido como una aproximación a B ji .Bji L = f j(x|ˆθ j )(det Î j ) −1/2f i (x|ˆθ i )(det Îi) · (2π)kj/2 π j (ˆθ j )−1/2 (2π) k i/2π i (ˆθ i ) , (4.8)donde Î i ,yˆθ i , son la matriz de observación y el estimador de máxima verosimilitud(EMV) bajo el modelo M i .Cuandoeltamañodelamuestratiendeainfinito,el primer factor de Bji L típicamente tiende a cero o a infinito,mientraselsegundofactor esta acotado. El criterio de información de Bayes (CIB) de Schwarz(1978) surgió reemplazando el segundo factor por una constante apropiada. Kass yWaserman (1995) argumentaron que, para modelos anidados, el CIB correspondea un análisis bayesiano.La expresión asintótica (4.8) tiene mucha utilidad teórica. Esta puede serusada para ayudar a desarrollar distribuciones a priori propias por defecto ycomparar criterios en la selección de modelos.Como un comentario final, existen muchos problemas de selección de modelospara los cuales el resultado asintótico difiere de (4.8) (ver Haughton y Dudley1992). Es interesante ver que los factores de Bayes intrínsecos (FBI) son compatiblesbayesianamente.Distribuciones a priori no informativas convencionalesEn la sección (4.1.1) se observó que el problema con las distribuciones a priorino informativas, π N i es que ellas están definidas salvo constantes multiplicativasarbitrarias c i y que tales constantes deben ser factores multiplicativas de losfactores de Bayes. Se han hecho esfuerzos para especificar convencionalmente lasconstantes c i . Para instanciarlas, Smith y Spiegelhater (1980) y Spiegelhalter ySmith (1982) proponen elegir los c i de tal forma que B ji (x(l)) sea igual a 1,cuando x(l) se elige como la muestra de entrenamiento minimal, que favorecemas al modelo simple.Este método se acerca a satisfacer el principio 1. El fallo es que tiene unatendencia en favor del modelo más complejo. Esta tendencia surge de la especificaciónque B ji (x(l)) va a ser 1, aunque la muestra de entrenamiento sea escogidapara favorecer al máximo al modelo más simple.Métodos de entrenamiento y métodos de verosimilitud parcialLa idea de muestras de entrenamiento, ha sido usada muchas veces informalmente.Desarrollos más formales de esta idea pueden ser encontrados en trabajos

56 Capítulo 4. Factores de Bayes intrínsecosde Atkinson (1978), Geisser y Eddy (1979), Gelfand, Dey y Chang (1992), Lempers(1971),San Martíni y Spezzaferri (1984), y Spiegelhalter y Smith (1982),aunque no todos estos trabajos utilizan la idea con factores de Bayes ordinarios.Otras referencias y el comportamiento asintótico general de los modelos demuestra de entrenamiento han sido probados por Gelfand y Dey (1994).Se puede mostrar que si el tamaño de la muestra de entrenamiento se incrementaconlamuestradetamañon,entonces la muestra del factor de Bayes esno asintoticamente equivalente a (4.8).El método de Aitkin (1991) puede ser considerado como un método de muestrade entrenamiento, tomando la muestra entera x, como una muestra de entrenamientoparaobtenerπN i (θ i |x) yentoncesusarestacomoladistribuciónapriori en (4.5) para calcular el factor de Bayes. Este doble uso de los datos espor supuesto no consistente con la lógica bayesiana usual, y el método viola elcriterio asintótico de forma severa.O’Hagan (1995) propuso usar una parte fraccional de la verosimilitud entera,[f(x|θ)] α , en lugar de una muestra de entrenamiento. Esto tiende a produciruna respuesta más estable que la producida por el uso de una muestra de entrenamientoparticular, pero falla el criterio asintótico a menos que α ∝ 1/n cuandola muestra de tamaño n crece. El tamaño del factor fraccional de Bayes ha sidobastante estudiado, particularmente para las elecciones tales que α = m 0 /n,donde m 0 es la muestra de entrenamiento minimal. Esta elección puede resultaren los factores de Bayes que corresponden a el uso de distribuciones a priori pordefecto, al menos para modelos lineales y ciertas elecciones de distribuciones apriori no informativas, tal justificación debe ser formalmente establecida.Independientemente del trabajo de Berger y Pericchi, de Vos (1993) ha propuestoun método de muestra de entrenamiento para modelos lineales que essimilar al método propuesto por Berger y Pericchi.4.2. Factores de Bayes para módelos anidados4.2.1. Modelos anidadosAsumamos que M 1 es anidado en M 2 , en el sentido que nosotros podemosescribir θ 2 =(ζ,η) yquef 1 y f 2 satisfacenf 1 (x|θ 1 )=f 2 (x|ζ = θ 1 ,η = η 0 ) (4.9)donde η 0 es un valor específico de η. Algunas veces simplemente escribimos θ 2 =(θ 1 ,η), aunque esto es peligroso (pero común) en la práctica. El peligro es queθ 1 en f 1 (x|θ 1 ) y θ 2 en f 2 (x|θ 1 ,η) pueden tener interpretaciones muy diferentes,

4.2. Factores de Bayes para módelos anidados 57porque los símbolos son los mismos, es demasiado fácil asignar entonces la mismadistribución a priori (especialmente cuando se usan las distribuciones a priori pordefecto). Esta es una importante cuestión, porque muchos de los esquemas parael desarrollo de a priori condicionales son basados en una formalización en laidentificación de tales parámetros.El siguiente supuesto es siempre verdadero para modelos anidados.Supuesto 1. Si M 1 es anidado en M 2 , entonces asumimos que como el tamañode la muestra tiende a infinito (n →∞),ˆθ2bajo M 1−→θ ∗ 2 =(θ 1 ,η 0 ). (4.10)4.2.2. Los factores de Bayes intrínsecosPara un conjunto dado de datos x, típicamente existen muchas muestras deentrenamiento como la que se definió en la sección 4.1.1. SeaX T = {x(1),x(2), ..., x(L)} (4.11)que denota el conjunto de todas las muestras minimales x(l). Claramente el factorde Bayes B 21 (x(l)), definida en (4.5), depende de la elección de la muestra deentrenamiento minimal. Para eliminar esta dependencia e incrementar estabilidad,una idea natural es promediar los B 21 (x(l)) sobre todos los x(l) ∈ X T . Estepromedio puede ser hecho aritméticamente o geométricamente, primero el factorde Bayes intrínseco aritmético (FBIA) y enseguida el factor de Bayes intrínsecogeométrico (FBIG) quedan definidos de la siguiente manera:B IA21 = 1 LB IG21 =LXl=1B 21 (x(l)) = B N 21 · 1LLXB12(x(l)) N (4.12)l=1ÃY L 1/L Ã L 1/LYB 21 (x(l))!= B21 N · B21(x(l))! N , (4.13)l=1donde el B12(x(l)) N esta definido en (4.5). Note que B21 IG ≤ B21 IA porque la mediageométrica es menor o igual que la media aritmética. Por tanto B21 IG favoreceráal modelo anidado más simple que B21 IA .Nota 1: Definimos B12 IA como 1/B12 IA , y no por (4.12) con los índices invertidos.La asimetría surge porque M 1 esta anidado en M 2 .ParaB21 IG no hay problema,invirtiendo los índices en (4.13) claramente resulta 1/B IGl=121 .

58 Capítulo 4. Factores de Bayes intrínsecosB IG12 =ÃY L 1/L Ã L 1/L ÃYY LB 12 (x(l))!= B12 N · B21(x(l))! N = B 21 (x(l))l=1⎛= B12 N 1·⎜ LY ⎟⎝B12(x(l))N ⎠l=1⎞1/Ll=1l=1Ã L! −1/LY= B12 N · B12(x(l))N =1/B IGl=121 .! 1/LNota 2: Si el tamaño de la muestra es muy pequeña, entonces claramente setendrá problema usando una parte de los datos como muestra de entrenamiento.Ejemplo 4.2 Sea X =(X 1 ,X 2 , ..., X n ) una muestra i.i.d. de M 1 : N (0,σ 2 1) oM 2 : N (µ, σ 2 2). Usando π N 1 (σ 1 )=1/σ 1 y π N 2 (µ, σ 2 )=1/σ 2 2, y haciendo algunoscálculos se tiener n/2 2πB21 N =µ1+n · n¯x2 , (4.14)s 2dondenXs 2 = (xi − ¯x) 2 .Sabemos quei=1RB21 N = mN 2 (x)m N 1 (x) = R θ 2f 2 (x|θ 2 )π N 2 (θ 2 )dθ 2,θ 1f 1 (x|θ 1 )π N 1 (θ 1 )dθ 1m N 2 (x) =y si tenemos quenX(xi − µ) 2 =i=1m N 2 (x) ===Z1θ 2(2π) n/2 σ n 2Z ∞ Z ∞0−∞− 12σ 2e1(2π) n/2 σ n 2nXi=1− 12σ 2enXx 2 i − n¯x 2 + n(µ − ¯x) 2 ,i=1Z ∞ Z ∞0Z ∞01−∞ (2π) n/2 σ n 21(2π) n/2 σ n 2(x i −µ) 2 1·σ 2 2nXi=1dθ 2(x i −µ) 2 1·σ 2 2e − 12σ 2[ P ni=1x 2 i −n¯x2 +n(µ−¯x) 2 ] ·e − 12σ 2( P ni=1x 2 i −n¯x2 )Z ∞−∞dµdσ 2 ,1dµdσ 2σ 2 2e − 12σ 2(n(µ−¯x) 2 ) 1dµdσσ 2 2 ,2

4.2. Factores de Bayes para módelos anidados 59tomando u = √ n(µ−x)y du = √ ndµ,σσ√ Z 2π ∞m N 2 (x) =(2π) n/2√ n 0haciendo y = σ −22 ,dy= −2σ −32 dσ 2 , se tiene√ Z 2π ∞m N 2 (x) =2(2π) n/2√ n 0√2π=2(2π) n/2√ n ·Ahorae − 12σ 2[ P ni=1x 2 i −n¯x2 ] 1σ n+12dσ 2 ,−y n−22 e−y/2[ P ni=1x 2 i −n¯x2 ] dy¢Γ ¡ n2³ P ni=1. ´n/2x 2 i −n¯x2Z−m N 111 (x) =σ −n−12σ 2(2π) n/2 1 eθ 2eligiendo y = σ −21 ,dy= −2σ −3anterior tenemospor lo tantopero s 2 =B N 21 =√2π2(2π) n/2√ n ·√2π2(2π) n/2 ·2nXi=1x i2dσ 1 ,1 dσ 1 , yprocediendodeformaanálogaalaintegral√2πm N 1 (x) =2(2π) · Γ ¡ ¢n2.n/2 ´n/2Γ( n 2 )µ P ni=1 x 2 n/2i −n¯x22Γ( n 2 )µ P ni=1 x 2 i2 n/2=nX(xi − ¯x) 2 = P ni=1 x2 i − n¯x 2 , asíi=1³ P ni=1x 2 i2√ µ P 2πn n/2i=1√ x2 iP n ni=1 x2 i − ,n¯x2r µP 2π n n/2r µ B21 N i=1=x2 i 2π s 2 + n¯x 2 n/2r n/2 2π= =µ1+ n¯x2 .n s 2 n s 2 n s 2Usando (4.8) observese que X T consiste en todos los pares de observacionesdiferentes L = n(n − 1)/2, de esto se sigue queB21 IA = B21 N · 1 LX (x 1 (l) − x 2 (l)) 2L 2 √ π [x 2 1(l)+x 2 2(l)]= B N 21 ·l=11n(n − 1)Xi

60 Capítulo 4. Factores de Bayes intrínsecosyB IG21 = B N 21 ×LYl=1(x 1 (l) − x 2 (l)) 22 √ π [x 2 1(l)+x 2 2(l)] . (4.16)Nótese que B IA21 y B IG21 estan definidos esencialmente para cualesquiera modelosanidados inclusive para aquellos no estándares.Ejemplo 4.3 Supóngase que X =(X 1 ,X 2 , ..., X n ) es una muestra i.i.d. de M 1 :X 1 ∼ N (θ 1 , 1) con θ 1 < 0 o M 2 : X 2 ∼ N (θ 2 , 1) con θ 2 ∈ R 1 .Una vez mas, esimportante recordar que θ 1 y θ 2 podrían ser cantidades distintas a priori, inclusocuando θ 2 < 0.Esto puede ser peligroso para formular este problema diciendoX i ∼ N (θ, 1) con M 1 : θ 1 < 0 y M 2 : θ ∈ R 1 . Elpeligroesalusarelmismosímbolo θ, apareciendo en M 1 y M 2 el cual puede causar que en un momento dadouno asume que π 1 (θ) (bajo M 1 )seaiguala π 2 (θ|θ

4.2. Factores de Bayes para módelos anidados 61− 1 nX(x i − θ 2 ) 22i=1= − 1 nX(x 2 i − 2x i θ 2 + θ 222)i=1= − 1 nX nXx 2 i + x i θ 2 − 1 nXθ 2 222i=1 i=1i=1= − 1 nXx 2 i + nθ 2¯x − nθ2 222i=1µ nθ22= −2 − nθ 2¯x − 1 nXx 2 i2i=1µ nθ22= −2 − nθ 2¯x + n¯x2 − 1 nXx 2 i + n¯x22 2 2i=1µr r 2Ã nX!n n= −2 θ 2 −2 ¯x − 1 x 2 i − n¯x 22i=1así, siZ 0−∞1(2π) n/2 e − 1 2nX(x i −θ 2 ) 2 Z 0dθ 2 =i=1−∞1−( √ √ n(2π) e 2 θ n2− n/2⎛2 ¯x ) 2 − 1 ⎝2al hacer t = √ 2 ¡p n2 θ 2 − p n2 ¯x¢ dt = √ 2 · p n2 dθ 2, se obtienenXi=1x 2 i −n¯x2 ⎞⎠dθ 2 ,Z ∞0yportanto1(2π) n/2 e − 1 2⎛⎝B N 21(x) =nXi=1x 2 i −θ2 2R −√ n¯x−∞⎞⎠dθ 2 = e − 1 2⎛⎝nXi=1x 2 i −n¯x2 ⎞⎠( p 2π) n−1√ n√12πe − t2 2 dt + R ∞R −√ n¯x−∞− √ n¯x√12πe − t2 2 dt= Φ(−√ n¯x)+(1− Φ(− √ n¯x))Φ(− √ n¯x)Z −√ n¯x−∞√12πe − t2 2 dt=1Φ(− √ n¯x) .1√2πe − t2 2 dt,

62 Capítulo 4. Factores de Bayes intrínsecosLuego de (4.12) y (4.13) resulta queyB IA21 =B IG21 =1Φ(− √ n¯x) · 1nnXΦ(−x i ) , (4.18)i=1"1Φ(− √ n¯x) · 1n 1/nYΦ(−x i )#. (4.19)ni=1Esto es un ejemplo no estándar que es difícil de manejar por métodos ordinariosen parte esto se encuentra indicado por el hecho de que la expresión asintótica(4.8) y (por lo tanto el CIB), aquí no es válida. Las correcciones asintóticashan sido probadas por Haughton y Dudley (1992), quienes estudiaron muchosproblemas muy generales de este tipo. Para este caso, la expresión análoga a(4.8) es :B 21∼ π 2 (¯x)=Φ(− √ n¯x)π 1 (mín {¯x, 0})la cual es válida si π 2 es continua, y si π 1 es continua y tiene límite finito.4.2.3. Los factores de Bayes intrínsecos esperados(4.20)Para una muestra de tamaño pequeño, el promedio de las muestras de entrenamientoen (4.12) y (4.13) pueden tener varianza grande, lo cual indica unainestabilidad de los factores de Bayes intrínsecos. También, el cálculo puede serun problema si L es grande. Una atractiva solución fue propuesta por Berger yPericchi (1996), remplazando los promedios en (4.12) y (4.13) por sus respectivasesperanzas, evaluadas en los estimadores de máxima verosimilitud. Formalmenteellos definieron el factor de Bayes Intrínseco Aritmético Esperado (FBIAE) y elFactor de Bayes Intrínseco Geométrico Esperado (FBIGE) poryB IAE21 = B N 21 · 1L(B21 IGE = B21 N 1· expLLXl=1LXl=1E M 2ˆθ 2£BN12 (X(l)) ¤ (4.21)E M 2ˆθ2£log BN12 (X(l)) ¤) , (4.22)donde las esperanzas son bajo el modelo M 2 ,conθ 2 igual al estimador máximoverosímil ˆθ 2 . Si las X(l) son intercambiables, como es común, entonces lospromedios sobre L salen sobrando. Esto es, (4.21) y (4.22) son justificadas como

4.2. Factores de Bayes para módelos anidados 63aproximación a (4.12) y (4.13) para L grande y bajo M 2 es obvio. Pero estas tambiénson aproximaciones válidas bajo el modelo M 1 si asumimos el supuesto 1 enla sección 4.2.1. Es satisfecho por que (bajo el modelo M 1 ), ˆθ 2∼ = (θ1 ,η 0 ), lo cualjunto con (4.9) muestra que las esperanzas en (4.21) y (4.22) son equivalentes.Ejemplo 4.4 Supongamos que las X(l) son intercambiables, así por (4.21) setiene:"# ÃB21 IAE = B21 N · E M (X2 i − X j ) 2ˆθ22 √ π ¡ Xi 2 + ¢ = B N 1 − e ( !−n¯x/s 2 )X2 21 ·j2 √ (4.23)π [n¯x/s 2 ](para el cálculo de estas esperanzas ver Berger y Pericchi (1994)). B IGE21 puedeser evaluado únicamente como una serie infinita (ver Berger y Pericchi (1994)),pero el cálculo númerico es directo.Ejemplo 4.5 (continuación del ejemplo 4.4) Usando (4.18) y (4.21), y considerandoque los X(l) son intercambiables se tiene queB IAE21 =1φ(− √ n¯x) · EM 2ˆθ2[φ (−X i )] =1³φ(− √ n¯x) · −¯x/ √ ´2(4.24)aquí X i ∼ N (θ, 1) bajo M 2 y θ 2 =¯x. OtravezB 21 IGE puede no tener una formacerrada. Como ocurría con B12 IA , Berger y Pericchi definen B12 IAE£ =1/B21 IAE . Eneste caso no hay otra opción porque en muchos problemas E M 2ˆθ2 BN21 (X(l)) ¤ =∞. Esto también explica la definición de B12 IAE =1/B21 IAE , aunque B12 IA podríadefinirse como en (4.12) con los índices intercambiados, el promedio de B12(x(l))Nnormalmente diverge cuando L →∞, resultando un factor de Bayes que viola elprincipio 1.4.2.4. ComparacionesHaremos una pausa para comparar los diferentes factores de Bayes intrínsecoscon otros métodos seguros, así como obtener una visión en estos casos simplespara ver si nuestra meta es alcanzada. Las comparaciones que hacemos son conla expresión asintótica (4.8), la aproximación de Schwarz y con los métodos deJeffresys (1961), Smith y Spiegelhalter (1980).Ejemplo 4.6 Se puede demostrar que los estimadores de máxima verosimilitudpara ambos modelos son: ˆµ =¯x, ˆσ 1 =( P ni=1 x2 i /n) 1/2 =(¯x 2 + s 2 /n) 1/2 , ˆσ 2 =(s 2 /n) 1/2 .

64 Capítulo 4. Factores de Bayes intrínsecosSabemos que X i ∼ N(µ, σ 2 2) bajo M 2 .1f(x i )= √ e − 12σ 2 (x i -µ) 2 12 , f(x 1 ,x 2 , ..., x n )=2πσ2 ( √ e − 1 P n2σ 2 i=1 (x i -µ) 22π) n σ n 1 ,2asiµ 1ln f(x 1 ,x 2 , ..., x n ) = ln( √ − 1 nX(x2π) n σ n 2σ 2 i − µ) 22 2 i=1³√ 1nX= − ln 2πσ2´n− (x2σ 2 i − µ) 22 i=1= −nhln √ i2π +lnσ 2 − 1 nX(x2σ 2 i − µ) 2 ,2 i=1luego∂ ln f(x 1 ,x 2 , ..., x n )∂µ= 2 P ni=1 (x i − µ)=02σ 2 2nX⇒ (x i − µ) =0⇒i=1nXx i − nµ =0⇒ ˆµ =¯x,también∂ ln f(x 1 ,x 2 , ..., x n )= − n P ni=1+(x i − µ) 2=0∂σ 2 σ 2 σ 3 2µP ni=1⇒ σ 2 =(x i − µ) 2 1/2⇒ ˆσ 2 = ¡ s 2 /n ¢ 1/2 .nSe tiene que X i ∼ N(0,σ 2 1) bajo M 1f(x i )=por lo cual1√2πσ1e − 12σ 2 1x 2 iµln f(x 1 ,x 2 , ..., x n ) = lni=11f(x 1 ,x 2 , ..., x n )=( √ 2π) n σ n 1= − ln1− 12σ 2 1( √ 2π) n σ n 1³√ 12πσ1´n−2σ 2 1nXi=1nXi=1= −nhln √ i2π +lnσ 1 − 12σ 2 1e − 12σ 2 1P ni=1x 2 ix 2 ix 2 inXx 2 i ,i=1

4.2. Factores de Bayes para módelos anidados 65luego∂ ln f(x 1 ,x 2 , ..., x n )∂σ 1= −n P ni=1+x2 iσ 1 σ 3 1=0⇒ ˆσ 1 =µP ni=1 x2 in 1/2,pero s 2 = P ni=1 (¯x2 i − µ) 2 , asiˆσ 1 ====µP ni=1 x2 inµP ni=1 x2 i 1/2=µP ni=1 x2 in+(¯x − µ) 2 2 1/2+(¯x 2 − 2¯xµ + µ 2 )nµ P n ¯x 2 i=1+(x2 i − 2µx i + µ 2 1/2)nà P !n¯x 2 i=1+(x i − µ) 2 1/2= ¡¯x 2 + s 2 /n ¢ 1/2 .nA continuación se tienen las siguientes aproximaciones:Aproximación Asintótica (4.8) dada por:Solución:De antemano sabemos queB L 21 = B N 21 · ˆσ2 2ˆσ 1· π2(ˆµ, ˆσ 2 )π 1 (ˆσ 1 ) . (4.25)B L ji = f j(x|ˆθ j )(det Î j ) −1/2f i (x|ˆθ i )(det Î i ) −1/2 · (2π)k j/2 π j (ˆθ j )(2π) k i/2 π i (ˆθ i ) ,donde Îi y ˆθ i son la matriz de información observada y el estimador de máximaverosimilitud.Bajo M 1 , Xi ∼ N(0,σ 2 1), asi k 1 =1.⎡ ³ P∙ ¸∂ 2 log f(x|σ 1 )Î 1 (x) = −= − ⎣ ∂ ni=1´ ⎤−n xσ 1+2 iσ 3 1⎦∂σ 2 1 σ 1 =ˆσ 1∂σ 1∙ n= − −σ 2 1como ˆσ 1 =( P ni=1 x2 i /n) 1/2 ,P n ¸i=1 x2 i · 3σ 2 1σ 6 1σ 1 =ˆσ 1= −∙ nσ 2 1− 3 P ni=1 x2 iσ 4 1σ 1 =ˆσ 1¸σ 1 =ˆσ 1,

66 Capítulo 4. Factores de Bayes intrínsecosentoncesÎ 1 (x) = − nP ni=1x 2 in= −P n2ni=1 x2 i2n 2= P n ,i=1 x2 i+ 3 P ni=1 x2 i³ P ni=1´2x 2 in+ 3n2 P ni=1 x2 i( P ni=1 x2 i )2(det Î 1 (x)) −1/2 =1(det Î 1 (x)) = 1³1/2 2n 2P ni=1x 2 i´1/2=µP ni=1 x2 i2n 2 1/2=³ Pni=1 ´1/2x 2 i2√2nBajo M 2 X i ∼ N(µ, σ 2 2)Î 2 (x) =−= ˆσ 1√ . 2n" ∂ 2 log f(x|µ,σ 2 ) ∂ 2 log f(x|µ,σ 2 )∂µ 2 ∂µ∂σ 2∂ 2 log f(x|µ,σ 2 ) ∂ 2 log f(x|µ,σ 2 )∂σ 2 ∂µ∂σ 2 2µ1ln(f(x 1 ,x 2 , ..., x n |µ, σ 2 ) = ln(2π) n/2 σ n 2#− 12σ 2 2(µ,σ)=(ˆµ,ˆσ 2 )nX(x i − µ) 2= − £ ln(2π) n/2 +ln(σ n 2) ¤ − 1 nX(x2σ 2 i − µ) 2 ,2 i=1así∂ ln(f(x 1 ,x 2 , ..., x n |µ, σ)= 2 nX(x∂µ2σ 2 i − µ) = 1 nX(x2σ 2 i − µ),i=1 2 i=1∂ 2 ln(f(x 1 ,x 2 , ..., x n |µ, σ)= −n ,∂µ 2 σ 2 2∂ 2 ln(f(x 1 ,x 2 , ..., x n |µ, σ)= ∂2 ln(f(x 1 ,x 2 , ..., x n |µ, σ)= −2 P ni=1 (x i − µ),∂µ∂σ∂σ∂µσ 3 2∂ ln(f(x 1 ,x 2 , ..., x n |µ, σ)= − n P ni=1+(x i − µ) 2,∂σσ 2 σ 3 2∂ 2 ln(f(x 1 ,x 2 , ..., x n |µ, σ)= n − 3 P ni=1 (x i − µ) 2,∂σ 2 σ 2 2 σ 4 2i=1

4.2. Factores de Bayes para módelos anidados 67por lo tanto"Î 2 (x) = −"= −−nσ 2 2−2 P ni=1(x i −µ)σ 3 2−nσ 2 2−2 P ni=1(x i −¯x)ˆσ 3 2nσ 2 2−2 P ni=1(x i −µ)σ 3 2− 3 P ni=1(x i −µ) 2σ 4 2−2 P ni=1(x i −¯x)ˆσ 3 2− 2nˆσ 2 2#,#(µ,σ)=(ˆµ,ˆσ 2 )=(¯x,(s 2 /n) 1/2 )luegoademásperodet(Î 2 (x)) = n µ µ P 2n 2 ni=1· −(x i − ¯x)σ 2 2 σ 2 2σ 3 2= 2n2 − 4(P ni=1 (x i − ¯x)) 2σ 4 2 σ 6 2= 2n2 σ 2 2 − 4( P ni=1 (x i − ¯x)) 2σ 6 2B L ji =s 2 == 2n2 σ 2 2σ 6 2= 2n2ˆσ 4 ,2(det Î2(x)) −1/2 )= ³2n 2ˆσ 4 21= ˆσ2 2√ ,´1/2 2nB L ji = f j(x|ˆθ j )(det Î j ) −1/2f i (x|ˆθ i )(det Î i ) −1/2 · (2π)k j/2 π j (ˆθ j )(2π) k i/2 π i (ˆθ i ) ,1( √ 2π) n σ n 21( √ 2π) n σ n 1= σn 1e − 12σ 2 1i=1σ n 2e − 12σ 2 1e − 1 P n ³2σ 2 i=1 (x i -µ) 21 · ˆσ22P ni=1x 2 i³·e − 12σ 2 1√2n´√2n´ˆσ 1 2· (2π) 2/2 · π 2 (ˆθ 2 )· (2π) 1/2 · π 1 (ˆθ 1 )P ni=1(x i -µ) 2 · ˆσ 2 2 · (2π) 1/2 · π 2 (ˆθ 2 )P ni=1x 2 i· ˆσ1 · √n ,· π 1 (ˆθ 1 )nXnX(x i − ¯x) 2 , ˆσ 1 =( x 2 i /n) 1/2 =(¯x 2 + s 2 /n) 1/2 ,ˆσ 2 = (s 2 /n) 1/2 yi=1nXx 2 i = s 2 + n¯x 2 .i=1

68 Capítulo 4. Factores de Bayes intrínsecosAsírBji L = σn 1 · ˆσ 2 2 · e − n 2 · (2π) 1/2 · π 2 (ˆθ 2 ) 2πσ n 2 · ˆσ 1 · e −n/2√ =n · π 1 (ˆθ 1 ) n · σn 1 · ˆσ 2 2 · π 2 (ˆθ 2 )σ n 2 · ˆσ 1 · π 1 (ˆθ 1 )r r2π=n · (¯x2 + s 2 /n) n/2 · ˆσ 2 2 · π 2 (ˆθ 2 ) 2π=(s 2 /n) n/2 · ˆσ 1 · π 1 (ˆθ 1 ) n · (n¯x2 + s 2) n/2 ·ˆσ2 2 · π 2 (ˆθ 2 )s 2 ·ˆσ 1 · π 1 (ˆθ 1 )= B21 N · ˆσ2 2· π2(ˆθ 2 )ˆσ 1 π 1 (ˆθ 1 ) .La aproximación de Schwarz esta dada porB s 21 = B N 21/ √ 2π. (4.26)es:Mientras que la aproximación de Jeffreys, para la distribución a priori en (4.7)B21 J = B21 N 1· ˆσ 2 ·ˆσ 2 π £ ¤.1+ˆµ 2 /ˆσ 2 2El factor de Bayes de Smith y Spiegelhalter (1980) esB21 ss = B21/ √ N π.Es usual escribir π 2 (µ, σ 2 ) como π 2 (µ, σ 2 )=π 2 (µ|σ 2 )π 2 (σ 2 ).Si ahora elegimos las distribuciones a priori no informativas como π 1 (σ 1 )=1/σ 1 y π 2 (σ 2 )=1/σ 2 , entonces de (4.21) tenemosB L 21 = B N 21 · ˆσ 2 · π 2 (ˆµ/ˆσ 2 ). (4.27)Notese que B21 J es de esta forma, con π 2 (µ/σ 2 ) una distribución de Cauchy(0,σ 2 ) . Además que es consistente con (4.7). Así, reescribiendo (4.23)Ã!B21 IAE = B21 N 1 − e {−ˆµ2 /ˆσ 2 2 }· ˆσ 2 ·2 √ π £ˆµ ¤2 /ˆσ 2 . (4.28)2Recordemos que una de las metas de Berger y Pericchi (1996) era desarrollarun método automático que reproduzca un factor de Bayes verdadero. Resulta queB21 IAE se comporta bien ya queπ ∗ 2(µ|σ 2 )= 1 − e{−ˆµ2 /ˆσ 2 2 }2 √ π £ˆµ ¤, 2 /ˆσ 2 (4.29)2

4.2. Factores de Bayes para módelos anidados 69es una distribución a priori propia (integrando sobre µ) y, además es equivalente ala elección de Jeffreys de π 2 (µ|σ 2 ) como Cauchy (0,σ 2 ); de hecho, las densidadesde las dos distribuciones a priori nunca difieren en mas de 15 %.Esta interesante propiedad de B21 IAE es desafortunadamente no compartidacon B21 IGE . Este no corresponde a un factor de Bayes de una disitribución a prioripropia, difiriendo por una constante multiplicativa.Comparando B21 J ó B21 IAE con B21 SS , vemos que el último es más grande por unfactor de alrededor de √ π(1 + ˆµ 2 /ˆσ 2 ), el cual es siempre más grande que 1. Estefenómeno es generalmente verdadero y proporciona soporte para la aceptación deque B21 SS esta cargado hacia el modelo más complejo.Similarmente B21 S es más grande por un factor de √ π(1 + ˆµ 2 /ˆσ 2 2), yesteesbasado hacia el modelo más complejo. Si uno elige π 2 (µ|σ 2 ) aserN (0,σ 2 2), entoncesB21 L = B21 S · exp{−x 2 /2ˆσ 2 2}. Si M 1 fuera el verdadero modelo y n fuesegrande, entonces ¯x ∼ = 0 y B21 L ∼ = B21. S Esta es la base para el argumento de Kass yWasserman (1994) esto es que B21es S aproximadamente un factor de Bayes cuandoel modelo simple es el verdadero, en una situación de modelos anidados.La historia para B21 IA y B21 IG es similar. Remarcando, el promedio en B21IAnuevamente corresponde a una distribución a priori propia. El correspondientetérmino de (4.13) es cualitativamente similar, pero nuevamente no es propia.4.2.5. Distribuciones a priori intrínsecasEn el ejemplo 1 en sección 4.2.4 vimos que B IA21 y B IAE21 eran aproximadamenteiguales a los factores de Bayes para la distribución a priori (condicional) propia.Tal distribución a priori si existe es llamada una distribución a priori intrínseca.Vimos los efectos que los FBI tienden a corresponder a los factores de Bayes verdaderoscon respecto a distribuciones a priori intrínsecas para ser su justificaciónmás fuerte. Por lo tanto la determinación de las distribuciones a priori intrínsecases teóricamente interesante, además proviene del mejor comportamiento delos FBI.También hay un beneficio potencial en determinar las distribuciones a prioriintrínsecas. Un beneficio obvio es que las distribuciones a priori intrínsecaspueden ser usadas en lugar de las π N i , para calcular el factor de Bayes actual.Esto eliminaría la necesidad de calcular muestras de entrenamiento y eliminaríapreocupaciones acerca de la estabilidad de los factores de Bayes intrínsecos. Dehecho, uno puede ver alternativamente el procedimiento de los factores de Bayes,como un método para aplicar a “muestras de entrenamiento imaginarias”, paradeterminar distribuciones a priori convencionales actuales para ser usadas en laselección de modelos y contraste de hipótesis.Como con las distribuciones a priori de referencia, nuestra definición de dis-

70 Capítulo 4. Factores de Bayes intrínsecostribuciones a priori intrínsecas será centrada alrededor de una muestra de entrenamientoimaginaria. Frecuentemente, se pueden utilizar argumentos asintóticospara verificar la siguiente aproximación, que Berger y Pericchi establecieron comocondición.Condicion A. Suponga que el tamaño de muestra tiende a infinito, paradistribuciones a priori en una clase apropiada, Γ, (4.2) puede aproximarse porB ji = Bji N · πj(ˆθ j )π N i (ˆθ i )π i (ˆθ i )π N j (ˆθ · (1 + o(1)), (4.30)j )donde ˆθ j y ˆθ i son los estimadores de máxima verosimilitud bajo los modelos M iy M j .(aquío(1) → 0 en probabilidad bajo M i y M j ).Esta condición puede verse fácilmente para comprender la situación asintóticaestándar (4.8), pero también para comprender la situación no estándar.Para definir las distribuciones a priori intrínseca, empezaremos igualando laecuación (4.30) con (4.12) o (4.13) produciendoπ j (ˆθ j )π N i (ˆθ i )π i (ˆθ i )π N j (ˆθ j ) (1 + o(1)) = ˜B N ij , (4.31)definiendo ˜B ijN como la media geométrica o la media aritmética de Bij N (x(l)).Enseguida necesitamos asumir algo acerca del comportamiento de los límites delas cantidades en (4.31). La siguiente condición es típicamente satisfecha.Condición B. Cuando el tamaño de muestra tiende a infinito, se tiene losi-guientei) Bajo M j , ˆθ j −→ θ j , ˆθ i −→ Ψ i (θ j ), y ˜B ij N −→ ˜B j ∗ (θ j ).i) Bajo M i , ˆθ i −→ θ i , ˆθ j −→ Ψ j (θ i ), y ˜B ij N −→ ˜B i ∗ (θ i ).Donde, Ψ i (θ j ) denota el límite del estimador máximo verosímil ˆθ imodelo M j en el punto θ j .Típicamente, para k = i o k = jbajo el⎧⎪⎨˜B k(θ ∗ k )=⎪⎩límL→∞ EM kθ knlím exp E M kθL→∞ kh P i1 LL l=1 BN ij (X(l))h P io1 LL l=1 log BN ij (X(l))caso aritmético,caso geométrico.(4.32)Si los X(l) son intercambiables, entonces los límites y los promedios sobre Lpueden eliminarse.

4.2. Factores de Bayes para módelos anidados 71Usando la condición B y tomando límites en (4.31), primero bajo M j y despuésbajo M i , resultan las siguientes 2 ecuaciones que definen las distribuciones a prioriintrínsecas (π I j,π I i ).π I j(θ j )π N i (Ψ i (θ j ))π N j (θ j)π I i (Ψ i(θ j )) = B∗ j (θ j ), (4.33)π N i (θ i )π I j(Ψ j (θ i ))π I i (θ j)π N j (Ψ j(θ i )) = B∗ i (θ i ). (4.34)La motivación es otra vez, que las distribuciones a priori que satisfagan lasecuaciones (4.33) y (4.34), tendrán respuestas que serán asintóticamente equivalentesa aquellas obtenidas usando los FBI.Notemos que las soluciones no son necesariamente únicas, ni necesariamentepropias.En el escenario de los modelos anidados de la sección 4.2.1 y bajo el supuesto1, las soluciones a (4.33) y (4.34), están dadas porπ I 1(θ 1 )=π N 1 (θ 1 ), π I 2(θ 2 )=π N 2 (θ 2 ) · B ∗ 2(θ 2 ). (4.35)Típicamente, hay otras soluciones, quizás incluso son soluciones que son distribucionespropias, pero las soluciones en (4.35) son las más simples.Ejemplo 4.7 Para B IA21 sesiguede(4.23)y(4.32)queB ∗ 2(θ 2 )=σ 2 · π ∗ 2(µ|σ 2 )donde π ∗ 2(µ|σ 2 ) fue definido en (4.29). Por lo tanto las distribuciones a prioriintrínseca sonπ I 1(σ 1 )=π N 1 (σ 1 )=1/σ 1 ,π I 2(µ, σ 2 )=π N 2 (σ 2 )B ∗ 2(µ, σ 2 ). = 1 σ 2· π ∗ 2(µ|σ 2 ). (4.36)B21 IA se comporta (asintóticamente) como un factor de Bayes verdadero queusa las distribuciones a priori no informativas de referencia para σ 1 y σ 2 , yladistribución propia π ∗ 2(µ|σ 2 ), para la distribución propia condicional de µ dadoσ 2 . Además de la propiedad de π ∗ 2(µ|σ 2 ), es notable que la distribución a prioriintrínseca para σ 2 es la a priori de referencia 1/σ 2 , y no la distribución a prioride Jeffreys (formal) 1/σ 2 2 usada para deducir B21 IA .Berger y Pericchi observaron este último comportamiento en otros ejemplos;los FBI parecen intentar convertir la original π N i en distribuciones a priori dereferencia para parámetros comunes o modelos similares.

72 Capítulo 4. Factores de Bayes intrínsecosEjemplo 4.8 Para B IA21 , vemos de (4.18), (4.25), y (4.32) que B ∗ 2(θ 2 )=Φ(−θ 2 / √ 2).Por lo tanto las distribuciones a priori intrínsecas (4.35) son:π I 1(θ 1 )=π N 1 (θ 1 )=1, π I 2(θ 2 )=1· Φ(−θ 2 / √ 2) . (4.37)Dos características de estas distribuciones a priori intrínsecas son particularmenteinteresantes. Primero, en (−∞, 0), π I 1 y π I 2 no son proporcionales.Recordemos que se escribieron los modelos como M 1 : θ 1 < 0, M 2 : θ 2 ∈ R 1 , adiferencia de M 1 : θ 1 < 0, M 2 : θ 2 ∈ R 1 , para enfatizar que los θ i pueden tenerdiferentes interpretaciones bajo cada modelo y distribuciones a priori diferentes,incluso en su dominio común. Esta posibilidad parece haberse realizado. Note,sin embargo que sobre (−∞, 0) ,π I 1 y π I 2 difieren substancialmente cerca de cero.LaRsegunda característica interesante de la distribución a priori intrínseca es que∞π I 0 2(θ 2 )dθ 2 = R ∞Φ(−θ0 2 / √ 2) dθ 2 =1/ √ π, por lo tanto π I 2(θ 2 |{θ 2 > 0}) espropia.El comportamiento de las distribuciones a priori intrínsecas, observadas en losejemplos anteriores es típicamente para modelos anidados. Parámetros “comunes”(o al menos parámetros que pueden ser identificados en el sentido de la ecuación(4.9)) típicamente tienen distribuciones a priori intrínsecas que son distribucionesa priori estándares no informativas o ligeras variantes, mientras que paramétrosque están solo en modelos más complejos (o que tienen dominios extendidosen los modelos más complejos) tienen distribuciones a priori intrínsecas propias(condicionales).Teorema 4.1 ParalosFBIAsupongaque(4.32)secumpleyqueπ N 1 (θ 1 ) espropia. Entonces π I 2(θ 2 ), definida en (4.35) es también propia.Demostración 3 Puesto que se asume que el límite existe en (4.32), es ciertoqueZπ I 2(θ 2 )dθ 2 =Z1= límL→∞ L1= límL→∞ LÃπ N 2 (θ 2 ) límL→∞ EM 2LXZ Zl=1l=1θ 2"1L#!LXB12(X(l))N dθ 2l=1π N 2 (θ 2 )f 2 (x(l)|θ 2 )B N 12(x(l))d(x(l)dθ 2LXZm N 2 (x(l)). £ m N 1 (x(l))/m N 2 (x(l)) ¤ d(x(l))

4.2. Factores de Bayes para módelos anidados 731= límL→∞ L1= límL→∞ LLXZl=1m N 1 (x(l))d(x(l)LX L(1) = lím =1.¥ (4.38)L→∞ Ll=1La última fila se sigue del efecto que π N 1 (θ 1 ) es propia obteniendo m N 1 tambiénlo es. La gran generalidad de este teorema es atenuada por el requerimiento deque π N 1 (θ 1 ) es propia. Finalmente nótese que no existe un teorema análogo paraB21 GI .

74 Capítulo 4. Factores de Bayes intrínsecos

Capítulo 5Selección bayesiana de modelosaplicada al ANOVASean N (x 1 |µ 1 ,σ 2 1),..., N (x k |µ k ,σ 2 k ) las distribuciones normales con mediasµ 1 , ...µ k yvarianzasσ 2 1, ..., σ 2 k desconocidas. Los tamaños de las muestras consideradasson n i ,esdecir,x i =(x i1 ,x i2 , ..., x ini ), y las medias muestrales y varianzasson ¯x i y s 2 i /n i ,i=1, 2, ..., k, respectivamente.El análisis clásico de varianza unidireccional consiste en contrastar si las mediasµ i son todas iguales.Bajo el punto de vista frecuentista este problema posee la dificultad de que unF -contraste exacto (Scheffe 1959) solo existe bajo la condición de que las varianzassontodasiguales(condicióndehomocedasticidad).Engeneral,enuncontextodeheterocedasticidad la razón de verosimilitudes falla (Scheffe 1959, Stuart y Ord1991), de tal manera que la teoría normal de modelos lineales no puede aplicarse.Las aproximaciones asintóticas entonces son necesarias: Welch (1951) propuso unaaproximación basada en un intervalo de confianza asintótico. Una aproximaciónasintótica alternativa basada en una modificación del estadístico F del análisisde varianza usual fue dado por Brown y Forsythe (1974). Para comparaciones deestas aproximaciones, ver Tan y Tabatabai (1986) y Brown y Forsythe (1974).Bajoelpuntodevistabayesianolasoluciónalanálisisdevarianzabajohomocedasticidad(Lindley 1970; Box y Tiao 1973), es basado en la distribución aposteriori de los parámetros (λ 1 ,λ 2 , ..., λ k ),dondeλ i = µ i −µ, i =1, ..., k. Para unα ∈ (0, 1) dado la región más grande que contiene una probabilidad igual a 1 − αes calculada. Entonces, cualquier punto de esta región es aceptado como verosímil:en particular, la regla es aplicada a la hipótesis nula H 0 : λ 1 = λ 2 = ... = λ k .Esto no puede ser considerado como una solución bayesiana: la hipótesis nula, queno es tomada en cuenta en la formulación del problema, tiene una probabilidada posteriori igual a cero. Esta dificultad proviene como consecuencia de que el75

76 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVAproblema se ha enfocado como uno de estimación cuando realmente es un problemade contraste. Para distinguir entre problemas de estimación y problemasde contraste es recomendable ver Jeffreys (1961, pp. 245-249).La propuesta aquí es formular el análisis clásico de varianza como un problemade selección de modelos, en el cual la condición de homocedasticidad no se impone,y para el cual Moreno, Bertolino y Racugno (2001) proponen un procedimientobayesiano por defecto.Consideremos los modelos anidadosyM 1 : f 1 (z(θ 1 )) = N (x 1 |µ, τ 2 1) ···N(x k |µ, τ 2 k), (5.1)M 2 : f 2 (z(θ 2 )) = N (x 1 |µ 1 ,σ 2 1) ···N(x k |µ k ,σ 2 k), (5.2)donde z = (x 1 , ..., x k ),θ 1 = (µ, τ 1 , ..., τ k ) y θ 2 = (µ 1 , ..., µ k ,σ 1 , ..., σ k ). Considerandoque µ y τ i son distribuciones a priori independientes, las distribucionesa priori convencionales para µ y log τ i son distribuciones uniformes (Jeffreys 1961.p. 138), por tantoπ N 1 (θ 1 )= c 1. (5.3)kQτ iSimilarmente, asumamos que µ y σ 1 son también distribuciones a priori independientes,la distribución a priori convencional esi=1π N 2 (θ 2 )= c 2. (5.4)kQσ iEn (5.3) y (5.4), c 1 y c 2 son constantes positivas que no pueden ser especificadasya que π N 1 (θ 1 ) y π N 2 (θ 2 ) no son funciones integrables. Sin la suposiciónde independencia, la regla de Jeffreys daría lugar a distribuciones a priori ligeramentediferentes. Una discusión interesante sobre la selección de distribuciones apriori por defecto esta dado en Kass y Wasserman (1996).Los modelos a comparar son M 1 : © f 1 (z|θ 1 ),π N 1 (θ 1 ) ª y M 2 : © f 2 (z|θ 2 ),π N 2 (θ 2 ) ª .Dada una distribución a priori P ,sobre{M 1 ,M 2 } , la probabilidad a posterioride M 1 es:µP (M 1 |z) = 1+B21(z) N P (M −12),P (M 1 )donde z =(x 1 ,x 2 ,...,x k ) y el factori=1

5.1. El método intrínseco 77RBji N = mN 2 (x)m N 1 (x) = f2 (z|θ 2 )π N 2 (θ 2 )dθR 2, (5.5)f1 (z|θ 1 )π N 1 (θ 1 )dθ 1es el conocido como el factor Bayes de M 2 frente a M 1 . Este factor encierra todala información que tienen los datos alrededor de la distribución de probabilidada posteriori de M 1 .Desafortunadamente, el factor de Bayes en (5.5) está definido salvo una constantemultiplicativa c 2 /c 1 . Para evitar esta dificultad se han propuesto algunasalternativas tales como: la aproximación asintótica de Schwarz (1978), llamadotambién “Criterio de Información Bayesiana” (CIB); el factor de Bayes fraccional(FBF) y el factor de Bayes intrínseco (FBI) propuesto por O’Hagan (1994)y Berger y Pericchi (1996), respectivamente. Críticas y comparaciones de estosmétodos relevantes son incluidos en Berger y Pericchi (1998), De Santis y Spezzaferri(1999), Moreno (1997), Moreno, Bertolino y Racugno (1998) y O’Hagan(1995,1997). Debemos enfatizar que aunque el factor de Bayes fraccional o elfactor de Bayes intrínseco no son factores de Bayes verdaderos, son asintóticamenteconsistentes. Esto permite, bajo ligeras condiciones, hallar distribucionesa priori intrínsecas y fraccionales, para obtener un factor de Bayes verdadero.Motivaciones y justificaciones para el uso de distribuciones a priori intrínsecas enproblemas de selección de modelos han sido dadas por Berger y Pericchi (1997),Moreno (1997), Moreno, Bertolino y Racugno (1998). En este capítulo se construyeny se calculan los correspondientes factores de Bayes del modelo M 2 frentea M 1 . Esta aproximación tiene interesantes propiedades: (i) es un procedimientobayesiano completamente “automático” para comparación de modelos, (ii) estosfactores de Bayes dependen de la muestra a través de estadísticos suficientes, (iii)no dependen de muestras de entrenamiento específicasdetalmaneraquelaestabilidadno representa un problema, (iv) la igualdad B 21 (z) =1/B 12 (z) es váliday consecuentemente se satisface la igualdad P (M 2 |z) =1− P (M 1 |z) .5.1. El método intrínsecoLa idea es dividir la muestra aleatoria x en dos partes, x =(x(l),x(n − l)).La muestra de entrenamiento x(l) =(x 1 ,x 2 , ..., x l ) será usada para convertir ladistribución a priori impropia a una distribución a priori propiaπ i (θ i |x(l)) = f 1(x(l)|θ i )π N i (θ i )m N i (x(l)) ,donde m N i (x(l)) = R f i (x(l)|θ i )π N i (θ i )dθ i ,i=1, 2. El factor de Bayes es entoncescalculado usando los datos x(n − l) y π i (θ i |x(l)) como la distribución a priori

78 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVApropia.Resultando el factor de Bayes parcialdondeB 21 (x(n − l)|x(l)) = B N 21(x) · B N 12(x(l)),B12(x(l)) N = mN 1 (x(l))m N 2 (x(l)) .Note que B 21 (x(n − l)|x(l)) esta bien definido sólo si x(l) es tal que 0

5.3. Distribuciones a priori intrínsecas 79π I 2(θ 2 )=π N 2 (θ 2 )E M 2x(l)|θ 2B N 12(x(l)), (5.7)donde la esperanza es tomada con respecto a la densidad de la muestra de entrenamientominimal x(l) bajo el modelo M 2 .El modelo muestreado en (5.1) esta anidado en (5.2), y para la distribucióna priori dada en (5.4), la muestra de entrenamiento minimal es un vector aleatorioz(l) =(x ij ,i =1, 2, ..., k, j =1, 2), donde x i1 ,x i2 son independientes y distribuidasbajo M 1 como N (x|µ, τ 2 i ) ybajoM 2 como N (x|µ i ,σ 2 i ).Teorema 5.1 Las distribuciones a priori intrínsecas para comparar los modelosM 1 frente a M 2 ,son © π N 1 (θ 1 ),π I 2(θ 2 ) ª , donde π I 2(θ 2 )= R π I 2(θ 2 |θ 1 )π N 1 (θ 1 )dθ 1 yπ I 2(θ 2 |θ 1 )=kYi=1N (µ i |µ, τ 2 i + σ 2 i2HC + (σ i |0,τ i ) denota la media densidad de Cauchy.)HC + (σ i |0,τ i ), (5.8)Demostración 4 Consideremos los modeloskYM 1 : f 1 (z|θ 1 )= N (x i |µ, τ 2 i ), π 1 (θ 1 )=δ(µ, τ 1 , ..., τ k ),yi=1M 2 : f 2 (z|θ 2 )=kYN (x i |µ i ,σ 2 i ), π N 2 (θ 2 )= c 2,kQσ ii=1donde δ(µ, τ 1 , ..., τ k ) es la delta de Dirac en el punto θ 1 =(µ, τ 1 , ..., τ k ) y c 2 esuna constante positiva arbitraria. Luego tenemosQ k Q 2B12(z(l)) N i=1 j=1=N (x ij|µ, τ 2 i )m N 2 (z(l))dondem N 2 (z(l)) = c 2 1.2 k kQ|x i1 − x i2 |Mostraremos el resultado anterior para (x 1 ,x 2 )ylogeneralizaremospara(x i1 ,x i2 ).Sean X 1 y X 2 observaciones independientes de una densidad de localizaciónescalaσ −1 g((x i − µ)/σ) y π N (µ, σ) =1/σ, entonces para x 1 6= x 2 ,m(x 1 ,x 2 )=i=112 |x 1 − x 2 | .i=1

80 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVASin perdida de generalidad consideremos que x 2 >x 1 y se hacen los cambios devariables (µ, σ) → (v, w) ≡ ((x1 − µ)/σ, (x2 − µ)/σ), luegodespejandosetieneσ = x 1 − x 2v − wy µ =¯x −(x1 − x2) (v + w)2 (v − w) ,y el jacobiano de la transformación es de la formaJ =¯∂µ∂v∂σ∂v∂µ∂w∂σ∂w¯ =¯= −σ2v − w = −σ2x1−x2σ(x 1 −x 2 )w −(x 1 −x 2 )v(v−w) 2 (v−w) 2−(x 1 −x 2 ) x 1 −x 2(v−w) 2= −¯¯¯¯¯ (x 1 − x 2 ) 2(v − w) 3(v−w) 2= −σ3x1 − x2 = σ 3|x1 − x2| ,donde v ∈ (−∞, ∞) y w ∈ (v, ∞).Considerando el jacobiano y las nuevas variablesse tiene quem(x 1 ,x 2 ) ==Z ∞ Z ∞1g(v)g(w)dwdv|x 1 − x 2 | −∞ v1 · P (V

5.3. Distribuciones a priori intrínsecas 81dada por la siguiente ecuaciónπ I 2(θ 2 |θ 1 ) = π N 2 (θ 2 )E M 2z(l)|θ 2B12(z(l))Nc 2kYZ Z µ 2 k |x i1 − x i2 |= Q kj=1 σ ×N (x i1 |µ, τ 2 i )N (x i2 |µ, τ 2 i )jc 2i=1==×N (x i1 |µ i ,σ 2 i )N (x i2 |µ i ,σ 2 i )dx i1 dx i21kYZ Z2 k π Q 2k kj=1 σ3 j τ × (|x i1 − x i2 |2j i=1½ ¾− [(xi1 − µ) 2 +(x i2 − µ) 2 ]× exp2τ 2 i½ ¾− [(xi1 − µ× expi ) 2 +(x i2 − µ i ) 2 ])dx2σ 2 i1 dx i2i1kYZ Z2 k π Q 2k kj=1 σ3 j τ × (|x i1 − x i2 |2j i=1½ −(x2× exp i1 + x 2 i2) ¡ ¢τ−2i + σ −2 (x i1 + x i2 )µi +2τ 2 i¾dx i1 dx i2 ,+ (x i1 + x i2 )µ iσ 2 i− µ2τ 2 i− µ2 iσ 2 ihaciendo d 2 i =³x2i1−x 2 i22´2y m i = x i1+x i22, obtenemos=12 k π Q 2k k½¡exp −d 2 i τ−2ij=1 σ3 j τ 2 j×kYZ Z(|x i1 − x i2 |i=1+ σ −2i¢−(m i − µ) 2τ 2 i− (m ¾i − µ i ) 2)dxσ 2 i1 dx i2 . (5.9)iConsiderando las nuevas variables (u i ,v i ), i =1, 2, ..., k definidas comou i = x i1 − x i2 ,v i = x i1 + x i2y despejando, se tiene que x i1 = u i+v iy x2 i2 = v i−u ipara i =1, 2, ..., k. Además2el jacobiano de la transformación esJ =¯∂x i1∂u i∂x i2∂u i∂v i¯¯¯¯ =¯∂v i∂x i1∂x i212− 1 21212¯ = 1 2

82 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVAasíπ I 2(θ 2 |θ 1 ) ==donde1kYZ Z2 k π Q 2k kj=1 σ3 j τ ×2j i=1½ µexp − u2 i τ2i + σ 2 i4 τ 2 i σ2 i1kY2 2k π Q 2k kj=1 σ3 j τ ×2j i=1Z ½|u i | exp − (τ 2 i + σ 2 i ) u 2 i4τ 2 i σ2 iZ( |u i|2− ( v i2− µ) 2τ 2 iZ ∙exp¾du i¸,½|u i | exp − (τ ¾2i + σ 2 i ) u 2 i4τ 2 i σ2 i½u i exp − (τ 2 i + σ 2 i ) u 2 iZ ∞= 20⎡⎤= 2⎣1³ ´ ⎦ · expτ2−2 i+σ 2 i4τ 2 i σ2 i4τ 2 i σ2 i− ( v i2− µ i ) 2σ 2 i½ ∙ (v i− 2− µ) 2du i¾du iτ 2 i½− (τ 2 i + σ 2 i ) u 2 i4τ 2 i σ2 i¾)du i dv i+ ( v i2− µ i ) 2 ¸¾dvσ 2 ii¾ ui =∞u i =0= 4τ 2 i σ 2 iτ 2 i + . (5.10)σ2 iSustituyendo el resultado (5.10) tenemosπ I 2(θ 2 |θ 1 ) ==12 2k π Q 2k kkYZ× expi=11π Q 2k kkYZexpi=1j=1 σ jj=1 σ3 j τ 2 j½−×½−kY 4τ 2 i σ 2 i×τ 2 i=1 i + σ2 i∙ (v i2− µ) 2+ ( v i2− µ i ) 2τ 2 i σ 2 ikY1×τ 2 i=1 i + σ2 i∙ (v i2− µ) 2+ ( v i2− µ i ) 2τ 2 i σ 2 i¸¾dv i¸¾dv i . (5.11)Puesto que A(z − a) 2 + B(z − b) 2 = (A + B)(z − c) 2 + AB (a − A+B b)2 , dondec = 1 (Aa + Bb), haciendo z = v iA+B 2,a= µ, b = µ i ,A= τ −2i y B = σ −2i se tiene

5.3. Distribuciones a priori intrínsecas 83queZ= exp½exp∙ (v i− 2− µ) 2+ ( v i2− µ i ) 2 ¸¾dvτ 2 i σ 2 ii∙ 2τ−2i σ −22¸¾iτ −2i + σ −2 (µ i − µ)⎧iÃ⎨√2v iexp⎩ −1 2− √ ! ⎫22c ⎬¡ ¢2 τ−2i + σ −2 −1/2 ⎭ dv ii∙ 2τ−2i σ −22¸¾iτ −2i + σ −2 (µ i − µ)i( ¡ ¢τ−2i + σ −2 µi vi−√ − √ ) 22c dv i ,2 2½− 1 2Z ∞×−∞= exp½− 1 2Z ∞× exp−∞considerando el cambio de variable t = √ v i2tal que dt= √ 1 2dv i ,Z= exp½exp½− 1 2−× √ Z ∞2−∞½= exp − 1 2∙ (v i2− µ) 2τ 2 iσ −2iτ −2i i∙ 2τ−2i+ σ −2(exp −∙ 2τ−2iτ −2i¡τ−2iσ −2i+ σ −2i+ ( v i2− µ i ) 2 ¸¾dvσ 2 ii2¸¾(µ i − µ)¢+ σ −2 ³it − √ )´22c dt22¸¾(µ i − µ)h√ √ i× 2 2π(τ−2i + σi−2 ) −1/2 ⎧ ⎡ ³ ´= 2 √ µ τ2π i + σ 2 −1/2 ⎨i× expτ 2 i σ2 i⎩ −1 ⎣ 2 ⎤ ⎫1τ ⎬ 2i σ2 i⎦ (µ2 τ 2 i − µ) 2i +σ2 i⎭τ 2 i σ2 i= 2 √ ½1π ³ × exp − 1 ∙ ¸ ¾2τ2´1/2i+σ 2 2 τ 2 ii + (µ i − µ) 2σ2 iτ 2 i σ2 i= 2√ µπ 2τ2√ i σ 2 i2 τ 2 i + σ2 i√2πτi σ i=³τ2i+σ 2 i2´1/2× exp 1/2 ½× exp − 1 ∙2½− 1 ∙22τ 2 i + σ2 i2τ 2 i + σ2 i¸ ¾(µ i − µ) 2¸(µ i − µ) 2 ¾

84 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVA=2πτ i σ i√2π³τ2i+σ 2 i2½× exp − 1 ∙2´1/22 τ 2 i + σ2 i= 2πτ i σ i ·N(µi|µ, τ 2 i + σ 2 i).2Sustituyendo este último resultado en (5.11), se tiene que¸(µ i − µ) 2 ¾π I 2(θ 2 |θ 1 ) ===1π Q 2k kj=1 σ jkY 2 τ iπ τ 2 i + σ2 ii=1kYi=1×kYi=11τ 2 i + σ2 i×·N(µi|µ, τ 2 i + σ 2 i2kYi=1HC + (σ i |0,τ i ) ·N(µi|µ, τ 2 i + σ 2 i2)2πτ i σ i ·N(µi|µ, τ 2 i + σ 2 i2).¥)Este teorema indica que, en la distribución a priori intrínseca π I 2(θ 2 |θ 1 ), lasµ ‘ is son condicionalmente independientes y normalmente distribuidas y σ i |τ i sonindependientes de σ j |τ j ,i6= j, y se distribuye como una media de Cauchy.5.4. Análisis de varianza bajo heterocedasticidadDada la muestra z =(x 11 , ..., x 1n1 ,...,x k1 , ..., x knk ),elfactorBayesparalasdistribuciones a priori {π N 1 (θ 1 ),π I 2(θ 2 )} dadas en el teorema anterior, esR Q nkQnioB21(z) I i=1 j=1 N (x ij|µ i ,σ 2 i ) π I 2(µ i ,σ i )dµ i dσ i= R n Q o . (5.12)ki=1 {Q n ij=1 N (xij|µ, τ 2 −1i )}τ i dτ i dµTrabajando con el numerador tenemosZ Z kY(ni)YN (x ij |µ i ,σ 2 i ) π I 2(µ i ,σ i )dµ i dσ ii=1=Z Z " kY×i=1j=1(nià Z Z kYi=1)YN (x ij |µ i ,σ 2 i )j=1HC + (σ i |0,τ i ) ×N(µi|µ, τ 2 i + σ 2 i2)τ −1i dµdτ i!#dµ i dσ i

5.4. Análisis de varianza bajo heterocedasticidad 85=Z Z⎡⎢⎣⎧kY⎪⎨i=1(2π) −ni/2 σ −n ii⎪⎩⎡ Pn i⎤⎫(x ij − µ i ) 2× exp ⎢⎣ − j=1⎪⎬⎥2σ 2 ⎦i ⎪⎭ −1/2Z Z ( kYµ τ(2π) −1/2 2i + σ 2 i2i=1"× exp − 1 µ #) #τ2i + σ 2 −1i(µ2 2i − µ) 2 2τ iπ(τ 2 i + σ2 i ) × τ −1i dµdτ i dµ i dσ itomando en cuenta (B.2) y (B.3) se cumpleZ"exp − 1 2µ τ2i + σ 2 i2 −1(µ i − µ) 2 #dµ = √ µ τ22π i + σ 2 1/2i,2yZ⎡ Pn i⎤⎡ P(x ij − µ i ) 2n i⎤(xexp ⎢⎣ − j=1⎥⎦ dµ i = (2π)1/2 σ iij − ¯x i ) 2× exp ⎢(n i ) 1/2 ⎣ − j=1⎥⎦ ,2σ 2 i2σ 2 iluego=Z Z⎡⎢⎣⎧kY⎪⎨i=1(2π) −ni/2 σ −n ii⎪⎩⎡ Pn i⎤⎫(x ij − µ i ) 2× exp ⎢⎣ − j=1⎪⎬⎥2σ 2 ⎦i ⎪⎭= −1/2Z ( kYµ τ(2π) −1/2 2i + σ 2 i2i=1µ √ τ22πi + σ 2 1/2) #i 2τ i×2 π(τ 2 i + σ2 i ) × τ −1i dτ i dµ i dσ i⎡ ⎧⎡ Pn i⎤⎫Z ZkY⎪⎨(x ij − µ i ) 2⎢⎣ (2π) −ni/2 σ −n ii × exp ⎢⎣i=1 ⎪⎩− j=1⎪⎬⎥2σ 2 ⎦i ⎪⎭Z ( ) #kY 2π(τ 2 i + σ2 i ) dτ i dµ i dσ ii=1

86 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVA==Z⎡⎢⎣⎧kY⎪⎨i=1Z ( kYi=1(2π) −ni/2 σ −n ii × (2π)1/2 σ i⎪⎩) #2π(τ 2 i + σ2 i ) dτ i dσ iµ kQ −1/22 k (2π) k/2 n i ZZ ( kYi=1i=1(2π) n/2 π k= 2 3k−n2 π −(n+k)2Z ( kYi=1= 2 3k−n2 π −(n+k)2Z (∞ kY×0 i=i= 2 3k−n2 π −(n+k)2⎡⎢⎣⎡ Pn i⎤⎫(x ij − ¯x i ) 2× exp ⎢(n i ) 1/2 ⎣ − j=1⎪⎬⎥2σ 2 ⎦i ⎪⎭⎧kY⎪⎨i=1) #1(τ 2 i + σ2 i ) dτ i dσ ià kY! −1/2 Z " kYn ii=1i=1) #1(τ 2 i + σ2 i ) dτ i dσ ià kY! −1/2n ii=1Z ∞0σ −n i+1i⎪⎩⎡ Pn i⎤⎫(x ij − ¯x i ) 2× exp ⎢⎣ − j=1⎪⎬⎥2σ 2 ⎦i ⎪⎭½∙ ¸¾σ −n i+1i × exp − s2 i2σ 2 i∙ ¸ )1(τ 2 i + × exp − s2 idσ σ2 i )σn i−12σ 2 i dτ iiià kY! −1/2n i × I 2. (5.13)i=1Donde I 2 = R ½∞ Q k R h i ¾∞ 1× exp − s2 0 0 (τi=i2 i +σ2 i )σn i −1idσ2σ 2 i dτ i .iiAhora trabajando con el denominador, se tiene que=Z Z kY Yn i{i=1 j=1⎛ ⎧Z ZkY⎪⎨⎜⎝i=1N (xij|µ, τ 2 i )}τ −1i dτ i dµ(2π) −ni/2 τ −n ii⎪⎩⎡ Pn i⎤ ⎫⎞(x ij − µ) 2× exp ⎢⎣ − j=1⎪⎬⎥2τ 2 ⎦ τ −1 ⎟i ⎠i ⎪⎭dτ idµ

5.4. Análisis de varianza bajo heterocedasticidad 87=(2π) −n/2 Z Z⎛⎜⎝⎧kY⎪⎨i=1τ −n i−1i⎪⎩⎡ Pn i(x ij − µ) 2× exp ⎢⎣ − j=12τ −2i⎤⎫⎞⎪⎬⎥ ⎟⎦ ⎠⎪⎭dτ idµ,pero−= −= −= −= −Pn ij=1Pn ij=1Pn ij=1Pn ij=1Pn ij=1(x ij − µ) 22(x ij − ¯x i +¯x i − µ) 22[(x ij − ¯x i ) 2 +2(x ij − ¯x i )(¯x i + µ)+(¯x i − µ) 2 ]P(x ij − ¯x i ) 2 + n ij=12P(x ij − ¯x i ) 2 + n i(¯x i − µ) 22j=12P2(x ij − ¯x i )(¯x i + µ)+ n i(¯x i − µ) 2.j=1Así(2π) −n/2 Z Z⎛⎜⎝⎧kY⎪⎨i=1τ −n i−1i⎪⎩⎡ Pn i(x ij − µ) 2× exp ⎢⎣ − j=12τ −2i⎤⎫⎞⎪⎬⎥ ⎟⎦ ⎠⎪⎭dτ idµZ Z Ã kY n= (2π) −n/2 τ −(n i+1)ii=1⎡ Pn iP(x ij − ¯x i ) 2 + n i(¯x i − µ) 2× exp ⎢⎣ − j=1j=12τ −2i⎤⎫⎞⎪⎬⎥ ⎟⎦ ⎠⎪⎭dτ idµ,

88 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVAtomando p = n i y a =n iPj=1P(x ij −¯x i ) 2 n i+(¯x i −µ) 2j=1en (B.1), tenemos que2Z Z à kY n(2π) −n/2 τ −(n i+1)ii=1⎡ Pn iP(x ij − ¯x i ) 2 + n ⎤⎫⎞i(¯x i − µ) 2× exp ⎢⎣ − j=1j=1⎪⎬τ −2 ⎥ ⎟i2⎦ ⎠⎪⎭dτ idµ⎧ ⎡ Pn iPZ kY ⎪⎨ (x= (2π) −n/2 1ij − ¯x i ) 2 + n ⎤i−n i /2(¯x i − µ) 2j=1j=1⎢⎥2 ⎣2⎦i=1 ⎪⎩( ∙1 s2i + n i (¯x i − µ) 2 ¸−ni /2 ³ ni´)Γ dµ2 22= (2π) −n/2 Z kYi=1= (2π) −n/2 2 n/2 2 −k Z kYi=1n £s2i + n i (¯x i − µ) 2¤ −n i /2 Γ= π −n/2 2 −k kYZ kY×i=1i=1= π −n/2 2 −k kYn ³ ni´oΓ2n £s2i + n i (¯x i − µ) 2¤ −n i /2 o dµi=1Γ³ ni´odµ2³ ni2⎫´ ⎪⎬dµ⎪⎭n ³ ni´oΓ × I 3 . (5.14)2donde I 3 = R Q noki=1[s 2 i + n i (¯x i − µ) 2 ] −n i/2dµ.Efectuando el cociente entre (5.13) y (5.14), se tieneB I 21(z) ==n QniR Q oki=1 j=1 N (x ij|µ i ,σ 2 i ) π I 2(µ i ,σ i )dµ i dσ iR Q ki=1 {Q n ij=1 N (xij|µ, τ 2 −1i )}τ i dτ i dµµ kQ −1/22 3k−n2 π −(n+k)2 n i × I 2i=1π −n/2 2 Q −k k© ¡i=1 Γni¢ª .2 × I3

5.5. El factor de Bayes para contraste bajo homocedasticidad 89AsíB I 21(z) =I 2µ5k−nkQ 1/2 kY−(2 2 ) π k/2 n ii=1i=1.© ¡Γni¢ª2 × I35.5. El factor de Bayes para contraste bajo homocedasticidadEn la sección anterior el factor de Bayes es derivado bajo la condición de heterocedasticidad.Cuando se asume la condición de homocedasticidad los modelosacompararsonf 1 (z|θ 1 )=N (x 1 |η 1 ,τ 2 )...N (x k |η k ,τ 2 ) y f 2 (z|θ 2 )=N (x 1 |µ 1 ,σ 2 )...N (x k |µ k ,σ 2 ).El contraste de homocedasticidad frente al de heterocedasticidad puede hacerseen un contexto frecuentista usando la aproximación de Bartlett. Desde elpunto de vista bayesiano los modelos anidados a ser comparados son:yM 1 : f 1 (z|θ 1 )=kYi=1N (x i |η i, τ 2 ), π N 1 (θ 1 )= c 1τ(5.15)M 2 : f 2 (z|θ 2 )=kYN (x i |µ i, σ 2 i ), π N 2 (θ 2 )=i=1c 2Q ki=1 σ i(5.16)donde θ 1 = (η 1 ,...,η k ,τ), y θ 2 = (µ 1 , ..., µ k ,σ 1 , ...σ k ) y c 1 , c 2 son constantespositivas arbitrarias. Se supone que los parámetros de localización y escala encada densidad son a priori independientes.Teorema 5.2 Las distribuciones a priori intrínseca para comparar el modelo(5.15) frente al (5.16) son {π N 1 (θ 1 ),π HI2 (θ 2 )}, dondeZπ HI2 (θ 2 )=π HI2 (θ 2 |θ 1 )π N 1 (θ 1 )dθ 1yπ HI2 (θ 2 |θ 1 )=kYi=1N (µ i |η i , τ 2 + σ 2 i2)HC + (σ i |0,τ).

90 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVADemostración 5 Consideremos los modelosyM 1 : f 1 (z|θ 1 )=M 2 : f 2 (z|θ 2 )=kYN (x i |η i, τ 2 ), π 1 (θ 1 )=δ(η 1 , ..., η k, τ)i=1kYN (x i |µ i, σ 2 i ), π N 2 (θ 2 )=i=1c 2Q ki=1 σ ,idonde δ(µ, τ 1 , ..., τ k ) es la delta de Dirac en el punto θ 1 =(µ, τ 1 , ..., τ k ) y c 2 esuna constante positiva arbitraria. Luego tenemos queB N 12(z(l)) =Q k Q 2i=1 j=1 N (x ij|η i ,τ 2 ),m N 2 (z(l))dondem N 2 (z(l)) = c 2 1.2 k kQ|x i1 − x i2 |i=1La distribución a priori intrínseca condicional de θ 2 esπ I 2(θ 2 |θ 1 ) = π N 2 (θ 2 )E M 2z(l)|θ 2B12(z(l))Nc 2kYZ Z µ 2 k |x i1 − x i2 |= Q kj=1 σ ×N (x i1 |ηjc i ,τ 2 )N (x i2 |η i ,τ 2 )2i=1==×N (x i1 |µ i ,σ 2 i )N (x i2 |µ i ,σ 2 i )dx i1 dx i21kYZ Z2 k π Q 2k kj=1 σ3 j τ × (|x i1 − x i2 |2i=1½ ¾− [(xi1 − η× expi ) 2 +(x i2 − η i ) 2 ]2τ½ 2¾− [(xi1 − µ× expi ) 2 +(x i2 − µ i ) 2 ])dx i1 dx i212 k π 2k τ 2k Q kj=1 σ3 j×2σ 2 ikYZ Zi=1½(|x i1 − x i2 |×exp − (x2 i1 + x 2 i22× ¡ ¢τ −2 + σ −2 (x i1 + x i2 )ηi − i− (x i1 + x i2 )µ i+ η2 iτ 2σ 2 i τ + µ2 i2 σ 2 i¾)dx i1 dx i2

5.5. El factor de Bayes para contraste bajo homocedasticidad 91=12 k π 2k τ Q 2k k½exp −d 2 ij=1 σ3 jסτ −2 + σ −2ikYZ Z(|x i1 − x i2 |i=1¢−(m i − η i ) 2τ 2 − (m i − µ i ) 2σ 2 i¾)dx i1 dx i2 , (5.17)donde d 2 i = (x i1−x i2 ) 2y m4 i = x i1+x i2, respectivamente. Considerando las nuevas2variables (u i ,v i ),i=1, 2, ..., k definidas comou i = x i1 − x i2 , v i = x i1 + x i2 ,despejando se tiene que x i1 = u i+v i,x2 i2 = v i−u i,i=1, 2, ..., k, yeljacobianode2la transformación es:∙ ∂xi1 ∂x i1¸ ∙ ¸∂uJ = i ∂v i 1/2 1/2==1/2.−1/2 1/2∂x i2∂u i∂x i2∂v iSustituyendo las nuevas variables en (5.17) tenemos queπ I 2(θ 2 |θ 1 ) ==12 k π 2k τ Q ×2k kj=1 σ3 j½ µexp − u2 i τ 2 + σ 2 i4 τ 2 σ 2 i12 2k π 2k τ Q 2k kZ|u i | expj=1 σ3 j×kYZ Z( |u i|2i=1− ( v i2− η i ) 2kYZ[i=1½− (τ 2 + σ 2 i ) u 2 i4τ 2 σ 2 iτ 2exp¾du i ],donde,Z ½|u i | exp − (τ ¾2 + σ 2 i ) u 2 idu4τ 2 σ 2 i = 2i⎡Z ∞0− ( v i2− µ i ) 2σ 2 i¾)du i dv i½ ∙ (v i− 2− η i ) 2+ ( v i2− µ i ) 2τ 2 σ 2 i= 2⎣³τ−2 2 +σ 2 i× exp= 4τ 2 σ 2 i.τ 2 + σ 2 i½u i exp − (τ 2 + σ 2 i ) u 2 i4τ 2 σ 2 i⎤1´ ⎦4τ 2 σ 2 i½− (τ 2 + σ 2 i ) u 2 i4τ 2 σ 2 i¾ ui =∞u i =0¾du i¸¾dv i

92 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVASustituyendo este último resultado tenemosπ I 2(θ 2 |θ 1 ) ==12 2k π 2k τ Q 2k kkYZ× expi=11π 2k τ Q 2k kkYZ× expi=1j=1 σ3 j½−j=1 σ3 j½−×kY 4τ 2 σ 2 iτ 2 + σ 2 ii=1∙ (v i2− η i ) 2+ ( v i2− µ i ) 2τ 2 σ 2 ikY×i=1τ 2 σ 2 iτ 2 + σ 2 i∙ (v i2− η i ) 2+ ( v i2− µ i ) 2τ 2 σ 2 i¸¾dv i¸¾dv i . (5.18)Puesto que A(z − a) 2 + B(z − b) 2 = (A + B)(z − c) 2 + AB (a − A+B b)2 , dondec = 1 (Aa + Bb), haciendo z = v iA+B 2,a= η i ,b= µ i ,A= τ −2 y B = σ −2i se tienequeZ ½ ∙ (v iexp − 2− η i ) 2+ ( v i2− µ i ) 2 ¸¾dvτ 2 σ 2 ii½= exp − 1 ∙ 2τ −2 σ −22¸¾i2 τ −2 + σ −2 (µ i − η i )⎧iZ Ã∞ ⎨√2v i× exp−∞ ⎩ −1 2− √ ! ⎫22c ⎬¡ ¢2 τ−2+ σ −2 −1/2 ⎭ dv ii½= exp − 1 ∙ 2τ −2 σ −22¸¾i2 τ −2 + σ −2 (µ i − η i )iZ (∞¡ ¢τ −2 + σ −2 µi vi× exp −√ − √ ) 22c dv i ,−∞2 2considerando el cambio de variable t = √ v i2tal que dt= √ 1 2dv i ,Z= exp½exp½− 1 2−× √ Z ∞2 exp−∞∙ (v i2− µ) 2τ 2 i∙ 2τ −2 σ −2iτ −2 + σ −2(−i+ ( v i2− µ i ) 2 ¸¾dvσ 2 ii2¸¾(µ i − η i )¡τ −2 + σ −2i2¢³t − √ )´22c dt

5.5. El factor de Bayes para contraste bajo homocedasticidad 93½= exp − 1 2=×∙ 2τ −2 σ −2iτ −2 + σ −2ih√ √2 2π(τ −2 + σ −2i2πτσ i√2π³τ 2 +σ 2 i2´1/2× exp(µ i − η i ) 2¸¾i) −1/2 ½− 1 2σ 2 i + τ 2= 2πτσ i ·N(µ i |η i, ),2∙2τ 2 + σ 2 i¸(µ i − η i ) 2 ¾yporlotantoπ I 2(θ 2 |θ 1 ) ===τ 2kπ 2k τ Q 2k kj=1 σ3 jkYi=1kYi=12πττ 2 + σ 2 i×kYi=1σ 2 iτ 2 + σ 2 i×·N(µi|η i , τ 2 + σ 2 i2)kYi=1HC + (σ i |0,τ) ·N(µi|η i , τ 2 + σ 2 i22πτσ i ·N(µi|µ, τ 2 + σ 2 i2).¥)Para una muestra z, el factor Bayes con las distribuciones a priori intrínsecas{π N 1 (θ 1 ),π HI2 (θ 2 )} es de la formaB HI21 (z) =1I2 n−3k1 , (5.19)2 −1 π k Γ( n−k2 )Sn−kPdonde S 2 = k s 2 i , yi=1I 1 = R ∞0τ k−1 ½ k QPor definición se tiene lo siguientei=1R ∞0exp{−s 2 i /2σ2 i }(σ 2 i +τ 2 )σ n i −1idσ i¾dτ.B HI21 (z) =R ∙ Q ki=1{ Q µn iRj=1 N (x ij|µ i ,σ 2 i ) } τ−1 Q ki=1N (µ i |η i , τ2 +σ 2 i)HC2 + (σ i |0,τ)dη i¸dµ i dσ iR Q ki=1Q nij=1 N (xij|η i ,τ 2 )τ −1 dη i dτ.

94 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVATrabajando con el numerador se tiene=Z Z " kY×Z Zi=1(nià Z Zτ −1⎛⎜⎝⎧kY⎪⎨i=1Z Z "× τ −1"× exp − 1 2)YN (x ij |µ i ,σ 2 i )j=1kYi=1N (µ i |η i , τ 2 + σ 2 i2(2π) −ni/2 σ −n ii⎪⎩(kYµ τ(2π) −1/2 2 + σ 2 i2i=1µ #τ 2 + σ 2 −1i(µ2i − η i ) 2Tomando en cuenta (B.2) y (B.3) se tiene queZ!#)HC + (σ i |0,τ)dη i dτ dµ i dσ i⎡ Pn i⎤⎫(x ij − µ i ) 2× exp ⎢⎣ − j=1⎪⎬⎥2σ 2 ⎦i ⎪⎭ −1/2)# !2τπ(τ 2 + σ 2 i ) dη i dτ dµ i dσ i .⎡ Pn i⎤⎡ P(x ij − µ i ) 2n i⎤(xexp ⎢⎣ − j=1⎥⎦ dµ i = (2π)1/2 σ iij − ¯x i ) 2× exp ⎢(n i ) 1/2 ⎣ − j=1⎥⎦2σ 2 i2σ 2 iyZ"exp − 1 2µ τ 2 + σ 2 i2 −1(µ i − η i ) 2 #dη i = √ µ τ 2 + σ 2 1/2i2π,2asíZ Z⎛⎜⎝⎧kY⎪⎨i=1Z Z "× τ −1"× exp − 1 2(2π) −ni/2 σ −n ii⎪⎩(kYµ τ(2π) −1/2 2 + σ 2 i×2i=1µ #τ 2 + σ 2 −1i(µ2i − η i ) 2 ×⎡ Pn i⎤⎫(x ij − µ i ) 2× exp ⎢⎣ − j=1⎪⎬⎥2σ 2 ⎦i ⎪⎭ −1/2)# !2τπ(τ 2 + σ 2 i ) dη i dτ dµ i dσ i

5.5. El factor de Bayes para contraste bajo homocedasticidad 95==ZZ Z⎛⎜⎝Z " τ −1⎧kY⎪⎨i=1(2π) −ni/2 σ −n ii⎪⎩(kY(2π) −1/2 ×i=1¾¸2τ×π(τ 2 + σ 2 i )⎛⎜⎝⎧kY⎪⎨i=1Z " τ −1dτ dµ i dσ i⎡ Pn i⎤⎫(x ij − µ i ) 2× exp ⎢⎣ − j=1⎪⎬⎥2σ 2 ⎦i ⎪⎭µ τ 2 + σ 2 i2(2π) −ni/2 σ −n ii × (2π)1/2 σ i⎪⎩(kY(2π) −1/2 ×i=1¾¸2τ×π(τ 2 + σ 2 i )= (2π)−n/2 (2π) k 2 2 kπ kZ " τ −1Zdτ dσ i⎛⎜⎝⎧kY⎪⎨i=1 −1/2× √ µ τ 2 + σ 2 1/2i2π2⎡ Pn i⎤⎫(x ij − ¯x i ) 2× exp ⎢(n i ) 1/2 ⎣ − j=1⎪⎬⎥2σ 2 ⎦i ⎪⎭µ τ 2 + σ 2 i2σ −n ii × σ i⎪⎩kY½ ¾ # !τ(τ 2 + σ 2 i ) dτ dσ ii=1⎛= 2 3k−n n+k2 π−(2 ) Z ⎜⎝Z " τ −1 −1/2× √ µ τ 2 + σ 2 1/2i2π2⎡ Pn i⎤⎫(x(n i ) × exp ij − ¯x i ) 2⎢1/2 ⎣ − j=1⎪⎬⎥2σ 2 ⎦i ⎪⎭⎧⎡ Pn i⎤⎫kY⎪⎨σ −n ii × σ (xi(n ⎪⎩i ) × exp ij − ¯x i ) 2⎢1/2 ⎣ − j=1⎪⎬⎥2σ 2 ⎦i ⎪⎭i=1kY½ ¾ # !τ(τ 2 + σ 2 i ) dτ dσ i .i=1PHaciendo s 2 i = n i(x ij − ¯x i ) 2j=1à kY=2 3k−n2 π − ( n+k2 )i=1! −1/2 Z (∞kY Zn i τ k−10i=1σ n i−1i∙1(τ 2 + σ 2 i ) × exp− s2 i2σ 2 i¸ )dσ i dτ.

96 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVADenotando I 1 = R ∞0τ k−1 ½ k Qi=1R ∞0h i ¾1× exp − s2(τ 2 +σ 2 i )σn i −1idσ2σ 2 i dτiitenemos2 3k−n2 π − (n+k)2 (Z×kYn i ) −1/2i=1Z ∞( kY ∙ ¸ )τ k−1 1× exp − s2 idσi=1 0 (τ 2 + σ 2 i )σn i−12σ 2 i dτiikYn i ) −1/2 × I 1 . (5.20)= 2 3k−n2 π − (n+k)2 (i=1Ahora trabajando con el denominador y tomando en cuenta (B.2)Z⎡ Pn i⎤⎡ P(x ij − η i ) 2n i⎤(xexp ⎢⎣ − j=1⎥2τ 2 ⎦ dη i = (2π)1/2 τij − ¯x i ) 2× exp ⎢(n i ) 1/2 ⎣ − j=1⎥2τ 2 ⎦se tiene que===Z Z kY(ni)YN (x ij |η i ,τ 2 ) τ −1 dη i dτi=1j=1⎧⎡ Pn i⎤⎫Z Z kY⎪⎨(x ij − η i ) 2τ −1 (2π) −ni/2 τ −n i× exp ⎢⎣i=1 ⎪⎩− j=1⎪⎬⎥2τ 2 ⎦ dη i dτ⎪⎭⎧⎡ Pn i⎤⎫Z kY⎪⎨(xτ −1 (2π) −ni/2 τ −n (2π)1/2 τij − ¯x i ) 2i× exp ⎢(ni=1 ⎪⎩i ) 1/2 ⎣ − j=1⎪⎬⎥2τ 2 ⎦ dτ⎪⎭⎡⎤kP Pn iZkY(x ij − ¯x i ) 2τ −(n−k+1) (2π) k−n2 ( n i ) −1/2 × exp ⎢⎣ − i=1 j=1⎥2τ 2 ⎦ dτ.i=1

5.5. El factor de Bayes para contraste bajo homocedasticidad 97kPn iP(x ij −¯x i ) 2i=1 j=1Tomando p = n − k y a =en (B.1)2⎡⎤kP Pn iZkY(x ij − ¯x i ) 2τ −(n−k+1) (2π) k−n2 ( n i ) −1/2 × exp ⎢⎣ − i=1 j=1⎥2τ 2 ⎦ dτi=1=k−n(2π) 22(⎛⎞kP Pn ikYn i ) −1/2 Γ( n − k(x ij − ¯x i ) 2i=1 j=1) ⎜⎟2 ⎝ 2 ⎠i=1− (n−k)2= Γ( n − k )π k−n2 2 −1 S −(n−k) (2kYn i ) −1/2 , (5.21)donde S 2 = P ki=1 s2 i .Efectuando el cociente de las ecuaciones (5.20) y (5.21), tenemos queB HI21 (z) =2 3k−n2 π − (n+k)2 ( k Qi=1i=1n i ) −1/2 × I 1=Γ( n−k k−nQ)π 2 22 −1 S −(n−k) ( k n i ) −1/2i=1A continuación veamos un ejemplo de los resultados obtenidos.1I2 n−3k1 . (5.22)2 −1 π k Γ( n−k2 )Sn−kEjemplo 5.1 (Contraste de homocedasticidad frente a heterocedasticidad) Comoilustración vamos a considerar un ejemplo, que aparece en Welch(1951). Supóngaseque los datos proceden de tres poblaciones normales, y son obtenidos lossiguientes resultados: (n 1 ,n 2 ,n 3 )=(20, 10, 10), (¯x1, ¯x2, ¯x3) = (27.8, 24.1, 22.2),(s 2 1,s 2 2,s 2 3) = (1141.9, 56.7, 138.6).Se contrastará si todas las varianzas son todas iguales. Se calcularán los factoresde Bayes con las distribuciones a priori intrínsecas B21 HI . Además, con elobjeto de ilustrar mejor su comportamiento, se calculan el valor-p y los factores deBayes para diferentes valores de s 2 1 y los restantes valores muestrales fijos. Estosvalores se presentan en la segunda y tercera columna. Para aquellos que prefierenla interpretación de la probabilidad a posteriori frente a los factores de Bayes, sehan calculado las probabilidades a posteriori de M 1 correspondientes a los valoresde los factores de Bayes y la distribución a priori P (M 1 )=P (M 2 )=1/2.

98 Capítulo 5. Selección bayesiana de modelos aplicada al ANOVATabla 5.1.Factores de Bayes intrínsecoss 2 1 valor − p B21 HI P HI (M 1 |x)1141.9 0.001 19.20 0.05600 0.04 0.65 0.61300 0.31 0.08 0.93Para valores de s 2 1 lejanos a los de s 2 2 y s 2 3 el modelo bajo heterocedasticidadse encuentra claramente favorecido como indica la primera fila; en la columnadel factor de Bayes intrínseco podemos observar quel número es mucho mayorque 1, por lo cual es favorecido el modelo 2 (modelo bajo heterocedasticidad); yen la columna de la probabilidad a posteriori podemos observar que el modelo 1(modelo bajo homocedasticidad) es muy poco favorecido. Cuando s 2 1 se aproximaalosvaloresdes 2 2 y s 2 3 las probabilidades a posteriori aumentan favoreciendoel modelo bajo homocedasticidad. Mientras que los factores de Bayes intrínsecosdisminuyen, favoreciendo también el modelo bajo homocedasticidad.

Capítulo 6ConclusionesEnlamayoríadelosproblemasdedecisión,aparecedeformanaturallaincertidumbre.Lo que observamos, y podemos medir, es solo una posibilidad entremuchas –como en el lanzamiento de una moneda– y, de algún modo, necesitamosde una escala que nos represente la verosimilitud de lo realmente observadoen relación con el resto. En otras ocasiones, ni siquiera existe la posibilidad deobservar la realización de un suceso. Así, si nos preguntamos sobre la posibilidadde que el hombre ponga el pie en el planeta Marte antes del año 2020, éste es unsuceso incierto de tipo no repetitivo, pero al que podemos asignar una mayor omenor verosimilitud, de modo puramente personal o subjetivo y que dependerá,en gran medida, de lo informado que esté uno en el tema. Un experto en el áreadaría una respuesta muy distinta que la que nos ofrecería una persona ajena altema.Lo más interesante de este tipo de resultados es que cada individuo, dependiendode la información que tenga sobre los sucesos inciertos, cuantifica su incertidumbrecon una medida de probabilidad personal o subjetiva.La conclusión que se sigue es que todas las probabilidades son siempre condicionadasa un cierto estado de información, no hay, por consiguiente, probabilidadesabsolutas.El teorema de Bayes es válido en todas las aplicaciones de la teoría de la probabilidad.Sin embargo, hay una controversia sobre el tipo de probabilidades queemplea. En esencia, los seguidores de la estadística tradicional sólo admiten probabilidadesbasadas en experimentos repetibles y que tengan una confirmaciónempírica mientras que los llamados estadísticos bayesianos permiten probabilidadessubjetivas. El teorema de Bayes puede servir entonces para indicar cómodebemos modificar nuestras probabilidades subjetivas cuando recibimos informaciónadicional de un experimento. La estadística bayesiana está demostrando suutilidad en ciertas estimaciones basadas en el conocimiento subjetivo a priori y99

100 Capítulo 6. Conclusionespermite revisar esas estimaciones en función de la evidencia.Ahora bien nuestro estudio gira alrededor de los factores de Bayes los cualesutilizan normalmente una distribución a priori impropia que depende de una constantearbitraria cuya eliminación puede ser costosa en los problemas de contrastede hipótesis y selección de modelos.De todas las metodologías previamente ensayadas la desarrollada por Bergery Pericchi (1996) con la introducción de factores de Bayes intrínsecos y distribucionesa priori intrínsecas ha tenido un desarrollo extenso en multitud deproblemas.Lo que podemos concluir después de haber hecho un estudio minucioso a losfactores de Bayes intrínsecos es lo siguiente:Se puede apreciar que los factores de Bayes intrínsecos son completamenteautomáticos, en el sentido que son basados solo en los datos y en distribuciones apriori no informativas estándares. Sin embargo, existe el problema de la elecciónóptima de la muestra de entrenamiento minimal.Otra ventaja es que corresponden a factores de Bayes actuales para distribucionesa priori intrínsecas razonables; además que los factores de Bayes puedenser aplicados para comparación de modelos y predicción.Los factores de Bayes pueden ser aplicados en situaciones en las cuales losmétodos asintóticos bayesianos no son aplicables. También pueden usarse paracontraste de hipótesis bayesianos estándar.Una de las desventajas de los factores de Bayes intrínsecos es que computacionalmenteson muy costosos, ya que su cálculo puede ser bastante intensivo.Otra desventaja es que no son invariantes para transformaciones multivariadasde los datos.Los factores de Bayes intrínsecos pueden ser inestables para muestrasde tamaño pequeño.Ahora con respecto al quinto capítulo, podemos decir que tanto el contraste dehipótesis bajo homocedasticidad como el contraste de hipótesis bajo heterocedasticidadtienen una fundamentación bayesiana, pues fueron resueltos estrictamentebajo los principios de cálculo de probabilidades y teoría de decisión.La obtención de los factores de Bayes intrínsecos para el contraste de hipótesisbajo homocedaticidad así como bajo heterocedasticidad es muy laborioso, peroeste procedimiento puede ser omitido utilizando las ecuaciones (5.19) y (5.22),las cuales fueron demostradas minuciosamente.Las ecuaciones antes mencionadas así como la utilización de algún paquetecomputacional, reduce ampliamente el trabajo para la selección de modelos. Perodesgraciadamente para algunas distribuciones a priori, los factores de Bayes intrínsecosson difíciles de calcular, ya que surgen integrales que no pueden serresueltas analíticamente, para resolver éste problema existen métodos númericos.Así la conclusión general a que se llega es que bajo el enfoque bayesiano los

101problemas de selección de modelos y contraste de hipótesis se resuelven a trávesde los factores de Bayes, cuando la distribución a priori es propia. En el caso enque al definir los factores de Bayes, la distribución apriori sea una distribución apriori impropia, se utilizarán los “factores de Bayes intrínsecos” (FBI), los cualesfueron definidos por Berger y Pericchi (1996).Al final del capítulo 5 se lleva a cabo una selección de modelos, contrastandohomocedasticidad frente a heterocedasticidad. Aunque este ejemplo es muy breveilustra claramente como utilizar los factores de bayes intrínsecos.

102 Capítulo 6. Conclusiones

Apéndice ANotaciónµ Media poblacionalσ 2 Varianza poblacionalΘ Espacio muestralexp (θ) Exponencial de θπ(θ) Distribución a priori del parámetro θf(x|θ) Función de densidad de los datosI(θ) Matriz de información esperada de Fisherπ(θ|x) Distribución a posteriori del parámetro θh(x, θ) Distribución conjunta de x y θN (θ, σ 2 ) Distribución normal con media θ yvarianzaσ 2Γ(α) La función gammaπ N i (θ) Distribución a priori no informativa de θπ I i (θ i ) Distribución a priori intrínseca de θ i℘(θ) Distribución PoissonF Estadistico de pruebaF m,n Distribución F con m y n grados de libertadx(l) Muestra de entrenamiento minimaldet Î Determinante de la matriz observada de Fishert(α, µ, σ 2 ) Distribución t con α grados de libertad, parámetro delocalización µ y parámetro de escala σ 2C(µ, σ) Distribución de Cauchy con −∞ 0, β>0103

104 Capítulo A. NotaciónN p (θ, P )i.i.dm(x)I pNormal p-variada, con media µ ymatrizdecovarianza PIndependiente e idénticamente distribuidaDensidad marginal de XLa matriz idéntidad de (p × p).La función de verosimilitudLa media de la muestra; esto es ¯x =(1/n) P ni=1 x il x (θ)¯xE M 2Esperanza a ˆθ ˆθ 2 bajo el modelo M 22Hipótesis nulaH 0H 1Hipótesis alternativaABREVIACIONESFte. de var.Trat.G.lS.CC.MCMEBloq. Tot.Med. del bloqueTot. del trat.Med. del trat.Fuente de variaciónTratamientoGrados de libertadSuma de cuadradosCuadrado medioCuadrado medio esperadoBloque totalMedia del bloqueTotal del tratamientoMedia del tratamiento

Apéndice BIntegralesPara a>0, p>0Z ∞0x −(p+1) e −ax−2 dx = 1 2 a−p/2 Γ(p/2)(B.1)Z⎡ Pn i⎤⎡ P(x ij − µ i ) 2n i⎤(xexp ⎢⎣ − j=1⎥⎦ dµ i = (2π)1/2 σ iij − ¯x i ) 2× exp ⎢(n i ) 1/2 ⎣ − j=1⎥⎦2σ 2 i2σ 2 i(B.2)Z"exp − 1 2µ τ 2 + σ 2 i2 −1(µ i − η i ) 2 #dη i = √ µ τ 2 + σ 2 1/2i2π. (B.3)2Para a>0Z ∞0e −ax2 dx = 1 2r πa(B.4)105

106 Capítulo B. Integrales(B.2) es obtenida de la siguiente formaZ⎡ Pn i⎤(x ij − µ i ) 2exp ⎢⎣ − j=1⎥⎦ dµ i2σ 2 i==ZZ⎡ Pn i⎤(x ij − ¯x i +¯x i − µ i ) 2exp ⎢⎣ − j=1⎥⎦ dµ i2σ 2 i⎡ Pn iP(x ij − ¯x i ) 2 +2 n iP(x ij − ¯x i )(¯x i − µ i )+ n ⎤i(¯x i − µ i ) 2exp ⎢⎣ − j=1j=1j=1⎥⎦ dµ i2σ 2 i⎡ Pn i⎤(x ij − ¯x i ) 2 Z= exp⎢⎣ − j=1⎥⎦2σ 2 i⎡ Pn i⎤(x ij − ¯x i ) 2 Z= exp⎢⎣ − j=1⎥⎦2σ 2 i⎡ Pn i⎤(x ij − ¯x i ) 2 Z= exp⎢⎣ − j=1⎥⎦2σ 2 i⎡ Pn iP(¯x i − µ i ) 2 +2 n ⎤i(x ij − ¯x i )(¯x i − µ i )exp ⎢⎣ − j=1j=1⎥⎦ dµ i⎡ Pn i⎤(¯x i − µ i ) 2exp ⎢⎣ − j=1⎥⎦ dµ i2σ 2 iexp∙− n ¸i(¯x i − µ i ) 2dµ i2σ 2 i2σ 2 itomando t = µ i − x i y dt = dµ i⎡ Pn i⎤⎡ P(x ij − ¯x i ) 2n i⎤Z= exp⎢⎣ − j=1⎥2σ 2 ⎦ exp∙− n ¸(xit 2ij − ¯x i ) 2 sdt =exp⎢i2σ 2 ⎣ − j=1⎥ πi2σ 2 ⎦ · n ii2σ 2 i⎡ Pn i⎤(x= (2π)1/2 σ iij − ¯x i ) 2× exp ⎢(n i ) 1/2 ⎣ − j=1⎥⎦ .2σ 2 i

107(B.3) es encontrada de la siguiente maneraZ "exp − 1 µ #τ 2 + σ 2 −1i(µ2 2i − η i ) 2 dη itomando t =(η i − µ i ),dt= dη i y usando (B.4)Z "∞exp − 1 µ τ 2 + σ 2 −1#i(µ−∞ 2 2i − η i ) 2 dη iZ "∞= 2 exp − 1 µ #τ 2 + σ 2 −1it 2 dt0 2 2⎡⎤v= 2⎢1u π⎥⎣2t ´−1 ⎦qπ(τ = 2 + σ 2 i )=12³τ 2 +σ 2 i2qπ(τ 2 + σ 2 i )= r= √ 2πµ τ 2 + σ 2 i2 1/2.2π( τ 2 + σ 2 i2)

108 Capítulo B. Integrales

Bibliografía[1] Alamilla López Norma Edith (2004). Selección bayesiana de modelos: Unaaplicación a los modelos de regresión lineal heterocedásticos usando factoresde Bayes intrínsecos. Tesis de maestría. IMASS-UNAM.[2] An Intrinsic Limiting Procedure for Model Selection and Hypothesis Testing.Journal of the American Statistical Association, 93, 1451-1460.[3] Berger, James O. (1985). Statistical Decision Theory and Bayesian Analysis.Segunda edición, Springer-Verlag.[4] Berger, James O. (1996). The Intrinsic Bayes Factor for model selection andPrediction. Journal of the American Statistical Asociation, 91, 109-122.[5] Berger, J. O. and Pericchi, L.R. (1998). On Cristicism and Comparison ofdefault Bayes Factors for Model Selection and Hypothesis Testing. Procedingsof the Workshop on Model Selection. Ed. W. Racugno, Pitágora Ed.,Bologna, 1-50.[6] Bernardo, José M. y Smith Adrian F. M. (1994), Bayesian Theory. JohnWiley & Sons Ltd.[7] Box, G. E. P., and Tiao, G. C. (1973). Bayesian Inference in StatisticalAnalysis. Reading, M. A: Addison Wesley.[8] Box, G. E. P., and Tiao, G. C. (1992). Bayesian Inference in StatisticalAnalysis. Wiley Classics Library Edition.[9] Casella, George y Berger, Roger I. (2002). Statistical Inference.Duxbury/Tomson Learning.[10] Moreno,E.andGiron,J.(1999).Model selection with vague priori information.Technical Report. University of Granada.109

110 BIBLIOGRAFÍA[11] Moreno, E., Bertolino F. and Racugno W. Bayesian Model selection Approachto Analysis of variance under heterocedasticy. The Statiscian Journalof the Royal Stadistic Society - Series D. Vol 49, issue 4. December 2000.[12] Morris, H. Degroot. Probabilidad y Estadística. Segunda edición. AddissonWesley.[13] Susan J. and Arnold J. Probabilidad y estadística con aplicaciones para ingenieríay ciencias computacionales.Cuarta edición. McGrawHill.[14] Zacarías Santiago Adriana (2006). Métodos de integración y simulaciónMonte Carlo en la teoría bayesiana. Tesis de licenciatura. Universidad Tecnológicade la Mixteca.