Noter til eksponentielle familier. Anden udgave. Version 9.2.2006.

More documents

Recommendations

Info

Kapitel 2 Eksponentielle familier 2.1 Motivation Eksponentielle familier er klasser af sandsynlighedsmål med „særligt pæne egenskaber“. Det smarte er, at når først vi har vist (og det er ikke svært), at noget er en eksponentiel familie, så ved vi, at en hel masse resultater er opfyldt. Lad os som et eksempel betragte n uafhængige variable X1, . . . , Xn som er normalfordelte med middelværdi µ og varians σ 2 . Hvis f (·) er en funktion fra R ind i R med den egenskab, at E µ,σ 2 f ( ¯X) = 0 for alle µ ∈ R, så kan vi slutte, at f er identisk lig med nul pånær på en nulmængde. Denne egenskab kan måske nok synes lidt teknisk, men den kan hjælpe os til at vise andre egenskaber. Det sædvanlige estimat for σ 2 er s 2 = ∑i(X i − ¯X) 2 /(n − 1). Dette estimat har den rigtige middelværdi: Es 2 = σ 2 , og vi siger, at s 2 er middelværdiret. Man kan nu vise, at s 2 er det estimat, der har mindst mulig varians, blandt alle estimater der er middelværdirette. For eksponentielle familier kan vi vise, at for visse hypoteser er der særligt attraktive tests. I eksemplet ovenfor kan vi betragte et test for hypotesen µ = 0 mod alternativet µ > 0. Det sædvanlige t-test forkaster hypotesen hvis t = ¯X/ √ s 2 /n er stor, og vi kan vise at dette i en vis forstand er det bedste vi kan gøre. De ovenstående eksempler viser, at der er god grund til at beskæftige sig med eksponentielle familier. Et andet argument er, at nogle af de vigtigste klasser af fordelinger faktisk er eksponentielle familier: Binomialfordelingerne, Poissonfordelingerne, normalfordelingerne og Gammafordelingerne. Ydermere er disse fordelinger byggestene for det der hedder Generaliserede Lineære Modeller som er et vigtigt redskab i en statistikers værktøjskasse. Definitionen på en eksponentiel familie vedrører hvordan data og parameter spiller sammen. Lad som et eksempel P λ være poissonfordelingen med parameter λ og lad µ være tællemålet. Så kan vi skrive tætheden som dPλ λx (x) = dµ x! e−λ = e −λ · 1 x! · exp{log(λ)x}. Hvad jeg har fremhævet her, er at tætheden kan skrives som en funktion af parameteren, ganget med en funktion af data, ganget med en eksponentialfunktion, hvor 5
6 KAPITEL 2. EKSPONENTIELLE FAMILIER argumentet er en funktion af parameteren ganget med en funktion af data. Det er denne struktur der nedenfor vil blive brugt i den generelle definition. Bemærk at den første funktion af parameteren, lad os kalde den a(λ), er en normeringskonstant: eftersom vi betragter en tæthed, vil denne integrere til 1, og dermed har vi a(λ) ∑ x 2.2 Definition 1 exp{log(λ)x} = 1 ⇒ a(λ) = x! ∑ x 1 x! exp{log(λ)x} −1 . Jeg vil betragte en klasse P = {Pθ|θ ∈ Θ} af sandsynlighedsmål på målrummet (X , A, µ), hvor µ er et σ-endeligt mål. Familien P er parametriseret ved θ ∈ Θ, hvor Θ ⊆ Rp , d.v.s at hvis θ1 = θ2 så vil Pθ1 = Pθ2 . Antag, at µ dominerer alle målene i P, Pθ ≪ µ ∀θ ∈ Θ, og at der eksisterer en funktion φ = (φ1, . . . , φk) : Θ → Rk , en målelig funktion t = (t1, . . . , tk) : X → Rk , og en målelig funktion b : X → R således at dPθ dµ (x) = a(θ)b(x)eφ(θ)·t(x) , ∀θ ∈ Θ. (2.1) Hvis (2.1) er opfyldt, kaldes P en eksponentiel familie med kanonisk observator T = t(X) og kanonisk parameter φ(θ). Bemærk, at i (2.1) er a(·) bestemt ved a(θ) = b(x)e φ(θ)·t(x) −1 µ(dx) og er derfor kun en funktion af θ gennem φ(θ). Det mindste k for hvilket en repræsentation på formen (2.1) er mulig kaldes ordenen af familien. Hvis repræsentationen er minimal, d.v.s. at k er ordenen af familien, kaldes T en minimal kanonisk observator og ϕ en minimal kanonisk parameter. Eksempel 2.1. Jeg opskriver her to af de fordelinger I kender i forvejen på eksponentiel familieform. Binomialfordelingen. Lad X være binomialfordelt med antalsparamter n og sandsynlighedsparameter θ med 0 < θ < 1. Så er tætheden med hensyn til tællemålet µ givet ved dPθ (x) = dµ for x ∈ {0, . . . , n}. n x θ x (1 − θ) n−x = (1 − θ) n n x θ exp log x , 1 − θ Normalfordelingen. Lad X være normalfordelt med middelværdi µ og varians σ 2 med (µ, σ 2 ) ∈ R × R+. Så er tætheden med hensyn til lebesguemålet m givet ved dP (µ,σ 2 ) dm (x) = exp{− 1 2σ 2 (x − µ) 2 } √ 2πσ 2 = exp{− µ2 2σ 2 } √ 2πσ 2 µ exp σ 2σ 1 x − x2 2 2 for x ∈ R. Bemærk, at i dette eksempel er b(x) = 1. ,
Page 1: E T F Ø R S T E K U R S U S I T E
Page 5 and 6: 8 KAPITEL 2. EKSPONENTIELLE FAMILIE
Page 7 and 8: 10 KAPITEL 2. EKSPONENTIELLE FAMILI
Page 23 and 24: 136 KAPITEL 11. NOTATION OG REGNERE
Page 25 and 26: 138 KAPITEL 11. NOTATION OG REGNERE
Page 28 and 29: Indeks A Affin uafhængighed . . .

Noter til eksponentielle familier. Anden udgave. Version 9.2.2006.

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?