Pozorované informace - Observed information - Wikipedia

v statistika, pozorované informacenebo pozorované Fisherovy informace, je zápor druhého derivátu ( Hesenská matice ) z „log-likelihood "(logaritmus funkce pravděpodobnosti ). Jedná se o ukázkovou verzi Fisher informace.

Definice

Předpokládejme, že to pozorujeme náhodné proměnné ${ displaystyle X_ {1}, ldots, X_ {n}}$, nezávislé a identicky distribuované s hustotou F(X; θ), kde θ je (možná neznámý) vektor. Potom logaritmická pravděpodobnost parametrů ${ displaystyle theta}$ vzhledem k údajům ${ displaystyle X_ {1}, ldots, X_ {n}}$ je

${ displaystyle ell ( theta | X_ {1}, ldots, X_ {n}) = součet _ {i = 1} ^ {n} log f (X_ {i} | theta)}$.

Definujeme pozorovaná informační matice na ${ displaystyle theta ^ {*}}$ tak jako

${ displaystyle { mathcal {J}} ( theta ^ {*}) = - vlevo. nabla nabla ^ { top} ell ( theta) vpravo | _ { theta = theta ^ { *}}}$

${ displaystyle = - left. left ({ begin {pole} {cccc} { tfrac { částečné ^ {2}} { částečné theta _ {1} ^ {2}}} & { tfrac { částečné ^ {2}} { částečné theta _ {1} částečné theta _ {2}}} & cdots & { tfrac { částečné ^ {2}} { částečné theta _ {1 } částečné theta _ {p}}} { tfrac { částečné ^ {2}} { částečné theta _ {2} částečné theta _ {1}}} & { tfrac { částečné ^ {2}} { částečné theta _ {2} ^ {2}}} & cdots & { tfrac { částečné ^ {2}} { částečné theta _ {2} částečné theta _ { p}}} vdots & vdots & ddots & vdots { tfrac { částečné ^ {2}} { částečné theta _ {p} částečné theta _ {1}}} & { tfrac { částečné ^ {2}} { částečné theta _ {p} částečné theta _ {2}}} & cdots & { tfrac { částečné ^ {2}} { částečné theta _ {p} ^ {2}}} end {array}} right) ell ( theta) right | _ { theta = theta ^ {*}}}$

V mnoha případech jsou pozorované informace vyhodnocovány na odhad maximální věrohodnosti.^[1]

Fisher informace

The Fisher informace ${ displaystyle { mathcal {I}} ( theta)}$ je očekávaná hodnota pozorovaných informací, které byly získány jediným pozorováním ${ displaystyle X}$ distribuováno podle hypotetického modelu s parametrem ${ displaystyle theta}$:

${ displaystyle { mathcal {I}} ( theta) = mathrm {E} ({ mathcal {J}} ( theta))}$.

Aplikace

V pozoruhodném článku Bradley Efron a David V. Hinkley ^[2] tvrdil, že pozorované informace by měly být použity přednostně před očekávané informace při zaměstnávání normální aproximace pro distribuci odhady maximální věrohodnosti.

Viz také

• Fisherova informační matice
• Fisherova metrika informací

Reference