Fisherova informace je matematické očekávání druhé mocniny relativní rychlosti změny podmíněné hustoty pravděpodobnosti [1] . Tato funkce je pojmenována po Ronaldu Fisherovi , který ji popsal .
Nechť je hustota distribuce pro daný statistický model . Pak pokud je funkce definována
,kde je logaritmická pravděpodobnostní funkce a je matematické očekávání pro daný , pak se nazývá Fisherova informace pro daný statistický model s nezávislými testy .
Pokud jsou dvakrát rozlišitelné s ohledem na , a za určitých podmínek pravidelnosti, lze informace Fisher přepsat jako [2]
Pro pravidelné vzory: (Toto je definice pravidelnosti).
V tomto případě, protože očekávání funkce příspěvku vzorku je nula, je zapsaná hodnota rovna jejímu rozptylu.
Fisherovo množství informací obsažených v jednom pozorování se nazývá:
.U běžných modelů jsou si všichni rovni.
Pokud se vzorek skládá z jednoho prvku, pak se Fisherova informace zapíše následovně:
.Z podmínky pravidelnosti, jakož i ze skutečnosti, že v případě nezávislosti náhodných veličin je rozptyl součtu roven součtu rozptylů, vyplývá, že pro nezávislé testy .
Obecně, jestliže je statistika vzorku X , pak
Kromě toho je rovnosti dosaženo tehdy a pouze tehdy, když T je dostatečná statistika .
Dostatečná statistika obsahuje tolik Fisherových informací jako celý vzorek X . To lze pro dostatečné statistiky ukázat pomocí Neumannova faktorizačního testu . Pokud jsou statistiky dostatečné pro parametr , pak existují funkce g a h takové, že:
Rovnost informací vyplývá z:
což vyplývá z definice informací Fisher a nezávislost na .
Další míry používané v teorii informace :