Teorie odhadu je úsek matematické statistiky , který řeší problémy odhadu přímo nepozorovatelných parametrů signálů nebo objektů pozorování na základě pozorovaných dat. K řešení problémů odhadu se používají parametrické a neparametrické přístupy. Parametrický přístup se používá, když je znám matematický model studovaného objektu a povaha poruch a je třeba pouze určit v něm neznámé parametry. V tomto případě se používá metoda nejmenších čtverců , metoda maximální věrohodnosti a metoda momentů. Neparametrický přístup se používá ke studiu objektů neznámé struktury as neznámými poruchami. Teorie odhadu se využívá v přístrojích pro fyzikální a jiná měření, při modelování fyzikálních, ekonomických, biologických a dalších procesů.
Nechť data pozorování jsou náhodné veličiny se společnou hustotou rozdělení pravděpodobnosti v závislosti na informativních parametrech s neznámými hodnotami: . Úkolem odhadu je najít odhady informativních parametrů ve formě funkcí, které definují strategie pro zjišťování odhadů z pozorování: .
Odhadované parametry jsou náhodné veličiny se spojem a priori známou a priori hustotou pravděpodobnosti . Pro minimalizaci chyb v odhadu je zavedena ztrátová funkce , která závisí na odhadech a skutečných hodnotách odhadovaných parametrů. V tomto případě je cílem minimalizovat očekávání ztrátové funkce – průměrné riziko: [1] . Zde je podmíněná hustota pravděpodobnosti rozhodování o posouzení na základě pozorovaných dat .
V tomto případě nelze třídu rozdělení pravděpodobnosti popsat pomocí konečného počtu parametrů. V tomto případě jsou optimální odhady definovány jako funkcionály rozdělení pravděpodobnosti pozorování [2] .