Kategorie Baer je jedním ze způsobů, jak rozlišit mezi „velkými“ a „malými“ soubory. Podmnožina topologického prostoru může být první nebo druhé kategorie Baire.
Pojmenován po francouzském matematikovi René-Louis Baerovi .
Pro účely analýzy je vhodné, když daný prostor patří do druhé Baerovy kategorie, protože zařazení do této kategorie se rovná platnosti existenčních teorémů , jako jsou:
Pokud přesto prostor patří do první kategorie Baer, lze z toho získat pouze negativní výsledky - například jakákoli metrika tohoto prostoru, která je kompatibilní s topologií, je neúplná a uzavření jakéhokoli (neprázdného) otevřeného prostoru podmnožina je nekompaktní . Z tohoto důvodu je například prostor polynomů neúplný v jakékoli metrice, ve které se jedná o topologický vektorový prostor (spočetný -rozměrný vektorový prostor v jakékoli vektorové topologii patří do první Baerovy kategorie).
Aplikace Baireových kategorií na podmnožiny daného topologického prostoru má smysl, pokud ambientní prostor patří do druhé Baireovy kategorie (jinak budou všechny podmnožiny první kategorií v daném prostoru). Zhruba řečeno, sady první kategorie jsou považovány za "malé" ("hubené") a za druhé - "velké" ("tlusté").
V tomto smyslu se pojem kategorie podobá pojmu míry , ale na rozdíl od míry závisí kategorie podmnožiny pouze na topologii obklopujícího prostoru.
Díky tomu je vhodné jej používat v prostorách bez přirozeně definované míry. Například pomocí kategorie lze dát přesný význam takovým konceptům jako „téměř všechny kompaktní konvexní podmnožiny euklidovského prostoru “.
Teorém. Kompletní metrické prostory a lokálně kompaktní prostory Hausdorff patří do druhé kategorie Baire.
Abychom to dokázali, stačí ukázat, že každá počitatelná rodina otevřených všude hustých množin má neprázdný průsečík.
V případě úplného metrického prostoru je posloupnost kuliček konstruována indukčně tak, že pro každou a poloměr koule by byl menší než . Posloupnost stahování uzavřených kuliček má z důvodu úplnosti prostoru neprázdný průsečík a společný bod těchto koulí bude společný pro sestavy .
V případě lokálně kompaktního Hausdorffova prostoru indukčně konstruujeme sekvenci otevřených množin tak, že pro každou a uzavření množiny je kompaktní. Potom posloupnost množin tvoří centrovaný systém uzavřených podmnožin v kompaktním Hausdorffově prostoru a má tedy neprázdný průsečík.
Příklad. Aplikací Baerových kategorií lze ukázat, že množina iracionálních bodů nemůže být množinou všech bodů nespojitosti jakékoli funkce na reálné čáře. Množina všech bodů nespojitosti jakékoli funkce na je spočetné spojení uzavřených množin sestávajících z těch bodů, ve kterých oscilace funkce není menší než . Pokud by požadovaná funkce existovala, množiny by nebyly nikde husté, protože jejich sjednocení nemá žádné vnitřní body. To by znamenalo, že množina první kategorie je v , a protože její doplněk má také první kategorii, pak by celý prostor byl první kategorie, což je v rozporu s jeho úplností.