Vícevláknové zpracování

Multithreading  ( angl.  Multithreading ) je vlastnost platformy (například operačního systému , virtuálního stroje atd.) nebo aplikace spočívající v tom, že proces generovaný v operačním systému se může skládat z několika běžících vláken " paralelně “, pak jíst bez předepsaného pořadí včas . U některých úkolů může toto oddělení dosáhnout efektivnějšího využití počítačových zdrojů .

Taková vlákna se také nazývají vlákna popravy (z anglického  vlákna popravy ); někdy nazývané „vlákna“ (doslovný překlad anglického  vlákna ) nebo neformálně „vlákna“.

Popis

Podstatou multithreadingu je kvazi-multitasking na úrovni jednoho spustitelného procesu, to znamená, že všechna vlákna jsou vykonávána v adresovém prostoru procesu. Kromě toho všechna vlákna v procesu sdílejí nejen společný adresní prostor, ale také společné deskriptory souborů . Běžící proces má alespoň jedno (hlavní) vlákno.

Multithreading (jako programovací doktrína ) by neměl být zaměňován s multitaskingem nebo multiprocessingem , i když operační systémy , které implementují multitasking , mají tendenci implementovat také multithreading.

Mezi výhody vícevláknové implementace konkrétního systému oproti multitaskingu patří následující:

• Zjednodušení programu v některých případech použitím společného adresního prostoru.
• Méně času stráveného vytvářením vlákna vzhledem k procesu.

Mezi výhody vícevláknové implementace konkrétního systému oproti jednovláknové patří následující:

• Zjednodušení programu v některých případech z důvodu odstranění mechanismů pro prokládání provádění různých slabě propojených dílčích úkolů, které vyžadují současné provádění, do samostatného multithreadingového subsystému.
• Zlepšení výkonu procesu paralelizací výpočtů procesoru a I/O operací.

V případě, že vlákna provádění vyžadují relativně složitou vzájemnou interakci, mohou nastat problémy s multitaskingem, jako je uváznutí.

Implementace hardwaru

Na běžném procesoru se o správu vláken stará operační systém. Vlákno se spouští, dokud nedojde k hardwarovému přerušení, systémovému volání nebo dokud nevyprší čas, který mu operační systém přidělil. Poté se procesor přepne do kódu operačního systému, který uloží stav vlákna (jeho kontext) nebo se přepne do stavu jiného vlákna, kterému je také přidělen čas na provedení. Při takovém multithreadingu je na kód operačního systému, který přepíná kontexty, vynaložen dostatečně velký počet cyklů procesoru. Pokud je podpora vláken implementována v hardwaru, pak samotný procesor bude schopen přepínat mezi vlákny a v ideálním případě provádět několik vláken současně pro každý takt. Pro operační systém a uživatele bude jeden takový fyzický procesor považován za více logických procesorů.

Existují dvě formy multithreadingu, které lze implementovat v procesorech v hardwaru:

• Dočasné vícevláknové zpracování _ _  _
• Simultánní multithreading _ _  _

Typy implementace vláken

• Vlákno v uživatelském prostoru. Každý proces má tabulku vláken podobnou tabulce procesů jádra. Mezi nevýhody patří:

1. Žádné přerušení časovače ve stejném procesu
2. Když na proces použijete blokovací systémový požadavek, zablokují se všechna jeho vlákna.
3. Složitost realizace

• Tok v prostoru jádra. Spolu s tabulkou procesů je v prostoru jádra i tabulka vláken.
• "Vlákna" ( angl.  vlákna ). Více vláken v uživatelském režimu spuštěných v jednom vláknu režimu jádra. Vlákno prostoru jádra spotřebovává značné zdroje, především fyzickou paměť a rozsah adres režimu jádra pro zásobník režimu jádra. Proto byl představen pojem „vlákno“ – odlehčené vlákno, které běží výhradně v uživatelském režimu. Každé vlákno může mít více "vláken".

Interakce s vláknem

V prostředí s více vlákny se často vyskytují úkoly, které vyžadují pozastavení a obnovení některých vláken v závislosti na práci ostatních. Zejména se jedná o úkoly související s prevencí přístupových konfliktů při použití stejných dat nebo zařízení z paralelně spustitelných vláken. K řešení takových problémů se používají speciální objekty pro interakci vláken, jako jsou vzájemné vyloučení (mutexy), semafory, kritické sekce, události atd. Mnohé z těchto objektů jsou objekty jádra a lze je použít nejen mezi vlákny stejného procesu, ale také pro interakci mezi vlákny různých procesů.

• Mutex je synchronizační objekt, který je nastaven do speciálního signalizovaného stavu, když není zaneprázdněn žádným vláknem. V každém okamžiku vlastní tento objekt pouze jedno vlákno, odtud název takových objektů (z anglického mutually exclusive access - vzájemně exkluzivní přístup) - simultánní přístup ke sdílenému zdroji je vyloučen. Po všech nezbytných akcích se mutex uvolní a umožní ostatním vláknům přístup ke sdílenému prostředku. Objekt může podporovat rekurzivní zachycení podruhé stejným vláknem, zvýšením počítadla bez zablokování vlákna a poté vyžadováním více vydání. Taková je například kritická sekce ve Win32 . Existují však některé implementace, které toto nepodporují a způsobí uváznutí vlákna při pokusu o rekurzivní zachycení. Toto je například FAST_MUTEX v jádře Windows.
• Kritické sekce poskytují synchronizaci podobnou mutexům, kromě toho, že objekty představující kritické sekce jsou přístupné pouze v rámci jednoho procesu. Události, mutexy a semafory lze také použít v jednoprocesových aplikačních vláknech, avšak implementace kritických sekcí v některých operačních systémech (například Windows NT) poskytují rychlejší a efektivnější [1] [2] mechanismus pro vzájemné vylučování synchronizace - "get" a "release" v kritické sekci jsou optimalizovány pro případ jediného vlákna (žádný spor), aby se zabránilo systémovým voláním vedoucím k jádru OS.
• Semafory jsou dostupné prostředky, které lze získat více vlákny současně, dokud není fond zdrojů prázdný. Poté musí další vlákna čekat, dokud nebude znovu k dispozici požadované množství zdrojů.
• Vývoj. Objekt, který uchovává 1 bit informace „signal or not“, na kterém jsou definovány operace „signal“, „reset to unsignal state“ a „wait“. Čekání na signalizovanou událost je absence operace s okamžitým pokračováním provádění vlákna. Čekání na nesignalizovanou událost způsobí pozastavení provádění vlákna, dokud jiné vlákno (nebo druhá fáze obsluhy přerušení v jádře OS) tuto událost nesignalizuje. Je možné čekat na několik událostí v režimu „jakýkoli“ nebo „všechny“. Je také možné vytvořit událost, která se po probuzení prvního – a jediného – čekajícího vlákna automaticky resetuje do nesignalizovaného stavu (takový objekt se používá jako základ pro implementaci objektu „kritická sekce“). Aktivně používán v MS Windows, a to jak v uživatelském režimu, tak v režimu jádra. V linuxovém jádře existuje podobný objekt s názvem kwait_queue.
• Podmíněné proměnné (condvars). Podobně jako události, ale nejedná se o objekty zabírající paměť – používá se pouze adresa proměnné, pojem „obsah proměnné“ neexistuje, jako podmínkovou proměnnou lze použít adresu libovolného objektu. Na rozdíl od událostí nemá nastavení proměnné podmínky na signalizovaný stav žádné důsledky, pokud na proměnnou aktuálně nečekají žádná vlákna. Nastavení události v podobném případě znamená uložení „signalizovaného“ stavu v samotné události, po kterém následná vlákna, která chtějí čekat na událost, pokračují v provádění okamžitě bez zastavení. K plnému využití takového objektu je také nutná operace „uvolněte mutex a počkejte na proměnnou podmínky atomicky“. Aktivně se používá v operačních systémech podobných UNIX . Diskuse o výhodách a nevýhodách událostí a stavových proměnných jsou významnou součástí diskusí o výhodách a nevýhodách Windows a UNIX.
• Port dokončení IO (IOCP). Implementovaný v jádře operačního systému a přístupný prostřednictvím systémových volání, objekt „queue“ s operacemi „umístit strukturu na konec fronty“ a „vzít další strukturu z hlavy fronty“ - poslední volání pozastaví provádění vlákna, pokud je fronta prázdná, a dokud žádné jiné vlákno neprovede volání put. Nejdůležitější vlastností IOCP je, že struktury do něj mohou být umístěny nejen explicitním systémovým voláním z uživatelského režimu, ale také implicitně uvnitř jádra OS v důsledku dokončení asynchronní I/O operace na jednom ze souborů. deskriptory. Chcete-li dosáhnout tohoto efektu, musíte použít systémové volání "přidružit deskriptor souboru k IOCP". V tomto případě struktura umístěná ve frontě obsahuje chybový kód I/O operace a v případě úspěchu této operace také počet skutečně zadaných nebo výstupních bajtů. Implementace portu pro dokončení také omezuje počet vláken spouštěných na jednom procesoru/jádru poté, co je struktura přijata z fronty. Objekt je specifický pro MS Windows a umožňuje zpracování příchozích požadavků na připojení a datových bloků v serverovém softwaru v architektuře, kde počet vláken může být menší než počet klientů (není požadavek na vytvoření samostatného vlákna s náklady na zdroje pro každého nového klienta).
• ERESOURCE. Mutex, který podporuje rekurzivní zachycení se sdílenou nebo exkluzivní sémantikou zachycení. Sémantika: Objekt může být buď volný, nebo zachycený libovolným počtem vláken sdíleným způsobem, nebo získaný pouze jedním vláknem exkluzivním způsobem. Jakékoli pokusy o zachycení, které porušují toto pravidlo, způsobí zablokování vlákna, dokud nebude objekt uvolněn, aby bylo zachycení povoleno. Existují i ​​operace typu TryToAcquire – vlákno nikdy neblokuje, buď ho zachytí, nebo (pokud je blokování potřeba) vrátí FALSE, aniž by cokoli udělal. Používá se v jádře Windows především v souborových systémech - např. někým libovolný otevřený soubor na disku odpovídá struktuře FCB, ve které jsou 2 takové objekty pro synchronizaci přístupu k velikosti souboru. Jeden z nich - stránkovací IO zdroj - je zachycen výhradně pouze v cestě prořezávání souboru a zajišťuje, že v době prořezávání soubor nemá aktivní I/O z mezipaměti a mapování paměti.
• ochrana proti opotřebení . Polodokumentovaný (volání jsou v hlavičkových souborech, ale ne v dokumentaci) objekt v jádře Windows. Počítadlo s operacemi "zvýšení", "snížení" a "čekání". Čekání blokuje vlákno, dokud operace dekrementování nesníží čítač na nulu. Kromě toho může selhat operace přírůstku a přítomnost aktuálně aktivní doby čekání způsobí selhání všech operací přírůstku.

Kritika terminologie

Překlad anglického výrazu vlákno jako „vlákno“ v kontextu souvisejícím s programováním je v rozporu s jeho překladem „vlákno“ v obecném jazykovém kontextu a také vytváří kolize s pojmem Data stream .

S pojmem „stream“ se však pojí překlady zahraniční technické literatury pořízené v 70. letech nakladatelstvím Mir. V současnosti je v „akademických kruzích“ (tedy v učebnicích, učebních pomůckách, vysokoškolských kurzech, disertačních pracích atd.) považován za referenční. Termíny „nit“, „nit“ atd. jsou považovány za technický žargon .

Viz také

• Hyper-threading

Literatura

• Kunle Olukotun. Čipová víceprocesorová architektura – techniky pro zlepšení propustnosti a latence. - Morgan and Claypool Publishers, 2007. - 154 s. — ISBN 159829122X .  (Angličtina)

• Mario Nemirovsky, děkan M. Tullsen. vícevláknová architektura. - Morgan and Claypool Publishers, 2013. - 1608458555 s. — ISBN 1608458555 .  (Angličtina)

Poznámky

1. ↑ Jeffrey Richter . "Jeffrey Richter. Windows pro profesionály. Vytváření účinných aplikací WIN32 přizpůsobených specifikám 64bitových Windows. 2001
2. ↑ MSDN http://msdn.microsoft.com/en-us/library/ms682530%28VS.85%29.aspx Archivováno 23. prosince 2011 na Wayback Machine

Odkazy

• Úvod do technologií paralelního programování  (ruština)
• https://web.archive.org/web/20050505155716/http://hardclub.donntu.edu.ua/projects/qt/qq/qq11-mutex.html#understandingmutexesandsemaphores
• Úvod do multithreadingu