3.2.3 Analýza rozptylu
V této části jsou uvedeny vzorce, které je potřeba použít při výpočtu analýzy rozptylu. K jejich pochopení pomohou příklady zpracované v části 5.1. K pochopení vzorců slouží i slovníček použitých symbolů (část 9).
Vzorce jsou vhodné pro symetrické zkoušky, ve kterých je porovnáván jeden nebo více zkoušených přípravků (T, U atd.) se standardem (S). Je nutno zdůraznit, že tyto vzorce jsou použitelné pouze při ekvidistantních dávkách podnětů, stejném počtu ošetření pro všechny přípravky a stejném počtu pozorování u všech ošetření.
Bez ohledu na některé úpravy chybového členu je základ analýzy výsledků zkoušek stejný pro plány s úplným znáhodněním, náhodnými bloky a latinskými čtverci. Vzorce pro vyhodnocení křížových pokusů nelze plně schematizovat, analýza jednoho takovéhoto pokusu je obsažena v příkladě 5.1.5.
Vezmou-li se v úvahu body diskutované v části 3.1 a v případě potřeby se transformují odpovědi, mohou se hodnoty y sečíst pro každé ošetření a každý přípravek, jak je to patrné v tabulce 3.2.3-I. Dále by měl být vypočten lineární kontrast odpovidajicí sklonu závislosti odpovědi na logaritmu dávky. V tabulce 3.2.3-II jsou další tři vzorce, potřebné pro výpočet analýzy rozptylu.
Celková variabilita odpovědí, kterou způsobují různá ošetření, se rozkládá na složky uvedené v tabulce 3.2.3-III. Součty čtverců se vypočtou z hodnot v tabulkách 3.2.3-I a 3.2.3-II. Součet čtverců pro test nelinearity je možno počítat pouze, pokud jsou ve zkoušce pro každý přípravek alespoň tři dávky.
Reziduální chyba zkoušky se získá odečtením složek variability tvořených modelem od celkové variability odpovědi (tabulka 3.2.3-N). Symbol y‾ je používán pro průměrnou odpověď v celé zkoušce. Pro latinské čtverce je počet opakovaných odpovědí (n) stejný jako počet řádků, sloupců a ošetření (dh).
Nyní se dokončí analýza rozptylu. Průměrné čtverce se vypočtou vydělením součtu čtverců jejich stupni volnosti. Tyto čtverce testovaných veličin se vydělí reziduální chybou (s2) a tak získané testovací charakteristiky se porovnají s odpovídajícími hodnotami tabulky 8.1 nebo se použije vhodný počítačový program.