Český lékopis 1997

4.2.1   Zapisování výsledků

Tabulka 4.2.1-I se používá pro zápis dat do sloupců označených čísly.

  1. Dávka standardu nebo zkoušeného přípravku.
  2. Počet vyšetřených jednotek n pro příslušné ošetření.
  3. Počet jednotek r, které měly pozitivní odpověď na toto ošetření.
  4. Logaritmus x dávky

  5. Podíl  p = r pozitivních odpovědí ve skupině. Zde začíná iterační cyklus.

    n

  6. Sloupec Y je při prvním iteračním kroku vyplněn nulami.
  7. Odpovídající hodnoty Φ = Φ(Y) kumulativní distribuční funkce normálního rozložení (viz tabulka 8.4).Pro výpočet sloupců (8) až (10) jsou použity vzorce:
  8. Z = e-r2/2

    √2p

    (4.2.1-1)

  9. y = Y + p - Φ

    Z

    (4.2.1-2)

  10. w =   nZ2

    Φ -Φ2

    (4.2.1-3)

Sloupce (11) až (15) se jednoduše vypočtou ze sloupců (4), (9) a (10) jako wx, wy, wx2, wy2 a wxy. Dále se vypočtou pro každý přípravek zvlášť součty ∑ sloupců (10) až (15).

Součty z tabulky 4.2.1-I se přepíší do sloupců (1) až (6) tabulky 4.2.1-II a 6 dalších sloupců (7) až (12) se vypočte pomocí vzorců:

  1. Sxx = ∑wx2 - (∑ wx)2

    ∑w

    (4.2.1-4)

  2. Sxy = ∑wxy - (∑ wx)(∑wy)

    ∑w

    (4.2.1-5)

  3. Syy = ∑wy2 - (∑ wy)2

    ∑w

    (4.2.1-6)

  4. x‾ =   ∑wx

    ∑w

    (4.2.1-7)

  5. y‾ =   ∑wy

    ∑w

    (4.2.1-8)

    6. Společný sklon b se pak vypočte jako:

    b =   ∑Sxy

    ∑Sxx

    (4.2.1-9)

    a průsečík a přímek pro referenční a zkoušený přípravek je

  6. a = y‾ - bx‾

    (4.2.1-10)

Sloupec (6) první pracovní tabulky se teď může nahradit hodnotami Y = a+bx a cyklus tak dlouho opakovat, dokud nebude rozdíl dvou po sobě následujících cyklů dostatečně malý, tj. např. pokud maximální rozdíl Y ve dvou po sobě následujících cyklech nebude menší než 10-8.