UNIVERZITA PARDUBICE3.3 Porovnání výsledků ze dvou Použitých kalibračních modelů 3.3.1 Grafické porovnání Obr. 12 Kalibrační přímka – lineární kalibrační model

UNIVERZITA PARDUBICE

Fakulta chemicko-technologická

Katedra analytické chemie

Vedoucí studia a odborný garant:

Prof. RNDr. Milan Meloun, DrSc.

Vyučující:

Prof. RNDr. Milan Meloun, DrSc.

Autor práce:

ANDRII ZAIKA

15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017

2

OBSAH

Úloha 1. Lineární kalibrace …………………………………………………....

1.1 Předběžná analýza dat………………………………………………………....

1.2 Statistické testy a charakteristiky regrese…………………………………….

1.3 Kalibrace………………………………………………………………………….

1.3.1 Grafický výstup programu ADSTAT………………………………………………………..

1.3.2 Kalibrační meze a tabulka…………………………………………………………………..

Úloha 2. Nelineární kalibrace……………………………………………

2.1 Kalibrační meze a tabulka – kvadratický spline bez uzlových bodů……….

2.2 Grafický výstup programu ADSTAT…………………………………………...

2.3 Parametry kalibračního modelu – kvadratický spline bez uzlových bodů…

2.4 Kalibrační meze a tabulka – kvadratický spline s 4 uzlovými body………..

2.5 Grafický výstup programu QC-Expert…………………………………………

2.6 Závěr……………………………………………………………………………...

Úloha 3. Rozlišení mezi lineární a nelineární kalibrací……………….

3.1 Statistická analýza – lineární kalibrace……………………………………….

3.2 Statistická analýza – nelineární kalibrace…………………………………….

3.3 Porovnání výsledků ze dvou Použitých kalibračních modelů………………

3.3.1 Grafické porovnání…………………………………………………………………………...

3.3.2 Statistické porovnání………………………………………………………………………...

3

3

4

5

5

6

7

7

8

8

8

9

10

11

11

12

13

13

15


3

Úloha 1. Lineární kalibrace Zadání

Při stanovení množství fosforečnanů ve vzorcích půdy pro archeologickou praxi (chemické sloučeniny obsahující fosforečnanový anion PO4

3-, který vzniká odtržením vodíků z kyseliny trihydrogenfosforečné) metodou absorbční spektroskopie byla proměřovaná kalibrační závislost absorbance y na koncentraci x. Jaké jsou míry přesnosti kalibrace?

Data: Koncentrace PO43- x [mg * dm-3], absorbance y

x y 1 0,197

2 0,244

4 0,339

6 0,460

8 0,555

10 0,630

1.1 Předběžná analýza dat

Obr. 1 Pregibonův graf Obr. 2 Williamsův graf

Obr. 3 McCulloh-Meeterův graf Obr. 4 L-R graf


4

Závěr ke grafickému výstupu programu ADSTAT: Grafická analýza daných vykazuje jenom na dvou grafech jeden odlehlý bod (č. 6). Vzhledem k tomu, že naměřených bodů je málo, tak nic se odstraňovat nebude.

1.2 Statistické testy a charakteristiky regrese


5

Závěr předběžné analýzy dat Z grafických diagnostik plyne, že žádný bod se odstraňovat ne bude, a navržený model je významný.

1.3 Kalibrace 1.3.1 Grafický výstup programu ADSTAT

Obr. 5 Kalibrační přímka pro stanovení množství fosforečnanů ve vzorcích půdy metodou absorbční spektroskopie.


6

1.3.2 Kalibrační meze a tabulka

Závěr Kalibrační závislost má tvar y = 0,0495(±0,00153)x + 0,148(±0,00931) Přesnost použité metody vyjádřena jako mez stanovitelnosti ys je 0,1516 (tomu odpovídá hodnota koncentrace fosforečnanů mg * dm-3). Limita detekce yd stanoví 0,1966 a kritická úroveň yc je 0,1742. S 95% statistickou jistotou lze tvrdit, že koncentrace fosforečnanů u neznámých vzorků vykazujících signály 0,168, 0,372 a 0,487 leží respektive v intervalech (nestanovitelné – měřená hodnota je menši než limita detekce), (3,790; 5,244) a (6,101; 7,578) mg * dm-3.


7

Úloha 2. Nelineární kalibrace

Zadání

Naměřené kalibrační hodnoty jsou uvedeny tak, že hodnoty x představují známé obsahy kalibrační

látky – albuminu, v gramech na litr, a hodnoty y odpovídají jejich naměřené absorbance.

Z naměřené závislosti určete, jaká koncentrace odpovídá absorbanci 0,061, 0,479 a 0,642.

Data: Koncentrace albuminu x [g / L], absorbance y

x y x y 0,00 0,000 0,50 0,515

0,05 0,050 0,60 0,568

0,10 0,114 0,70 0,616

0,20 0,218 0,80 0,651

0,30 0,320 0,90 0,670

0,40 0,415 1,00 0,683

2.1 Kalibrační meze a tabulka – kvadratický spline bez uzlových bodů Analýza reziduí

Reziduální součet čtverců : 0,0008986

Půměrné absolutní reziduum : 0,0069483

Korelační koeficient : 0,9993653

Kalibrační meze

Metoda Yc Yd Yq Xc Xd Xq

Metoda podle ISO 11843-2 0,15955 -0,51747 0,33251 3,34130 2,40372 6,68261

Přímá metoda analytu 0,00749 0,02610 0,04376 0,01564 0,02976 0,04335

Přímá metoda signálu, IUPAC 0,00749 0,02715 0,04570 0,01564 0,03057 0,04486

Kombinovaná metoda Ebel,Kamm

0,00631

0,02604

0,04370

0,01475

0,02972

0,04331

Metoda K*Sigma z regrese 0,00749 0,02840 0,04932 0,01564 0,03153 0,04767

Metoda K*Sigma, ACS 0,01656 0,04654 0,07651 0,02250 0,04550 0,06906

Kalibrační tabulka

Číslo vzorku

Zpětný odhad

Spodní mez

Horní mez

Nepřímý odhad

Naměřené hodnoty

1 0,05680 0,04301 0,06948 0 0,061

2 0,47323 0,45367 0,49361 0 0,479

3 0,77632 0,74068 0,82054 0 0,642


8

2.2 Grafický výstup programu ADSTAT

Obr. 6 Kvadratický spline bez uzlových bodů Obr. 7 Kvadratický spline s 1 uzlovým bodem

Obr. 8 Kvadratický spline s 4 uzlovými body 2.3 Parametry kalibračního modelu – kvadratický spline bez uzlových bodů

Parametr Odhad Sm. odchylka Spodní mez Horní mez

Abs. -0,01342 0,00647 -0,02806 0,00122

X 1,34704 0,03272 1,27301 1,42106

X2 -0,64764 0,03258 -0,72135 -0,57392

2.4 Kalibrační meze a tabulka – kvadratický spline s 4 uzlovými body

Porovnací tabulka analýzy reziduí

Uzlové body RSČ Me Mer, % σe XD 0 8,986E-04 6,9483E-03 10,176 9,9924E-03 2,1078E-02

1 4,893E-04 4,9405E-03 9,979 7,8203E-03 2,0349E-02

2 2,107E-04 3,1021E-03 9,930 5,4868E-03 1,7915E-02

3 2,392E-04 3,3513E-03 9,879 6,3137E-03 2,1729E-02

4 1,285E-04 2,7103E-03 9,750 5,0694E-03 1,8108E-02

5 1,815E-04 2,9851E-03 9,809 6,7360E-03 2,5880E-02


9


Číslo vzorku

Zpětný odhad

Spodní mez

Horní mez

Naměřené hodnoty

1 0,05608 0,04957 0,06225 0,061

2 0,47200 0,45546 0,48854 0,479

3 0,77520 0,74715 0,80321 0,642

2.5 Grafický výstup programu QC-Expert

Obr. 9 Kalibrační křivka

Obr. 10 Graf reziduí


10

Obr. 11 Graf absolutních reziduí

2.6 Závěr Za nejlepší kalibrační model se považuje takový, který má nejnižší limitu detekce a rovněž nejnižší odhad směrodatné odchylky reziduí při nejnižším počtu uzlových bodů. V daném případě takové proložení představuje kvadratický spline s 2 uzlovými body a taky s 4 uzlovými body. Na základě dalších statistik analýzy reziduí byl vybrán model s 4 uzlovými body. Kalibrační závislost vystihuje kalibrační nelineární křivka Y = a*x2 + b*x +c S 95% statistickou jistotou lze tvrdit, že pro absorbance 0,061, 0,479 a 0,642 budou odpovídat koncentrací v intervalu respektive (0,0496; 0,0623), (0,4555; 0,4885) a (0,7472; 0,8032) gram na litr.


11

Úloha 3. Rozlišení mezi lineární a nelineární kalibrací

Zadání

Naměřené kalibrační hodnoty jsou uvedeny tak, že hodnoty x představují známé obsahy kalibrační

látky – albuminu, v gramech na litr, a hodnoty y odpovídají jejich naměřené absorbance.

Z naměřené závislosti určete, jaká koncentrace odpovídá absorbanci 0,078, 0,384, 0,500 a 0,616.

Data: Koncentrace albuminu x [g / L], absorbance y

x y x y 0,00 0,000 0,50 0,515

0,05 0,050 0,60 0,568

0,10 0,114 0,70 0,616

0,20 0,218 0,80 0,651

0,30 0,320 0,90 0,670

0,40 0,415 1,00 0,683

3.1 Statistická analýza – lineární kalibrace

Počet dat: 12

Hladina významnosti : 0,05

Volba kalibračního modelu : Manuální

Použitý kalibrační model : Lineární

Vhodnost použitého modelu : Nevyhovuje

Použita vážená regrese : Ne Parametry kalibračního modelu


Abs. 0,06834 0,03174 -0,00238 0,13906

X 0,72070 0,05602 0,59589 0,84551

Zvolený faktor K : 1,95996

Vypočítaná sm. odch. slepého signálu : 0,06352 Kalibrační meze


Metoda podle ISO 11843-2 0,48856 0,58149 0,90877 0,58307 0,71202 1,16613


Přímá metoda signálu, IUPAC 0,16370 0,24195 0,30848 0,13231 0,24089 0,33319 Kombinovaná metoda Ebel,Kamm 0,14905 0,22977 0,29065 0,11199 0,22398 0,30846


Metoda K*Sigma, ACS 0,19283 0,31732 0,44181 0,17273 0,34546 0,51820


12


Číslo vzorku

Zpětný odhad

Spodní mez

Horní mez

Nepřímý odhad

Naměřené hodnoty

1 0,01340 Nestanovitelné 0,50487 0,078 2 0,43799 0,35773 0,51541 0,73697 0,384 3 0,59894 0,52128 0,69234 0,81494 0,500 4 0,75990 0,66946 0,88464 0,89013 0,616

3.2 Statistická analýza – nelineární kalibrace

Počet dat: 12

Hladina významnosti : 0,05

Volba kalibračního modelu : Manuální

Použitý kalibrační model : Kvadratický

Vhodnost použitého modelu : Vyhovuje

Použita vážená regrese : Ne Parametry kalibračního modelu


Abs. -0,01342 0,00647 -0,02806 0,00122

X 1,34704 0,03272 1,27301 1,42106

X2 -0,64764 0,03258 -0,72135 -0,57392

Zvolený faktor K : 1,95996

Vypočítaná sm. odch. slepého signálu : 0,00999 Kalibrační meze


Metoda podle ISO 11843-2 0,15955 -0,51747 0,33251 3,34130 2,40372 6,68261


Přímá metoda signálu, IUPAC 0,00749 0,02715 0,04570 0,01564 0,03057 0,04486 Kombinovaná metoda Ebel,Kamm 0,00631 0,02604 0,04370 0,01475 0,02972 0,04331


Metoda K*Sigma, ACS 0,00617 0,02575 0,04533 0,01464 0,02950 0,04457 Kalibrační tabulka

Číslo vzorku

Zpětný odhad

Spodní mez

Horní mez

Nepřímý odhad

Naměřené hodnoty

1 0,07024 0,05697 0,08254 0 0,078 2 0,35595 0,34083 0,37185 0 0,384 3 0,50259 0,48190 0,52407 0 0,500 4 0,70883 0,67903 0,74064 0 0,616


13

3.3 Porovnání výsledků ze dvou Použitých kalibračních modelů 3.3.1 Grafické porovnání

Obr. 12 Kalibrační přímka – lineární kalibrační model

Obr. 13 Kalibrační křivka – nelineární kalibrační model

Kalibrační křivky znázorňují i odhady naměřených veličin. Vodorovné přerušované přímky představují naměřenou hodnotu Y a svislé přerušované přímky jsou zpětné odhady.


14

Obr. 14 Graf rezidují – lineární kalibrační model

Obr. 15 Graf rezidují – nelineární kalibrační model


15

3.3.2 Statistické porovnání Analýza reziduí

Pro lineární model Pro nelineární model

Reziduální součet čtverců : 0,04034 0,00090

Průměrné absolutní reziduum : 0,05036 0,00695

Korelační koeficient : 0,97110 0,99937 Kalibrační hodnoty

Naměřené hodnoty Zpětný odhad

(g / L) Spodní mez

(g / L) Horní mez

(g / L)

Lin

eá

rní

mo

de

l

0,078 0,01340 Nestanovitelné

0,384 0,43799 0,35773 0,51541

0,500 0,59894 0,52128 0,69234

0,616 0,75990 0,66946 0,88464

Neli

ne

árn

í

mo

de

l

0,078 0,07024 0,05697 0,08254

0,384 0,35595 0,34083 0,37185

0,500 0,50259 0,48190 0,52407

0,616 0,70883 0,67903 0,74064

Závěr: Kalibrační závislost je nelineární. Lineární model kalibrační závislosti byl zamítnut. Lineární model poskytuje výsledky se širším intervalem spolehlivosti.

UNIVERZITA PARDUBICE3.3 Porovnání výsledků ze dvou Použitých kalibračních modelů 3.3.1 Grafické porovnání Obr. 12 Kalibrační přímka – lineární kalibrační model

Documents