Jozef Jur´ ıˇ cek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense TESTING FOR MONOTONICITY OF THE AGE-DEPENDENT PREVALENCE, BASED ON CURRENT STATUS DATA Outline 1 Introduction 2 Methodology 3 Data Analysis 5 Computational Aspects 1.1 Data (Parvo B19) 2.1 B-Splines 3.1 Parvo B19 Data 5.1 Numerical (In)Stability 1.2 Research Question 2.2 P-Splines 3.2 VZV Data 5.2 Implementation in R 1.3 Model 2.3 Model Constraints 4 Simulation Study 6 Conclusions & Remarks 2.4 Hypothesis Testing 7 References jozef.juricek.matfyz.cz/math Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22 nd September 2009 1 of 15
Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
TESTING FOR MONOTONICITY OF THE AGE-DEPENDENT PREVALENCE,BASED ON CURRENT STATUS DATA
Outline
1 Introduction 2 Methodology 3 Data Analysis 5 Computational Aspects
1.1 Data (Parvo B19) 2.1 B-Splines 3.1 Parvo B19 Data 5.1 Numerical (In)Stability
1.2 Research Question 2.2 P-Splines 3.2 VZV Data 5.2 Implementation in R
1.3 Model 2.3 Model Constraints 4 Simulation Study 6 Conclusions & Remarks
2.4 Hypothesis Testing 7 References
jozef.juricek.matfyz.cz/math
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 1 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
1 Introduction
1.1 Data (Parvo B19)
• information about N = 3076 patients
• age of patient at the time of the specific serological test
. agei, i = 1, . . . , N or xi
. real 1-dimensional continuous covariate
• result of serological test
. logparvoumli, i = 1, . . . , N or yi
. real 1-dimensional continuous outcome
. measure of immunoglobulin (IgG) antibodies activity
in the blood serum, as a reaction of the patient’s body
to the past infection with the Parvovirus B19
. logparvoumli > 3⇔ infection (not analyzed here)
Parvovirus B19
• human (erythro)virus; causes a childhood rash called fifth disease,
or commonly slapped cheek syndrome
• most common in children aged 6 to 10 years
• frequently overlooked cause of chronic anemia in individuals with AIDS
1.2 Research Question
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++++
++ +
+
+
+
++
++
+
+++
+
+
++
++
+++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
++
+
+
++
+
++
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++++
+
+
++
+
+
++
+++
+
+
+
+
+
++
++
+
++++
++
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
++
+
+ +
+
+
++
+
+
++ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+ +
++
++
+
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++ ++++
+
+
+
+
+
+
+
++
+
++
+
+
+ +
+
+
++
+
+
+
+ +
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+ ++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
++
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
++
+
++
++
+
++
+
+
+ +++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
+
++
+
+
++
+
++
+
+
+
+
+ +++
++
+
+
+
+
+
+
+++
+
++++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+ +
++
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
++
+
++++
+
+
+
++
+
+
+
+
+
+
+
+++
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
++
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+++++
+
+
+
+
+
+
+
+
+++
+
++
++
+
+
+
+
+
+
+
++
+++
+
++
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+++
++
+
+
+
+++
+
+
+
+
+
+++
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
++
+
+
+
+
+
++++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
++
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
++
+
+
+++
+
+
+
+++
+
+
+
++
++
+
+ +
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
++
++
+
+
+
+
+
++
+
+
+
++
++
+
+
+
+++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
++
++
+
+
+
++
++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
++
+
+
+
+++
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+ +
+
++
+
+
+
+
+++
++
+
+
+ +
+
++++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
++
+
++
++
++
+
++
++
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+++
+
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+++
0 10 20 30 40 50 60
01
23
45
6
age
logp
arvo
uml
+
+
+
++
++
+ +
+
++
+
++
+++
+
+
++
+
+
+
++
+
+
+ ++
++
+
+
++
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
++
++ +
+
+++
++
+
++
+
+
+
++
++
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++ +++
+
+
+
+
++
+
+
+
+
+++++
++
+
+
+++++
++++
++
+
+
+
+
++
+
+++++++
++
++
+
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++ ++
+
+
++ +
+ +
+
+
++
+
+++
+
++
+++
+ ++
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+ +
+
++
++
+
+
+
++
+
++
+
+
+ +
+
+
+
+
++
+
+
+ +++
+
+ ++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+++
+
+
+
+
++
+ ++
+
+ +
+
+
++++
+++
+
+
+ + ++ +
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
++
+
+
+ +
++
++
+
+
+
+
+
+
++
+
+
+
++
+
++
++
+
++
+
++
++
++
+
+
+
+++
+
++
+
+ ++
+
+
++
+
++
+
++
++
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+
++
++
+++
+
+
++
+
+
++
++
+
+
+
+
++
+ +
++
+
+ +++
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
++
+
+
+
++
+
+
+
+
++
++
+
+
+
+
+ +
+++
+++
+
+
+
++
+
+
+
+
+
+++++
+
+
+
+
+
+++
+
++
++
+
+
+
+
+
+
+++
+++
+
+++
+
+
+
+
+
+
+ +
++ +
+
+
+
+++
+
+
+
+
+++
++
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+++
++ +
++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
++++
+
+
+
+
+
+
+
+
++
+ ++
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
++
+
+
+++
+
+
+
+++
+
+
+
++
++
+
+ +
++
+
+
++
+
+
++
+ +
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
++
+ +
+
++
+
+
+
+++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
++
+++
++
+
++
+
++
+++
+++
+
+++
+
+
++
++
+
+
+
+
++
+
++
+
+ ++
+++
+++
+
+
+
+
+
+
+
+
++
++
++
+
+++
+
++
++
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
++
++
+
+ +++
+
+
+
+++
+
+
+
+
+
++
+ +
++
+
+
+
+
+++
+++
+ +
+++++++
+
++
+
+
++
+
+
+
+
+
+
+ ++
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+++
+
+
+++ +
+
+
+
+
++ +
+
+
+
+
++
+
++
+
+
+
+
++
+
+
++
+
+
++
+
+
+
+
+
+ +
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+ +
++
+
+
+
++
+
+
+
+++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
++
+
+++
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+ +
++
++
++
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+++
+
+
+
+
+++
+
+
+++
++
+
+++
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
++
++
+
+
+
+
+
+
+++
++
++
+
+
+
+
+
+++++
++ +
+
++
+++++
+
+
++
++
+++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
++
+
++
+
+
+
++
+
+
++
+
+
+
+++
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++++
+
++
++++
+
+
+
+++
++
++
+
+
++
+
+
+
+
+
+
+
++
+
+
+
++
++
++
+
+
+
+
+
+++
++
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
++
+
+
++
+++
+
+
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
++
+
+
++
+
++ +
++
++
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+ +
++++
+
++
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+
+
+++
+
+
+
++
+
+
+
+
+ +
++
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
+
+
++
+ +
+
+
++ ++++
+
+
+
+
+
+
++
+
++
+
+
+ ++
+
+
+
+ +
+
+
++
++
+
+
+
+
+
+ +
+
+
+
+
+ ++
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
++ +
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+ +++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+
+ +++
++
+
+
+
+++ +++++
++
+
+
++
++
++
++
+
+
+
++
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+ +
+
+
++
+
+
+
+
+
+
++
+
+
++
+
++
+
++
++
+
++
+++
+
+
+
+
+
+++
+
++++
+
+
+
+
++
+
+
+++
++
+++
++
+
++
+
+++
+
+
++
++
+++
+
+
+
+
+
+++++++
++
++
++
+
+
+
+
++
++
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
++ ++
+++
++
+
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
++++
+
+
++
+
+++
++
+
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
++
+
++
+
+
+++++
++
+++
+
+
+++
++
+
+
+
++
+++
+
+
+
+
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
++
+++
+
+
++
+
+
++
++++
+
+++
+
+ ++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+ +
+
+
++
+
+
+
++
+
+
+
+
+
+
++
++
++
+
+
+
+
+++
+
+
+
+++
+
+++
+
+
+++
+
+
++++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+
++
++
+
+
+
+++
++
+
+
+++
++
+
+
+
+
+
++
++++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+ +
++
+
+
+
+++
+
++
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
++
++
+
++
+
+
+
++
+
+
+
+
+++
+
+
+
++
++
+
+
+
+
+
+
++
++
+
++
++
++
+
+
+
+
+
+++
+
+
++
+
+
+
+
++
++
+
+
+
+++
+
+
+
+
+
++
+
+
++
++
++++
++
+++
+
+
+
++
+
+
+++
++
+
+++
+
+
+
+
+
+
+++
++++++
++
infecteduninfected 0 10 20 30 40 50 60
0.0
0.2
0.4
0.6
0.8
1.0
age
prop
ortio
n
infecteduninfected
age logparvouml
Minimum 0.03 -0.42
1st Quartile [25%] 11.35 1.67
Median [50%] 19.03 4.72
Mean (St. Dev.) 24.68 3.84 (1.82)
3rd Quartile [75%] 36.00 5.39
Maximum 66.27 6.13
# of observations N = 3076 0 10 20 30 40 50 60
050
100
150
age
num
ber
of p
atie
nts
infecteduninfectedtotal
• is it “statistically allowable” to model the dependency of the antibody activity measure
on the age of the patient at the time of the serological test as non-decreasing?
1.3 Model yi = f(xi) + εi, εii.i.d.∼ N(0, σ2), i = 1, . . . N, f ∈ C2(D), D = [xL, xR]. f ′(x) = 0, ∀x ∈ D ?
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 2 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
2 Methodology
2.1 B-splines
• single univariate B-spline of order q
. piecewise non-negative polynomial function B(·) of degree q
(on intervals [λi, λi+1], i = 0, . . . , q), equal to zero on (λ0, λq+1)C
and s. t. B ∈ Cq−1(R); λis are called knots
y=0 ● ● ●
λλ λλ λλ0 1 2
y=0 ● ● ● ● ●
λλ λλ λλ λλ λλ0 1 2 3 4
• B-spline basis of order q and dimension n on interval [xl, xr]
with equidistant knots tk := xl + (k − 1− q)h, h = xr−xl
n−q
is a set of n B-splines Bj(·; q), j = 1, . . . , n
with overlapping supports, s. t.
. Bj(·; q) is a B-spline of order q with the leftmost knot tj
. ∀x ∈ [xl, xr] :∑n
j=1Bj(x; q) = 1
y=0
y=1
● ● ● ● ● ● ● ● ● ● ● ●
x x
n=10
l ry=0
y=1
● ● ● ● ● ● ● ● ● ● ● ● ● ●
x x
n=10
l r
• B-splines least squares estimate in model (G) yi = f(xi)+εi, f ∈ C2(D)
. f(x) ≡n∑j=1
αjBj(x), s. t. α = arg minα∈Rn
S(α), denoting bij := Bj(xi)
. S(α) =N∑i=1
(yi −
n∑j=1
αjBj(xi))2
= (y −Bα)>(y −Bα),B =(bij)N×n
. solving normal equations α =(B>B
)−1B>y
. from infinite to finite dimensionality f ∈ C2 α ∈ Rn
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
++
+
++
+
+++
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
++
++
+
+
+
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
++
+++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++++
+++
+
+
+
++++
+
+++
+
+
++
++
+++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++++
+
+
++
+
+
++
+++
+
+
+
+
+
++
++
+
++++
++
++
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+
+
++
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
++
+
+ + +
+ +
+
+
++
+
+
++ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+ +
++
++
+
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
++ ++++
+
+
+
+
+
+
+
++
+
++
+
+
+ +
+
+
++
+
+
+
++
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+ ++
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
++
+
++
+ +
+
++
+
+
+ +++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
+
++
+
+
++
+
++
+
+
+
+
+ +++
++
+
+
+
+
+
+
+++
+
++++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
++
+
+
+++
++
++
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+++
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
++
++
+++
+
+
++
+
+
+
+
+
+
+
++
+
++++
+
++
++
+
+
+
+
+
+
+
+++
++
+
+
++
+
++
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
+
++
+
+
+
+
++
+++++
+
+
+
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+
++
+++
+
++
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+++
++
+
+
+
+++
+
+
+
+
+
+++
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+
+
++++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
++
+
++
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
+
+
+
++++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++ +
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
+
+
+
+
+
+
+++
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
++
+++
+
+
+++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
++
++
+
+
+
++
++
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
++
+
+
+
+
+
++
+
++
++
+
+
+
+++
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+ +
+
++
+
+
+
+
+++
++
+
+
+ +
+
++++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ +
+
+
+
++
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+++
+
+
+
+
++
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
++
+
++
++
++
+
++
++
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+++
0 10 20 30 40 50 60
01
23
45
6
age
logp
arvo
uml
+
+
++
+
++
+ +
+
++
++
++++
+
+
++
+
+
+
+++
+
+ ++
++
+
+
+ +
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+++
+ +
++
++
++
+
++
+
++
++
++
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+++
+
+
+
+++++
++
+
+
+++++
++++
++
+
+
+
+
++
+
+++++++
++
++
+
+
+
++
++
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++ ++
+
+
+ + +
+ +
+
+
++
+
+++
+
++
+++
+ ++
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
+ +
+
++
+++
+
+
++
+
++
+
+
+ +
+
+
+
+
++
+
+
+ +++
+
+ ++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+++
+
+
+
+
++
+ ++
+
+ +
+
+
++++
+++
+
+
++ ++ +
++
+
+
+
+
+
+
+
+
++
+ +
+++
++
++
+
+
+ +
++
++
+
+
+
+
+
+
+++
+
+
++
+
++
++
+
++
+
+ +
++
++
+
+
+
+++
+
++
+
+++
+
+
++
++++
++
++
+
+
+
+
+
++
+
+
++
+
+
+++
+
+
++
++
+++
+
+
+++
+
++
++
+
+
+
+
++
++
++
+++++
+
+
++
+
+
+
++
++
++
+
+
+
+
+
++
+
+++
+
+
++
+
+
+
+
++
++
+
+
+
+
+ +
+++
+++
+
+
+
++
+
+
+
++
+++++
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+++
+++
+
+++
+
+
+
+
+
+
+ +
++ +
+
+
+
+++
+
+
+
+
+++
++
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+++
++ +
++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
++
++++
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+++ +
+
+
+
+
+
+
+
+
++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++
+
+++
++
+
+
++
+
++
+
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
++
+
+++
++
++
+ +
+
+
+
++
+
+
+
+
++
+
++
+
++
+
++
+ +
+
++
+
+
+
+++
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+++
+
+++
++
+
++
+
++
+++
+++
+
+++
+
+
++
++
+
+
+
+
++
+
++
+
+ ++
+++
+++
+
+
+
+
+
+
+
+
++
++
++
+
++++
++
++
+
+
+
+
+
+
+
+
+
+
+ +
+++
+++
++
++
+
+ +++
+
++
+++
+
++
+
+
++
+ +
++
+
+
+
+
+++
+++
+ +
+++++++
+
+++
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
++
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
+
+++ +
+
+
+
+
++ +
+
+
+
+
++
+
++
+
+
+
+
++
+
+
++
+
+
+++
+
+
+
+
++
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+ +
++
+
+
+
++
+
+
+
+++++
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+++
+
++
+
+++
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+ +
+
+ +
++
++
+ +
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+++
+
+
++
+
+
+
+++
+
+
+
+
+++
+
+
+++
+++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
++
++
+
+
+
+
+
+
+++
++
++
+
+
+
+
+
+++++
+++
+
+++++++
+
+
++
++
+++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+++
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++++
+
++
++++
+
+
+
+++
++
++
++
++
+
+
+
+
+
+
+
++
+
++++++
++
+
+
+
+
+
+++
++
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
++
+
+
+
+
+
++ ++
+
+
+
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+++
+
+ + +
+
++
+
++ +
++
++
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
+
++
+
+
+
+++
+
+
++
+
+
+
+ +
+++
+
+
++
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
++++
+
+
+
+
+
++ +
+
+
+
+
+
++
+
++
++
+
+
+
++
+
++
+
+ +
++
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
+
+
+++ +
+
+
++ ++++
+
+
+
+
+
+
++
+
++
+
+
+ ++
+
+
+
++
+
+
++
++
+
+
+
+
+
+ +
+
+
+
+
+ ++
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
++ +
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+ +++
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+
+ +++
++
+
+
+
++++++++
++
+
+
++
++
++++
+
+
+
++
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+ +
+
+
++
++
+
+
+
+
++
+
+
++
+
++
+
++
+++
++
+++
+
++
+
+
+++
+
++++
+
++
+
++
+
+
+++
++
+++
+++
++
+
+++
+
+
++
++
+++
+
+
+
+
+
+++++++
++
++
+++
+
+
+
++
++
+
+
++
+
+
+
+
+
+
++
++
+
++
+
+
+
+
++++
+++
++
+
+
+
++
+
++
+
+
+
+++
+
++
+
+
+
+
+
+
++++
+
+
++
+
+++
++
+
+
+
+
+
+
+++
+
++
+
+
+
++
+
+
+
+
++
+++
+
+
+++++
++
+++
+
+
+++
++
+
+
+
++
+++
+
++
+
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
++
+++
++
++
+
+
++
++++
+
++++
+ ++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+++
+
+
++
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
++
++
+
+
+
+
+++
+
+
+
+++
+
+++
++
+++
+
+
++++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++++
++
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+
++
+++
+
+
+++
++
+
+
+++
++
+
+
+
+
+
++
++++
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+ +
++
+
+
+
+++
+
++
++
++
+
+
+
+
++
+
++
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
++
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
++
+++
++
+
+
+
++
+
+
+
+
+++ +
+
+
++
++
+
++
+
+
+
++
++
+
++
++
++
+
+
+
+
+
+++
+
+
++
+
+
+
+
++
+ +
+
+
+
+++
+
+
+
+
+
++
+
+
++
++
++++
++
+++
+
+
+
++
+
+
+++
++
+
+++
+
+
+
+
+
+
+++
++++++
q=1, n=10
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
++
+
++
+
+++
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
++
++
+
+
+
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
++
+++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++++
+++
+
+
+
++++
+
+++
+
+
++
++
+++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++++
+
+
++
+
+
++
+++
+
+
+
+
+
++
++
+
++++
++
++
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+
+
++
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
++
+
+ + +
+ +
+
+
++
+
+
++ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+ +
++
++
+
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
++ ++++
+
+
+
+
+
+
+
++
+
++
+
+
+ +
+
+
++
+
+
+
++
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+ ++
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
++
+
++
+ +
+
++
+
+
+ +++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
+
++
+
+
++
+
++
+
+
+
+
+ +++
++
+
+
+
+
+
+
+++
+
++++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
++
+
+
+++
++
++
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+++
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
++
++
+++
+
+
++
+
+
+
+
+
+
+
++
+
++++
+
++
++
+
+
+
+
+
+
+
+++
++
+
+
++
+
++
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
+
++
+
+
+
+
++
+++++
+
+
+
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+
++
+++
+
++
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+++
++
+
+
+
+++
+
+
+
+
+
+++
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+
+
++++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
++
+
++
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
+
+
+
++++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++ +
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
+
+
+
+
+
+
+++
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
++
+++
+
+
+++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
++
++
+
+
+
++
++
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
++
+
+
+
+
+
++
+
++
++
+
+
+
+++
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+ +
+
++
+
+
+
+
+++
++
+
+
+ +
+
++++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ +
+
+
+
++
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+++
+
+
+
+
++
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
++
+
++
++
++
+
++
++
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+++
0 10 20 30 40 50 60
01
23
45
6
age
logp
arvo
uml
+
+
++
+
++
+ +
+
++
++
++++
+
+
++
+
+
+
+++
+
+ ++
++
+
+
+ +
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+++
+ +
++
++
++
+
++
+
++
++
++
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+++
+
+
+
+++++
++
+
+
+++++
++++
++
+
+
+
+
++
+
+++++++
++
++
+
+
+
++
++
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++ ++
+
+
+ + +
+ +
+
+
++
+
+++
+
++
+++
+ ++
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
+ +
+
++
+++
+
+
++
+
++
+
+
+ +
+
+
+
+
++
+
+
+ +++
+
+ ++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+++
+
+
+
+
++
+ ++
+
+ +
+
+
++++
+++
+
+
++ ++ +
++
+
+
+
+
+
+
+
+
++
+ +
+++
++
++
+
+
+ +
++
++
+
+
+
+
+
+
+++
+
+
++
+
++
++
+
++
+
+ +
++
++
+
+
+
+++
+
++
+
+++
+
+
++
++++
++
++
+
+
+
+
+
++
+
+
++
+
+
+++
+
+
++
++
+++
+
+
+++
+
++
++
+
+
+
+
++
++
++
+++++
+
+
++
+
+
+
++
++
++
+
+
+
+
+
++
+
+++
+
+
++
+
+
+
+
++
++
+
+
+
+
+ +
+++
+++
+
+
+
++
+
+
+
++
+++++
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+++
+++
+
+++
+
+
+
+
+
+
+ +
++ +
+
+
+
+++
+
+
+
+
+++
++
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+++
++ +
++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
++
++++
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+++ +
+
+
+
+
+
+
+
+
++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++
+
+++
++
+
+
++
+
++
+
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
++
+
+++
++
++
+ +
+
+
+
++
+
+
+
+
++
+
++
+
++
+
++
+ +
+
++
+
+
+
+++
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+++
+
+++
++
+
++
+
++
+++
+++
+
+++
+
+
++
++
+
+
+
+
++
+
++
+
+ ++
+++
+++
+
+
+
+
+
+
+
+
++
++
++
+
++++
++
++
+
+
+
+
+
+
+
+
+
+
+ +
+++
+++
++
++
+
+ +++
+
++
+++
+
++
+
+
++
+ +
++
+
+
+
+
+++
+++
+ +
+++++++
+
+++
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
++
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
+
+++ +
+
+
+
+
++ +
+
+
+
+
++
+
++
+
+
+
+
++
+
+
++
+
+
+++
+
+
+
+
++
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+ +
++
+
+
+
++
+
+
+
+++++
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+++
+
++
+
+++
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+ +
+
+ +
++
++
+ +
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+++
+
+
++
+
+
+
+++
+
+
+
+
+++
+
+
+++
+++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
++
++
+
+
+
+
+
+
+++
++
++
+
+
+
+
+
+++++
+++
+
+++++++
+
+
++
++
+++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+++
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++++
+
++
++++
+
+
+
+++
++
++
++
++
+
+
+
+
+
+
+
++
+
++++++
++
+
+
+
+
+
+++
++
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
++
+
+
+
+
+
++ ++
+
+
+
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+++
+
+ + +
+
++
+
++ +
++
++
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
+
++
+
+
+
+++
+
+
++
+
+
+
+ +
+++
+
+
++
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
++++
+
+
+
+
+
++ +
+
+
+
+
+
++
+
++
++
+
+
+
++
+
++
+
+ +
++
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
+
+
+++ +
+
+
++ ++++
+
+
+
+
+
+
++
+
++
+
+
+ ++
+
+
+
++
+
+
++
++
+
+
+
+
+
+ +
+
+
+
+
+ ++
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
++ +
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+ +++
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+
+ +++
++
+
+
+
++++++++
++
+
+
++
++
++++
+
+
+
++
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+ +
+
+
++
++
+
+
+
+
++
+
+
++
+
++
+
++
+++
++
+++
+
++
+
+
+++
+
++++
+
++
+
++
+
+
+++
++
+++
+++
++
+
+++
+
+
++
++
+++
+
+
+
+
+
+++++++
++
++
+++
+
+
+
++
++
+
+
++
+
+
+
+
+
+
++
++
+
++
+
+
+
+
++++
+++
++
+
+
+
++
+
++
+
+
+
+++
+
++
+
+
+
+
+
+
++++
+
+
++
+
+++
++
+
+
+
+
+
+
+++
+
++
+
+
+
++
+
+
+
+
++
+++
+
+
+++++
++
+++
+
+
+++
++
+
+
+
++
+++
+
++
+
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
++
+++
++
++
+
+
++
++++
+
++++
+ ++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+++
+
+
++
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
++
++
+
+
+
+
+++
+
+
+
+++
+
+++
++
+++
+
+
++++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++++
++
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+
++
+++
+
+
+++
++
+
+
+++
++
+
+
+
+
+
++
++++
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+ +
++
+
+
+
+++
+
++
++
++
+
+
+
+
++
+
++
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
++
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
++
+++
++
+
+
+
++
+
+
+
+
+++ +
+
+
++
++
+
++
+
+
+
++
++
+
++
++
++
+
+
+
+
+
+++
+
+
++
+
+
+
+
++
+ +
+
+
+
+++
+
+
+
+
+
++
+
+
++
++
++++
++
+++
+
+
+
++
+
+
+++
++
+
+++
+
+
+
+
+
+
+++
++++++
q=3, n=10
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
++
+
++
+
+++
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
++
++
+
+
+
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
++
+++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++++
+++
+
+
+
++++
+
+++
+
+
++
++
+++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++++
+
+
++
+
+
++
+++
+
+
+
+
+
++
++
+
++++
++
++
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+
+
++
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
++
+
+ + +
+ +
+
+
++
+
+
++ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+ +
++
++
+
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
++ ++++
+
+
+
+
+
+
+
++
+
++
+
+
+ +
+
+
++
+
+
+
++
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+ ++
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
++
+
++
+ +
+
++
+
+
+ +++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
+
++
+
+
++
+
++
+
+
+
+
+ +++
++
+
+
+
+
+
+
+++
+
++++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
++
+
+
+++
++
++
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+++
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
++
++
+++
+
+
++
+
+
+
+
+
+
+
++
+
++++
+
++
++
+
+
+
+
+
+
+
+++
++
+
+
++
+
++
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
+
++
+
+
+
+
++
+++++
+
+
+
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+
++
+++
+
++
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+++
++
+
+
+
+++
+
+
+
+
+
+++
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+
+
++++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
++
+
++
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
+
+
+
++++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++ +
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
+
+
+
+
+
+
+++
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
++
+++
+
+
+++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
++
++
+
+
+
++
++
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
++
+
+
+
+
+
++
+
++
++
+
+
+
+++
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+ +
+
++
+
+
+
+
+++
++
+
+
+ +
+
++++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ +
+
+
+
++
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+++
+
+
+
+
++
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
++
+
++
++
++
+
++
++
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+++
0 10 20 30 40 50 60
01
23
45
6
age
logp
arvo
uml
+
+
++
+
++
+ +
+
++
++
++++
+
+
++
+
+
+
+++
+
+ ++
++
+
+
+ +
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+++
+ +
++
++
++
+
++
+
++
++
++
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+++
+
+
+
+++++
++
+
+
+++++
++++
++
+
+
+
+
++
+
+++++++
++
++
+
+
+
++
++
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++ ++
+
+
+ + +
+ +
+
+
++
+
+++
+
++
+++
+ ++
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
+ +
+
++
+++
+
+
++
+
++
+
+
+ +
+
+
+
+
++
+
+
+ +++
+
+ ++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+++
+
+
+
+
++
+ ++
+
+ +
+
+
++++
+++
+
+
++ ++ +
++
+
+
+
+
+
+
+
+
++
+ +
+++
++
++
+
+
+ +
++
++
+
+
+
+
+
+
+++
+
+
++
+
++
++
+
++
+
+ +
++
++
+
+
+
+++
+
++
+
+++
+
+
++
++++
++
++
+
+
+
+
+
++
+
+
++
+
+
+++
+
+
++
++
+++
+
+
+++
+
++
++
+
+
+
+
++
++
++
+++++
+
+
++
+
+
+
++
++
++
+
+
+
+
+
++
+
+++
+
+
++
+
+
+
+
++
++
+
+
+
+
+ +
+++
+++
+
+
+
++
+
+
+
++
+++++
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+++
+++
+
+++
+
+
+
+
+
+
+ +
++ +
+
+
+
+++
+
+
+
+
+++
++
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+++
++ +
++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
++
++++
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+++ +
+
+
+
+
+
+
+
+
++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++
+
+++
++
+
+
++
+
++
+
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
++
+
+++
++
++
+ +
+
+
+
++
+
+
+
+
++
+
++
+
++
+
++
+ +
+
++
+
+
+
+++
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+++
+
+++
++
+
++
+
++
+++
+++
+
+++
+
+
++
++
+
+
+
+
++
+
++
+
+ ++
+++
+++
+
+
+
+
+
+
+
+
++
++
++
+
++++
++
++
+
+
+
+
+
+
+
+
+
+
+ +
+++
+++
++
++
+
+ +++
+
++
+++
+
++
+
+
++
+ +
++
+
+
+
+
+++
+++
+ +
+++++++
+
+++
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
++
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
+
+++ +
+
+
+
+
++ +
+
+
+
+
++
+
++
+
+
+
+
++
+
+
++
+
+
+++
+
+
+
+
++
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+ +
++
+
+
+
++
+
+
+
+++++
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+++
+
++
+
+++
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+ +
+
+ +
++
++
+ +
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+++
+
+
++
+
+
+
+++
+
+
+
+
+++
+
+
+++
+++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
++
++
+
+
+
+
+
+
+++
++
++
+
+
+
+
+
+++++
+++
+
+++++++
+
+
++
++
+++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+++
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++++
+
++
++++
+
+
+
+++
++
++
++
++
+
+
+
+
+
+
+
++
+
++++++
++
+
+
+
+
+
+++
++
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
++
+
+
+
+
+
++ ++
+
+
+
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+++
+
+ + +
+
++
+
++ +
++
++
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
+
++
+
+
+
+++
+
+
++
+
+
+
+ +
+++
+
+
++
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
++++
+
+
+
+
+
++ +
+
+
+
+
+
++
+
++
++
+
+
+
++
+
++
+
+ +
++
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
+
+
+++ +
+
+
++ ++++
+
+
+
+
+
+
++
+
++
+
+
+ ++
+
+
+
++
+
+
++
++
+
+
+
+
+
+ +
+
+
+
+
+ ++
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
++ +
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+ +++
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+
+ +++
++
+
+
+
++++++++
++
+
+
++
++
++++
+
+
+
++
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+ +
+
+
++
++
+
+
+
+
++
+
+
++
+
++
+
++
+++
++
+++
+
++
+
+
+++
+
++++
+
++
+
++
+
+
+++
++
+++
+++
++
+
+++
+
+
++
++
+++
+
+
+
+
+
+++++++
++
++
+++
+
+
+
++
++
+
+
++
+
+
+
+
+
+
++
++
+
++
+
+
+
+
++++
+++
++
+
+
+
++
+
++
+
+
+
+++
+
++
+
+
+
+
+
+
++++
+
+
++
+
+++
++
+
+
+
+
+
+
+++
+
++
+
+
+
++
+
+
+
+
++
+++
+
+
+++++
++
+++
+
+
+++
++
+
+
+
++
+++
+
++
+
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
++
+++
++
++
+
+
++
++++
+
++++
+ ++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+++
+
+
++
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
++
++
+
+
+
+
+++
+
+
+
+++
+
+++
++
+++
+
+
++++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++++
++
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+
++
+++
+
+
+++
++
+
+
+++
++
+
+
+
+
+
++
++++
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+ +
++
+
+
+
+++
+
++
++
++
+
+
+
+
++
+
++
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
++
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
++
+++
++
+
+
+
++
+
+
+
+
+++ +
+
+
++
++
+
++
+
+
+
++
++
+
++
++
++
+
+
+
+
+
+++
+
+
++
+
+
+
+
++
+ +
+
+
+
+++
+
+
+
+
+
++
+
+
++
++
++++
++
+++
+
+
+
++
+
+
+++
++
+
+++
+
+
+
+
+
+
+++
++++++
q=1, n=30
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
++
+
++
+
+++
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
++
++
+
+
+
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
++
+++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++++
+++
+
+
+
++++
+
+++
+
+
++
++
+++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++++
+
+
++
+
+
++
+++
+
+
+
+
+
++
++
+
++++
++
++
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+
+
++
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
++
+
+ + +
+ +
+
+
++
+
+
++ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+ +
++
++
+
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
++ ++++
+
+
+
+
+
+
+
++
+
++
+
+
+ +
+
+
++
+
+
+
++
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+ ++
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
++
+
++
+ +
+
++
+
+
+ +++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
+
++
+
+
++
+
++
+
+
+
+
+ +++
++
+
+
+
+
+
+
+++
+
++++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
++
+
+
+++
++
++
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+++
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
++
++
+++
+
+
++
+
+
+
+
+
+
+
++
+
++++
+
++
++
+
+
+
+
+
+
+
+++
++
+
+
++
+
++
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
+
++
+
+
+
+
++
+++++
+
+
+
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+
++
+++
+
++
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+++
++
+
+
+
+++
+
+
+
+
+
+++
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+
+
++++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
++
+
++
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
+
+
+
++++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++ +
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
+
+
+
+
+
+
+++
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
++
+++
+
+
+++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
++
++
+
+
+
++
++
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
++
+
+
+
+
+
++
+
++
++
+
+
+
+++
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+ +
+
++
+
+
+
+
+++
++
+
+
+ +
+
++++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ +
+
+
+
++
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+++
+
+
+
+
++
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
++
+
++
++
++
+
++
++
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+++
0 10 20 30 40 50 60
01
23
45
6
age
logp
arvo
uml
+
+
++
+
++
+ +
+
++
++
++++
+
+
++
+
+
+
+++
+
+ ++
++
+
+
+ +
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+++
+ +
++
++
++
+
++
+
++
++
++
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+++
+
+
+
+++++
++
+
+
+++++
++++
++
+
+
+
+
++
+
+++++++
++
++
+
+
+
++
++
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++ ++
+
+
+ + +
+ +
+
+
++
+
+++
+
++
+++
+ ++
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
+ +
+
++
+++
+
+
++
+
++
+
+
+ +
+
+
+
+
++
+
+
+ +++
+
+ ++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+++
+
+
+
+
++
+ ++
+
+ +
+
+
++++
+++
+
+
++ ++ +
++
+
+
+
+
+
+
+
+
++
+ +
+++
++
++
+
+
+ +
++
++
+
+
+
+
+
+
+++
+
+
++
+
++
++
+
++
+
+ +
++
++
+
+
+
+++
+
++
+
+++
+
+
++
++++
++
++
+
+
+
+
+
++
+
+
++
+
+
+++
+
+
++
++
+++
+
+
+++
+
++
++
+
+
+
+
++
++
++
+++++
+
+
++
+
+
+
++
++
++
+
+
+
+
+
++
+
+++
+
+
++
+
+
+
+
++
++
+
+
+
+
+ +
+++
+++
+
+
+
++
+
+
+
++
+++++
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+++
+++
+
+++
+
+
+
+
+
+
+ +
++ +
+
+
+
+++
+
+
+
+
+++
++
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+++
++ +
++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
++
++++
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+++ +
+
+
+
+
+
+
+
+
++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++
+
+++
++
+
+
++
+
++
+
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
++
+
+++
++
++
+ +
+
+
+
++
+
+
+
+
++
+
++
+
++
+
++
+ +
+
++
+
+
+
+++
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+++
+
+++
++
+
++
+
++
+++
+++
+
+++
+
+
++
++
+
+
+
+
++
+
++
+
+ ++
+++
+++
+
+
+
+
+
+
+
+
++
++
++
+
++++
++
++
+
+
+
+
+
+
+
+
+
+
+ +
+++
+++
++
++
+
+ +++
+
++
+++
+
++
+
+
++
+ +
++
+
+
+
+
+++
+++
+ +
+++++++
+
+++
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
++
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
+
+++ +
+
+
+
+
++ +
+
+
+
+
++
+
++
+
+
+
+
++
+
+
++
+
+
+++
+
+
+
+
++
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+ +
++
+
+
+
++
+
+
+
+++++
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+++
+
++
+
+++
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+ +
+
+ +
++
++
+ +
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+++
+
+
++
+
+
+
+++
+
+
+
+
+++
+
+
+++
+++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
++
++
+
+
+
+
+
+
+++
++
++
+
+
+
+
+
+++++
+++
+
+++++++
+
+
++
++
+++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+++
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++++
+
++
++++
+
+
+
+++
++
++
++
++
+
+
+
+
+
+
+
++
+
++++++
++
+
+
+
+
+
+++
++
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
++
+
+
+
+
+
++ ++
+
+
+
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+++
+
+ + +
+
++
+
++ +
++
++
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
+
++
+
+
+
+++
+
+
++
+
+
+
+ +
+++
+
+
++
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
++++
+
+
+
+
+
++ +
+
+
+
+
+
++
+
++
++
+
+
+
++
+
++
+
+ +
++
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
+
+
+++ +
+
+
++ ++++
+
+
+
+
+
+
++
+
++
+
+
+ ++
+
+
+
++
+
+
++
++
+
+
+
+
+
+ +
+
+
+
+
+ ++
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
++ +
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+ +++
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+
+ +++
++
+
+
+
++++++++
++
+
+
++
++
++++
+
+
+
++
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+ +
+
+
++
++
+
+
+
+
++
+
+
++
+
++
+
++
+++
++
+++
+
++
+
+
+++
+
++++
+
++
+
++
+
+
+++
++
+++
+++
++
+
+++
+
+
++
++
+++
+
+
+
+
+
+++++++
++
++
+++
+
+
+
++
++
+
+
++
+
+
+
+
+
+
++
++
+
++
+
+
+
+
++++
+++
++
+
+
+
++
+
++
+
+
+
+++
+
++
+
+
+
+
+
+
++++
+
+
++
+
+++
++
+
+
+
+
+
+
+++
+
++
+
+
+
++
+
+
+
+
++
+++
+
+
+++++
++
+++
+
+
+++
++
+
+
+
++
+++
+
++
+
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
++
+++
++
++
+
+
++
++++
+
++++
+ ++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+++
+
+
++
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
++
++
+
+
+
+
+++
+
+
+
+++
+
+++
++
+++
+
+
++++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++++
++
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+
++
+++
+
+
+++
++
+
+
+++
++
+
+
+
+
+
++
++++
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+ +
++
+
+
+
+++
+
++
++
++
+
+
+
+
++
+
++
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
++
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
++
+++
++
+
+
+
++
+
+
+
+
+++ +
+
+
++
++
+
++
+
+
+
++
++
+
++
++
++
+
+
+
+
+
+++
+
+
++
+
+
+
+
++
+ +
+
+
+
+++
+
+
+
+
+
++
+
+
++
++
++++
++
+++
+
+
+
++
+
+
+++
++
+
+++
+
+
+
+
+
+
+++
++++++
q=3, n=30
• large n overfitting, small n oversmoothing
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 3 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
2.2 P-splines
• setting an excessive dimension n, adding a penalty for overfitting to the objective function, denoting f(x;α) :=∑n
j=1 αjBj(x)
. Sk,λ(α) =N∑i=1
(yi − f (xi;α))2 + λ
∫D
[f (k) (x;α)
]2dx = (y −Bα)>(y −Bα) + λα>B(k)α
. denoting B(k) :=(b(k)jl
)n×n, b
(k)jl :=
∫DB
(k)j (x)B
(k)l (x) dx
. objective function, again, expressed as quadratic form α =(B>B + λB(k)
)−1B>y
• problem of the choice of the optimal dimension n (positive integer - choosing from a discrete set)
“translated” to the issue of getting the optimal value of λ = 0 (non-negative real - optimizing over the continuum)
• for λ = 0 B-splines least squares; as λ→∞ polynomial regression (of order k − 1)
• using (generalized) cross-validation to obtain “optimal” λ; λCV = arg minλ=0
CV (λ) or λGCV = arg minλ=0
GCV (λ)
. CV (λ) =1
N
N∑i=1
(yi − f (−i)
λ (xi))2
=1
N
N∑i=1
(yi − fλ(xi)
)2
(1− hii)2, GCV (λ) =
N∑i=1
1N
(yi − fλ(xi)
)2
(1− tr(H)
N
)2
.(him)N×N = H = B
(B>B + λB(k)
)−1B> is the “hat matrix”; y =
(f(xi)
)i=1,...,N
= Bα = Hy
. f(−i)λ is the P-splines estimate of f (with a given λ) for the dataset (xj, yj)j=1,...,i−1,i+1,...,N (ith observation is omitted)
• constistent estimator of σ2, the residual variance, is σ2 =RSS
N − tr(H)=
∑Ni=1 e
2i
N − tr(H)=
∑Ni=1(yi − yi)2
N − tr(H)
• (1− α)× 100% pointwise confidence interval bands (in design points xi) are f(xi)± Φ−1(1− α
2
)σ2hii, i = 1, . . . , N
. Φ−1(·) is a quantile function of N(0; 1), the standard normal distribution
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 4 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
150 200 250 300 350
2.87
232.
8724
2.87
252.
8726
2.87
27
λλ
CV
((λλ))
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
++
+
++
+
+++
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
++
++
+
+
+
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
++
+++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++++
+++
+
+
+
++++
+
+++
+
+
++
++
+++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++++
+
+
++
+
+
++
+++
+
+
+
+
+
++
++
+
++++
++
++
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+
+
++
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
++
+
+ + +
+ +
+
+
++
+
+
++ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+ +
++
++
+
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
++ ++++
+
+
+
+
+
+
+
++
+
++
+
+
+ +
+
+
++
+
+
+
++
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+ ++
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
++
+
++
+ +
+
++
+
+
+ +++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
+
++
+
+
++
+
++
+
+
+
+
+ +++
++
+
+
+
+
+
+
+++
+
++++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
++
+
+
+++
++
++
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+++
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
++
++
+++
+
+
++
+
+
+
+
+
+
+
++
+
++++
+
++
++
+
+
+
+
+
+
+
+++
++
+
+
++
+
++
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
+
++
+
+
+
+
++
+++++
+
+
+
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+
++
+++
+
++
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+++
++
+
+
+
+++
+
+
+
+
+
+++
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+
+
++++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
++
+
++
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
+
+
+
++++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++ +
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
+
+
+
+
+
+
+++
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
++
+++
+
+
+++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
++
++
+
+
+
++
++
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
++
+
+
+
+
+
++
+
++
++
+
+
+
+++
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+ +
+
++
+
+
+
+
+++
++
+
+
+ +
+
++++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ +
+
+
+
++
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+++
+
+
+
+
++
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
++
+
++
++
++
+
++
++
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+++
0 10 20 30 40 50 60
01
23
45
6
agelo
gpar
voum
l
+
+
++
+
++
+ +
+
++
++
++++
+
+
++
+
+
+
+++
+
+ ++
++
+
+
+ +
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+++
+ +
++
++
++
+
++
+
++
++
++
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+++
+
+
+
+++++
++
+
+
+++++
++++
++
+
+
+
+
++
+
+++++++
++
++
+
+
+
++
++
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++ ++
+
+
+ + +
+ +
+
+
++
+
+++
+
++
+++
+ ++
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
+ +
+
++
+++
+
+
++
+
++
+
+
+ +
+
+
+
+
++
+
+
+ +++
+
+ ++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+++
+
+
+
+
++
+ ++
+
+ +
+
+
++++
+++
+
+
++ ++ +
++
+
+
+
+
+
+
+
+
++
+ +
+++
++
++
+
+
+ +
++
++
+
+
+
+
+
+
+++
+
+
++
+
++
++
+
++
+
+ +
++
++
+
+
+
+++
+
++
+
+++
+
+
++
++++
++
++
+
+
+
+
+
++
+
+
++
+
+
+++
+
+
++
++
+++
+
+
+++
+
++
++
+
+
+
+
++
++
++
+++++
+
+
++
+
+
+
++
++
++
+
+
+
+
+
++
+
+++
+
+
++
+
+
+
+
++
++
+
+
+
+
+ +
+++
+++
+
+
+
++
+
+
+
++
+++++
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+++
+++
+
+++
+
+
+
+
+
+
+ +
++ +
+
+
+
+++
+
+
+
+
+++
++
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+++
++ +
++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
++
++++
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+++ +
+
+
+
+
+
+
+
+
++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++
+
+++
++
+
+
++
+
++
+
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
++
+
+++
++
++
+ +
+
+
+
++
+
+
+
+
++
+
++
+
++
+
++
+ +
+
++
+
+
+
+++
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+++
+
+++
++
+
++
+
++
+++
+++
+
+++
+
+
++
++
+
+
+
+
++
+
++
+
+ ++
+++
+++
+
+
+
+
+
+
+
+
++
++
++
+
++++
++
++
+
+
+
+
+
+
+
+
+
+
+ +
+++
+++
++
++
+
+ +++
+
++
+++
+
++
+
+
++
+ +
++
+
+
+
+
+++
+++
+ +
+++++++
+
+++
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
++
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
+
+++ +
+
+
+
+
++ +
+
+
+
+
++
+
++
+
+
+
+
++
+
+
++
+
+
+++
+
+
+
+
++
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+ +
++
+
+
+
++
+
+
+
+++++
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+++
+
++
+
+++
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+ +
+
+ +
++
++
+ +
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+++
+
+
++
+
+
+
+++
+
+
+
+
+++
+
+
+++
+++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
++
++
+
+
+
+
+
+
+++
++
++
+
+
+
+
+
+++++
+++
+
+++++++
+
+
++
++
+++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+++
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++++
+
++
++++
+
+
+
+++
++
++
++
++
+
+
+
+
+
+
+
++
+
++++++
++
+
+
+
+
+
+++
++
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
++
+
+
+
+
+
++ ++
+
+
+
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+++
+
+ + +
+
++
+
++ +
++
++
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
+
++
+
+
+
+++
+
+
++
+
+
+
+ +
+++
+
+
++
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
++++
+
+
+
+
+
++ +
+
+
+
+
+
++
+
++
++
+
+
+
++
+
++
+
+ +
++
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
+
+
+++ +
+
+
++ ++++
+
+
+
+
+
+
++
+
++
+
+
+ ++
+
+
+
++
+
+
++
++
+
+
+
+
+
+ +
+
+
+
+
+ ++
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
++ +
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+ +++
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+
+ +++
++
+
+
+
++++++++
++
+
+
++
++
++++
+
+
+
++
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+ +
+
+
++
++
+
+
+
+
++
+
+
++
+
++
+
++
+++
++
+++
+
++
+
+
+++
+
++++
+
++
+
++
+
+
+++
++
+++
+++
++
+
+++
+
+
++
++
+++
+
+
+
+
+
+++++++
++
++
+++
+
+
+
++
++
+
+
++
+
+
+
+
+
+
++
++
+
++
+
+
+
+
++++
+++
++
+
+
+
++
+
++
+
+
+
+++
+
++
+
+
+
+
+
+
++++
+
+
++
+
+++
++
+
+
+
+
+
+
+++
+
++
+
+
+
++
+
+
+
+
++
+++
+
+
+++++
++
+++
+
+
+++
++
+
+
+
++
+++
+
++
+
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
++
+++
++
++
+
+
++
++++
+
++++
+ ++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+++
+
+
++
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
++
++
+
+
+
+
+++
+
+
+
+++
+
+++
++
+++
+
+
++++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++++
++
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+
++
+++
+
+
+++
++
+
+
+++
++
+
+
+
+
+
++
++++
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+ +
++
+
+
+
+++
+
++
++
++
+
+
+
+
++
+
++
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
++
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
++
+++
++
+
+
+
++
+
+
+
+
+++ +
+
+
++
++
+
++
+
+
+
++
++
+
++
++
++
+
+
+
+
+
+++
+
+
++
+
+
+
+
++
+ +
+
+
+
+++
+
+
+
+
+
++
+
+
++
++
++++
++
+++
+
+
+
++
+
+
+++
++
+
+++
+
+
+
+
+
+
+++
++++++
150 200 250 300 350
2.87
392.
8741
2.87
43
λλ
GC
V((λλ
))
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
++
+
++
+
+++
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
++
++
+
+
+
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
++
+++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++++
+++
+
+
+
++++
+
+++
+
+
++
++
+++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++++
+
+
++
+
+
++
+++
+
+
+
+
+
++
++
+
++++
++
++
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+
+
++
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
++
+
+ + +
+ +
+
+
++
+
+
++ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+ +
++
++
+
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
++ ++++
+
+
+
+
+
+
+
++
+
++
+
+
+ +
+
+
++
+
+
+
++
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+ ++
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
++
+
++
+ +
+
++
+
+
+ +++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
+
++
+
+
++
+
++
+
+
+
+
+ +++
++
+
+
+
+
+
+
+++
+
++++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
++
+
+
+++
++
++
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+++
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
++
++
+++
+
+
++
+
+
+
+
+
+
+
++
+
++++
+
++
++
+
+
+
+
+
+
+
+++
++
+
+
++
+
++
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
+
++
+
+
+
+
++
+++++
+
+
+
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+
++
+++
+
++
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+++
++
+
+
+
+++
+
+
+
+
+
+++
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+
+
++++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
++
+
++
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
+
+
+
++++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++ +
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
+
+
+
+
+
+
+++
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
++
+++
+
+
+++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
++
++
+
+
+
++
++
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
++
+
+
+
+
+
++
+
++
++
+
+
+
+++
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+ +
+
++
+
+
+
+
+++
++
+
+
+ +
+
++++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ +
+
+
+
++
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+++
+
+
+
+
++
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
++
+
++
++
++
+
++
++
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+++
0 10 20 30 40 50 60
01
23
45
6
age
logp
arvo
uml
+
+
++
+
++
+ +
+
++
++
++++
+
+
++
+
+
+
+++
+
+ ++
++
+
+
+ +
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+++
+ +
++
++
++
+
++
+
++
++
++
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+++
+
+
+
+++++
++
+
+
+++++
++++
++
+
+
+
+
++
+
+++++++
++
++
+
+
+
++
++
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++ ++
+
+
+ + +
+ +
+
+
++
+
+++
+
++
+++
+ ++
+
+
+
+
++ +
+
+
+
+
+
+
+
+
++
+
+ +
+
++
+++
+
+
++
+
++
+
+
+ +
+
+
+
+
++
+
+
+ +++
+
+ ++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+++
+
+
+
+
++
+ ++
+
+ +
+
+
++++
+++
+
+
++ ++ +
++
+
+
+
+
+
+
+
+
++
+ +
+++
++
++
+
+
+ +
++
++
+
+
+
+
+
+
+++
+
+
++
+
++
++
+
++
+
+ +
++
++
+
+
+
+++
+
++
+
+++
+
+
++
++++
++
++
+
+
+
+
+
++
+
+
++
+
+
+++
+
+
++
++
+++
+
+
+++
+
++
++
+
+
+
+
++
++
++
+++++
+
+
++
+
+
+
++
++
++
+
+
+
+
+
++
+
+++
+
+
++
+
+
+
+
++
++
+
+
+
+
+ +
+++
+++
+
+
+
++
+
+
+
++
+++++
+
+
+
+
+
+++
+
++
++
+
+
+
++
+
+++
+++
+
+++
+
+
+
+
+
+
+ +
++ +
+
+
+
+++
+
+
+
+
+++
++
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+++
++ +
++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
++
++++
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+++ +
+
+
+
+
+
+
+
+
++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++
+
+++
++
+
+
++
+
++
+
+
+
+
+
+ +
+
+
+
+
++
++
+++
+
+
+
+++
+
+
+
++
++
+
+ +
++
+
+++
++
++
+ +
+
+
+
++
+
+
+
+
++
+
++
+
++
+
++
+ +
+
++
+
+
+
+++
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+++
+
+++
++
+
++
+
++
+++
+++
+
+++
+
+
++
++
+
+
+
+
++
+
++
+
+ ++
+++
+++
+
+
+
+
+
+
+
+
++
++
++
+
++++
++
++
+
+
+
+
+
+
+
+
+
+
+ +
+++
+++
++
++
+
+ +++
+
++
+++
+
++
+
+
++
+ +
++
+
+
+
+
+++
+++
+ +
+++++++
+
+++
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
++
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
++++
+
+
+
+++
+
+
+++ +
+
+
+
+
++ +
+
+
+
+
++
+
++
+
+
+
+
++
+
+
++
+
+
+++
+
+
+
+
++
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+ +
++
+
+
+
++
+
+
+
+++++
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
++
+
++
+
+
+
+
+
+
+
+
++ +
+
+
+
+++
+
++
+
+++
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+ +
+
+ +
++
++
+ +
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+++
+
+
++
+
+
+
+++
+
+
+
+
+++
+
+
+++
+++
+++
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
++ +
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
++
++
+
+
+
+
+
+
+++
++
++
+
+
+
+
+
+++++
+++
+
+++++++
+
+
++
++
+++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
++
+++
+
+
+
++
+
+
++
+
+
+
+++
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++++
+
++
++++
+
+
+
+++
++
++
++
++
+
+
+
+
+
+
+
++
+
++++++
++
+
+
+
+
+
+++
++
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
++
+
+
+
+
+
++ ++
+
+
+
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+++
+
+ + +
+
++
+
++ +
++
++
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
+
++
+
+
+
+++
+
+
++
+
+
+
+ +
+++
+
+
++
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
++
+
++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
++++
+
+
+
+
+
++ +
+
+
+
+
+
++
+
++
++
+
+
+
++
+
++
+
+ +
++
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+++
++
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
+
+
+++ +
+
+
++ ++++
+
+
+
+
+
+
++
+
++
+
+
+ ++
+
+
+
++
+
+
++
++
+
+
+
+
+
+ +
+
+
+
+
+ ++
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
++ +
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+ +++
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+
+ +++
++
+
+
+
++++++++
++
+
+
++
++
++++
+
+
+
++
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+ +
+
+
++
++
+
+
+
+
++
+
+
++
+
++
+
++
+++
++
+++
+
++
+
+
+++
+
++++
+
++
+
++
+
+
+++
++
+++
+++
++
+
+++
+
+
++
++
+++
+
+
+
+
+
+++++++
++
++
+++
+
+
+
++
++
+
+
++
+
+
+
+
+
+
++
++
+
++
+
+
+
+
++++
+++
++
+
+
+
++
+
++
+
+
+
+++
+
++
+
+
+
+
+
+
++++
+
+
++
+
+++
++
+
+
+
+
+
+
+++
+
++
+
+
+
++
+
+
+
+
++
+++
+
+
+++++
++
+++
+
+
+++
++
+
+
+
++
+++
+
++
+
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
++
+++
++
++
+
+
++
++++
+
++++
+ ++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+++
+
+
++
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
++
++
+
+
+
+
++
++
++
+
+
+
+
+++
+
+
+
+++
+
+++
++
+++
+
+
++++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++++
++
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+
++
+++
+
+
+++
++
+
+
+++
++
+
+
+
+
+
++
++++
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+ +
++
+
+
+
+++
+
++
++
++
+
+
+
+
++
+
++
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
++
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
++
+++
++
+
+
+
++
+
+
+
+
+++ +
+
+
++
++
+
++
+
+
+
++
++
+
++
++
++
+
+
+
+
+
+++
+
+
++
+
+
+
+
++
+ +
+
+
+
+++
+
+
+
+
+
++
+
+
++
++
++++
++
+++
+
+
+
++
+
+
+++
++
+
+++
+
+
+
+
+
+
+++
++++++
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 5 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
2.3 Model constraints
• many possible assumptions about the shape of the regression curve may be specified/formalized in terms of differential characteristics of f
. ∀s ∈ S : f (ds)(x) ∈ Fs := [l(y)s , u
(y)s ] ⊆ [−∞,∞] ∀x ∈ Ds := [l
(x)s , u
(x)s ] ⊆ D, ds ∈ {0, 1, . . . , q}, S is the finite index set
. e. g. for the assumption of non-decreasingness S := {1}, d1 = 1, F1 = [0,∞], D1 = D
• another penalty for not satisfying the model constraints added to the objective function
. sum (over S) of integrated (over Ds) squared Euclidean distances of f (ds)(x) from Fs = [l(y)s , u
(y)s ]
• letting λ = λCV or λ = λGCV , chosen without considering the model constraints, as in previous Section 2.2
. if the model constraints hold true, this seems to be a reasonable choice, but further discussion is needed
• Sκ(α) =N∑i=1
(yi − f (xi;α))2 + λ
∫D
[f (k) (x;α)
]2dx+ κ
∑s∈S
∫Ds
d2(f (ds)(x;α), Fs
)dx
. d(·, ·) is Euclidean distance (of a point from a set)
. with a little bit of derivations, objective function may be expressed as “almost a quadratic form”
(1)∫Dsd2(f (ds)(x;α), Fs
)dx =
∫Mu
s (α)
(f (ds)(x;α)− u(y)
s
)2dx+
∫M l
s(α)
(l(y)s − f (ds)(x;α)
)2dx
. Mus (α) = Ds ∩ {x : f (ds)(x;α) > u
(y)s } and M l
s(α) = Ds ∩ {x : f (ds)(x;α) < l(y)s }
(2) Bu(s)(α) =(bu(s)j,l (α)
)n×n
, bu(s)jl (α) :=
∫Mu
s (α)B(ds)j (x)B(ds)
l (x) dx, bu(s)(α) = (bu(s)j )n×1, bu(s)j (α) :=
∫Mu
s (α)B(ds)j (x) dx, Ju(s)(α) :=
∫Mu
s (α) 1 dx
. analogically Bl(s)(α), bl(s)(α), J l(s)(α)
(3) BS(α) :=∑
s∈S
[Bu(s)(α) +Bl(s)(α)
], bS(α) :=
∑s∈S
[u
(y)s b
u(s)(α) + l(y)s bl(s)(α)
], JS(α) :=
∑s∈S
[[u(y)s ]2Ju(s)(α) + [l(y)s ]2J l(s)(α)
](4)
∫Mu
s (α)
(f (ds)(x;α)− u(y)
s
)2dx = . . . = α>Bu(s)(α)α− 2u(y)
s α>bu(s)(α) + [u(y)
s ]2Ju(s)(α); analogically∫M l
s(α)
(l(y)s − f (ds)(x;α)
)2dx
(5)∑
s∈S∫Dsd2(f (ds)(x;α), Fs
)dx = α>BS(α)α− 2α>bS(α) + JS(α) = α>
(BS(α) +α−>
(JS(α)− 2α>bS(α)
)α−)
︸ ︷︷ ︸=:BS(α)
α =: α>BS(α)α
. denoting α− :=(
1∑nj=1 αj
, . . . , 1∑nj=1 αj
)as 1× n matrix for α 6= 0, otherwise α− := 0>; (actually, α− is the generalized inverse of α (as n× 1 matrix))
(6) finally Sκ(α) = (y −Bα)>(y −Bα) + λα>B(k)α+ κα>BS(α)α
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 6 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
• using similar arguments as Bollaerts et al. (2006), and referring to expression in previous section 2.2,
Sκ(·) may be optimized via the Newton-Raphson iterative algorithm
(1) set r = 0, BS(0) := 0
(2) increase r by one (r := r + 1)
(3) calculate α(r) =(B>B + λB(k) + κBS(r−1)
)−1B>y
(4) calculate BS(r) = BS(α(r)
)
(5) repeat (2),(3),(4) until convergence:
{if BS(r) = BS(r−1), goto (6);
else goto (2)
(6) α := α(r)
• choosing a “large enough” value of κ
to ensure that the violations of the model constraints are negligible
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 7 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
2.4 Hypothesis Testing
• formalization similar as for testing the submodel in classical regression setting
. quite general types of hypothesis allowed for testing
• test of the hypothesis
H0 : f (ds0 )(x) ∈ [l(y)s0, u(y)
s0] ∀x ∈ [l(x)s0
, u(x)s0
] ∀s0 ∈ S0 against HA : f (dsA)(x) ∈ [l(y)sA
, u(y)sA
] ∀x ∈ [l(x)sA, u(x)
sA] ∀sA ∈ SA $ S0 (T)
. this notation is not completely correct; denoting
A := {α ∈ Rn : HA in (T) with f (dsA)(·) ≡ f (dsA
)(·;α) holds true} and A0 := {α ∈ Rn : H0 in (T) with f (ds0 )(·) ≡ f (ds0 )(·;α) holds true},then A0 ⊂ A and correct formalization is H0 : α ∈ A0 against HA : α ∈ A \ A0
• bootstrap F-type test algorithm and calculation of Monte-Carlo p-value (under assumption, that HA in (T) holds true)
(1) set a large enough value of κ� 0
(2) fit the null model and estimate residuals e0i := yi − f 0(xi)
(from the original dataset (xi, yi)i=1,...,N)
(3) fit the alternative model and estimate residuals eAi := yi− fA(xi)
(from the original dataset (xi, yi)i=1,...,N)
(4) calculate “pivotal F-type” test statistic F =RSS0 −RSSA
RSSARSS0 =
∑Ni=1[e
0i ]
2, RSSA =∑N
i=1[eAi ]2
(5) set b := 0
(6) repeat B times steps (B1)-(B4)
(B1) create a bootstrap residuals e∗0 = (e∗01 , . . . , e∗0N )>
- sample with replacement from e0 = (e01, . . . , e
0N)>
(B2) calculate artificial bootstrap dataset
(xi, y∗i )i=1,...,N , y∗i = f 0(xi) + e∗0i
(B3) fit the null and alternative model
from the artificial dataset (xi, y∗i )i=1,...,N and calculate
F ∗ =RSS∗0 −RSS∗A
RSS∗ARSS∗0 =
∑Ni=1[y
∗i − f ∗0(xi)]2, RSS∗A =
∑Ni=1[y
∗i − f ∗A(xi)]
2
(B4) if F ∗ = F , increase b by one (b := b+ 1)
(7) calculate the Monte-Carlo p-value pMC =1 + b
1 +B; if pMC < 0.05, then reject H0
• eA is a proper estimate of residuals under HA, but under H0 as well - possible use of eA instead of e0 in (B1)
. this modification will be referred to as the true residuals bootstrap as opposed to previously algorithmized consrained residuals bootstrap
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 8 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
3 Data Analysis
3.1 Parvo B19 Data
• exploratory analysis
. question about the non-decreasingness is natural
. there seems to be a quite large violation of monotonicity
. focusing on the age interval around 25 to 35 years
. prevalence function similar to 1-year interval means “evolution”
. empirical distribution of age is clearly nonuniform
- more sophisticated selection of knots more proper
- e. g. reflecting the quantiles of e. d. f. of age
- not considered here (equidistant knots used)
• confirmatory analysis
. alternative - P-splines without model constraints
- with n = 30, q = 3, k = 2, λ = λCV = 268.1
. null model - P-splines with nondecreasingness constraint
- with κ = 108
. quite large discrepancy between null and alternative model
. bootstrap F-type tests (constrained and true residuals)
- in both cases pMC = 0.005� 0.05
- nondecreasingness (strongly) rejected
- Davison and Hinkley (1997) suggest to use
true residuals bootstrap, as it is expected to perform better
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++++
++ +
+
+
+
++
++
+
+++
+
+
++
++
+++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
++
+
+
++
+
++
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
++
+
+
++
+++
+
+
+
+
+
++
++
+
++++
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
++
+
+ +
+
+
++
+
+
++ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+++
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+ +
++
++
+
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++ ++++
+
+
+
+
+
+
+
++
+
++
+
+
++
+
+
++
+
+
+
+ +
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
++
+
++
++
+
++
+
+
+ +++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
++
+
+
++
+
++
+
+
+
+
+ +++
+
+
+
+
+
+
+
+
+++
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
++
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
++
+
++++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
++
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+++++
+
+
+
+
+
+
+
+
+++
+
++
++
+
+
+
+
+
+
+
++
+++
+
++
+
+
+
+
++
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+++
++
+
+
+
+
++
+
+
+
+
+
+++
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
++
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
++
+
+
++
+
+
+
+
+++
+
+
+
++
++
+
+ +
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
++
++
+
+
+
+
+
++
+
+
+
++
++
+
+
+
+++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
++
++
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
++
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+ +
+
++
+
+
+
+
+++
++
+
+
+ +
+
++++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+ +
+
++
++
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+++
+
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+++
0 10 20 30 40 50 60
01
23
45
6
age
logp
arvo
uml
+
+
+
++
++
+ +
+
+
+
+
++
+++
+
+
++
+
+
+
++
+
+
+ ++
++
+
+
++
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+ +
++ +
+
+++
++
+
++
+
+
+
+
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++ +++
+
+
+
+
++
+
+
+
+
+++++
++
+
+
++
+++
++++
++
+
+
+
+
++
+
+++++++
+
+
++
+
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+ ++
+
+
++ +
+ +
+
+
++
+
+
+ +
+
++
+++
+ ++
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
++
+
++
++
+
+
+
++
+
++
+
+
+ +
+
+
+
+
++
+
+
++
++
+
+ ++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+++
+
+
+
+
++
++
+
+
+ +
+
+
++++
+++
+
+
+ + ++ +
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
++
+
+
+ +
++
++
+
+
+
+
+
+
++
+
+
+
++
+
++
++
+
++
+
++
++
++
+
+
+
+++
+
++
+
+++
+
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+
++
++
+++
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+ +
++
+
++++
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
++
+
+
+
++
+
+
+
+
++
++
+
+
+
+
+ +
+++
+++
+
+
+
++
+
+
+
+
+
+++++
+
+
+
+
+
+++
+
++
++
+
+
+
+
+
+
+++
++
+
+
+++
+
+
+
+
+
+
+ +
++ +
+
+
+
+
++
+
+
+
+
+++
++
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+++
++ +
++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
++++
+
+
+
+
+
+
+
+
+
+
+ ++
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
++
+
+
++
+
+
+
+
+++
+
+
+
++
++
+
+ +
++
+
+
++
+
+
++
+ +
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+ +
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
++
+++
++
+
++
+
++
+
+
++++
+
+++
+
+
++
++
+
+
+
+
++
+
++
+
++
+
+++
++
+
+
+
+
+
+
+
+
+
++
++
++
+
+++
+
++
++
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
++
++
+
+ +++
+
+
+
+++
+
+
+
+
+
++
+ +
++
+
+
+
+
+++
+++
+ +
+++++++
+
++
+
+
++
+
+
+
+
+
+
+ ++
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+++
+
+
+++ +
+
+
+
+
++ +
+
+
+
+
++
+
++
+
+
+
+
++
+
+
++
+
+
++
+
+
+
+
+
+ +
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+ +
++
+
+
+
++
+
+
+
+++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
+
++
+
++
+
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+ +
++
+
+
++
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+++
+
+
+
+
+++
+
+
+++
++
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
++
++
+
+
+
+
+
+
+++
++
++
+
+
+
+
+
+++++
++ +
+
++
+++++
+
+
++
++
+++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
++
+
++
+
+
+
++
+
+
++
+
+
+
+++
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
++
+
++
++++
+
+
+
+++
++
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+
++
+
+
+
+
+
+++
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
++
+
+
++
+
++ +
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+ +
++++
+
++
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+
+
+++
+
+
+
++
+
+
+
+
+ +
++
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+ +
+
+
++ ++++
+
+
+
+
+
+
++
+
++
+
+
++
+
+
+
+
+ +
+
+
++
++
+
+
+
+
+
+ +
+
+
+
+
+ +
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+ +++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+ +++
+
+
+
+
+
+++ +++++
+
+
+
+
++
++
++
++
+
+
+
++
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+ +
+
+
++
+
+
+
+
+
+
++
+
+
++
+
++
+
++
++
+
++
+++
+
+
+
+
+
+++
+
++++
+
+
+
+
++
+
+
+
++
++
+++
++
+
++
+
+++
+
+
++
++
+++
+
+
+
+
+
+++++
++
++
++
++
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
++ ++
+++
++
+
+
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
++++
+
+
++
+
+++
++
+
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
++
++
+
++
+++
+
+
+++
++
+
+
+
++
+++
+
+
+
+
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
++
+++
+
+
++
+
+
++
++++
+
+++
+
+ ++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+ +
+
+
++
+
+
+
++
+
+
+
+
+
+
++
++
++
+
+
+
+
++
+
+
+
+
+++
+
+++
+
+
+++
+
+
++++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+
++
++
+
+
+
+++
++
+
+
+++
++
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+ +
++
+
+
+
+++
+
++
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
++
++
+
++
+
+
+
++
+
+
+
+
+++
+
+
+
++
++
+
+
+
+
+
+
+
+++
+
++
++
++
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
++
+
+
+
+
++
+ +++
++
++
+
+
+
+
++
+
+
+++
++
+
+++
+
+
+
+
+
+
+++
++++++
q=3, n=30++
infecteduninfected
0 10 20 30 40 50 60
0.0
0.2
0.4
0.6
0.8
1.0
age
prop
ortio
n
infecteduninfected
0 10 20 30 40 50 60
050
100
150
age
num
ber
of p
atie
nts
infecteduninfectedtotal
age logparvouml
Minimum 0.03 -0.42
1st Quartile [25%] 11.35 1.67
Median [50%] 19.03 4.72
Mean (St. Dev.) 24.68 3.84 (1.82)
3rd Quartile [75%] 36.00 5.39
Maximum 66.27 6.13
# of observations N = 3076
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+++
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++++
++ +
+
+
+
++
++
+
+++
+
+
++
++
+++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
++
+
+
++
+
++
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
++
+
+
++
+++
+
+
+
+
+
++
++
+
++++
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
++
+
+ +
+
+
++
+
+
++ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+ +
++
++
+
+
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++ ++++
+
+
+
+
+
+
+
++
+
++
+
+
+ +
+
+
++
+
+
+
+ +
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+ ++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
++
+
++
++
+
++
+
+
+ +++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
+
+
++
+
+
++
+
++
+
+
+
+
+ +++
++
+
+
+
+
+
+
+++
+
++++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
++
+
++
++
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
++
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
++
+
++++
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
++
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
++
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+++++
+
+
+
+
+
+
+
+
+++
+
++
++
+
+
+
+
+
+
+
++
+++
+
++
+
+
+
+
++
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+++
++
+
+
+
+
++
+
+
+
+
+
+++
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
++
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
++
+
+
++
+
+
+
+
+++
+
+
+
++
++
+
+ +
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
++
++
+
+
+
+
+
++
+
+
+
++
++
+
+
+
+++
+
++
++
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
++
++
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
++
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+ +
+
++
+
+
+
+
+++
++
+
+
+ +
+
++++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
++
+
++
++
++
+
++
++
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+++
+
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+++
0 10 20 30 40 50 60
01
23
45
6
age
logp
arvo
uml
+
+
+
++
++
+ +
+
+
+
+
++
+++
+
+
++
+
+
+
++
+
+
+ ++
++
+
+
++
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
++
++ +
+
+++
++
+
++
+
+
+
+
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++ +++
+
+
+
+
++
+
+
+
+
+++++
++
+
+
++
+++
++++
++
+
+
+
+
++
+
+++++++
+
+
++
+
+
+
++
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++ ++
+
+
++ +
+ +
+
+
++
+
+
++
+
++
+++
+ ++
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+ +
+
++
++
+
+
+
++
+
++
+
+
+ +
+
+
+
+
++
+
+
+ +++
+
+ ++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+++
+
+
+
+
++
+ ++
+
+ +
+
+
++++
+++
+
+
+ + ++ +
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
++
+
+
+ +
++
++
+
+
+
+
+
+
++
+
+
+
++
+
++
++
+
++
+
++
++
++
+
+
+
+++
+
++
+
+++
+
+
++
+
++
+
++
++
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+
++
++
+++
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+ +
++
+
++++
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
++
+
+
+
++
+
+
+
+
++
++
+
+
+
+
+ +
+++
+++
+
+
+
++
+
+
+
+
+
+++++
+
+
+
+
+
+++
+
++
++
+
+
+
+
+
+
+++
+++
+
+++
+
+
+
+
+
+
+ +
++ +
+
+
+
+
++
+
+
+
+
+++
++
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+++
++ +
++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+ +
+
+
+
+
+
+
+
++
++
+++
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
++++
+
+
+
+
+
+
+
+
+
+
+ ++
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+
++
+
+
++
+
+
+
+
+++
+
+
+
++
++
+
+ +
++
+
+
++
+
+
++
+ +
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+ +
+
++
+
+
+
+++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
++
+++
++
+
++
+
++
++
++++
+
+++
+
+
++
++
+
+
+
+
++
+
++
+
+ ++
+++
++
+
+
+
+
+
+
+
+
+
++
++
++
+
+++
+
++
++
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
++
++
+
+ +++
+
+
+
+++
+
+
+
+
+
++
+ +
++
+
+
+
+
+++
+++
+ +
+++++++
+
++
+
+
++
+
+
+
+
+
+
+ ++
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+++
+
+
+++ +
+
+
+
+
++ +
+
+
+
+
++
+
++
+
+
+
+
++
+
+
++
+
+
++
+
+
+
+
+
+ +
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+ +
++
+
+
+
++
+
+
+
+++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
++
+++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+++
+
+
++
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
+
++
+
++
+
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+ +
++
+
+
++
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+++
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+++
+
+
+
+
+++
+
+
+++
++
+
+++
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++ +
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
++
++
+
+
+
+
+
+
+++
++
++
+
+
+
+
+
+++++
++ +
+
++
+++++
+
+
++
++
+++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+++
++
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+++
+
+
++
+
++
+
+
+
++
+
+
++
+
+
+
+++
+
+
++
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
++
+
++
++++
+
+
+
+++
++
++
+
+
++
+
+
+
+
+
+
+
++
+
+
+
++
++
++
+
+
+
+
+
+++
++
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++ ++
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
++
+
+++
+
+
+
++
+
+
++
+
+
++
+
++ +
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+++
+
+
++
+
+
+
+ +
++++
+
++
+
+
+
+
+
++
+
+
+
+
+ +
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+
+
+++
+
+
+
++
+
+
+
+
+ +
++
++
+
+
+
+
+
+
+ ++
++
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+ +
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
+
+
++
+ +
+
+
++ ++++
+
+
+
+
+
+
++
+
++
+
+
+ ++
+
+
+
+ +
+
+
++
++
+
+
+
+
+
+ +
+
+
+
+
+ ++
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
+ +
+
+
++
++
+
+
+
+ +++
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
+++
+
+
+
++
+
+
+
+
+ +++
++
+
+
+
+++ +++++
++
+
+
++
++
++
++
+
+
+
++
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+ +
+
+
++
+
+
+
+
+
+
++
+
+
++
+
++
+
++
++
+
++
+++
+
+
+
+
+
+++
+
++++
+
+
+
+
++
+
+
+
++
++
+++
++
+
++
+
+++
+
+
++
++
+++
+
+
+
+
+
+++++++
++
++
++
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
++ ++
+++
++
+
+
+
++
+
++
+
+
+
+
+
++
++
+
+
+
+
+
+
++++
+
+
++
+
+++
++
+
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
++
+++
++
+++
+
+
+++
++
+
+
+
++
+++
+
+
+
+
+
+++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
++
+++
+
+
++
+
+
++
++++
+
+++
+
+ ++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+ +
+
+
++
+
+
+
++
+
+
+
+
+
+
++
++
++
+
+
+
+
++
+
+
+
+
+++
+
+++
+
+
+++
+
+
++++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++++
+
+
+
+
+
++
++
+
+
+
+++
++
+
+
+++
++
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+ +
++
+
+
+
+++
+
++
++
++
+
+
+
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
++
++
+
++
+
+
+
++
+
+
+
+
+++
+
+
+
++
++
+
+
+
+
+
+
+
+++
+
++
++
++
+
+
+
+
+
+++
+
+
++
+
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
++
+
+
++
++
++++
++
++
+
+
+
+
++
+
+
+++
++
+
+++
+
+
+
+
+
+
+++
++++++
null modelalternative
Histogram of F*
F=0.0084F*
Fre
quen
cy
0.002 0.004 0.006 0.008
05
1015
2025
3035
Histogram of F*
F=0.0084F*
Fre
quen
cy
0.002 0.004 0.006 0.008
05
1015
2025
3035
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 9 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
3.2 VZV Data
• data description (N = 2648)
. similar to Parvo B19 data, for illustrative purposes
. here the Varicella Zoster Virus “play a role”
. outcome is now called logVZVmUIml
- cut-off value for infection is now 4 instead of 3 (not analyzed)
• Varicella Zoster Virus
. infection with VZV results in chickenpox (varicella)
- leads to encephalitis or pneumonia
. even when the clinical symptoms of chickenpox have resolved,
VZV remains dormant in nervous system of infected person
• exploratory analysis
. similar findings as in previous section 3.1
. nondecreasingness seems to be less violated
• confirmatory analysis
. alternative - P-splines without model constraints
- with n = 30, q = 3, k = 2, λ = λCV = 10.5
. null model - P-splines with nondecreasingness constraint
- with κ = 108
. not as large discrepancy between null and alternative model
. bootstrap F-type tests (constrained and true residuals)
- in both cases pMC � 0.05 (0.502 and 0.567, respectively)
- nondecreasingness is NOT rejected
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
++
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+ ++
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+ +
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
++++
++
+
++
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++++
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
+
+
+
++
+
+
++ +
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++++
+
+
+
+
++
+
+++
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
++
+
++
+
++
++
+
+
+
++
+
+
+
+ +
++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++ +
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+ +
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+
+ ++
+
+
+
+
+
++
+ +
++++
+
+
++
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++ +
+
+
+
+
+
+
+
+
+
+
+ +++
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+ ++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++ + +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
++
+
+
+
++
+
+
+
++
+
+
+
++
+
+
++
+
+++
+
+
+
+
+
+
+
+++
+
+
+
++
+
++
+
+
+
++
+++ +
++
++
+
+
++
+
++
+
+
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+++
+
+
++
++
+
+++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ ++
+
+
+
+
+++
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+++
+
+
+
+
+
+
+ +
+
++
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
++
+
+
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+ +
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
++
+
+
+ +++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+ +
+
+
+
+
+
+ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
++ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
0 10 20 30 40
02
46
8
age
logV
ZV
mU
Iml
++
+
+
+
+
+
++
+
+
+
+
++
+
+ ++
+
+
+
+
+
+
+
+++
+
+
+
++
+
++
+++
+
+
+
+
+
++
++
+
+
++ +
+
+
+
++
+++
++
++
+
++
++
+
+
+
+
+
+
+
++ +
+
+
+
+ +
+
+
+
++++
+
+++
++
+
+
++
+
+ +
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
++
+
+
+
+
+
++
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++
++
+
+
+
+
+
+++
+
+
++
++
+
+ +
+
+
+
+
++
++
++
+
++
+
+
+ +++
+
++
+ +
+
+
+
+
+
+
+
+
+++++
++
++
+
+
+
+
++
+
+
+
+
+
++
+
++
+
+
+++
+
+
+
+
++
++
+
++
+
+
+
+
+
++
+
+
++
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
++
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+ ++
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+ +
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
++++
++
+
++
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++++
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
+
+
+
++
+
+
++ +
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++++
+
+
+
++
+
+++
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
++
+
++
+
++
++
+
+
++
+
+
+
+ +
++
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++ +
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+ +
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+++
+
+ +
+
+
+ ++
+
+
+
+
+
++
+ +
++++
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++ +
+
+
+
+
+
+
+
+
+
+
+ +++
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
++
+
+
+
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+ ++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++ + +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
++
+
+
+
++
+
+
++
+
+
+
++
+
+
++
+
+++
+
+
+
+
+
+
+
+++
+
+
+
++
+
++
+
+
++
+++ +
++
++
+
++
+
++
+
+
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+++
+
+
++
++
+
+++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ ++
+
+
+
+
+++
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+++
+
+
+
+
+
+
+ +
+
++
+
+
++
+
+
+
+
+
++
+
++
+
++
+
++
+
+
+
+
+++
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
++
+
+
+
+
+
+++
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
++
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+ +
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++ + +
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+++
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+ +
+
+
+
+
+ +
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+ +
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++ +
+
++
+
+ +
++
+
+
+
+
+
+
+
+
+
q=3, n=30++
infecteduninfected
0 10 20 30 40
0.0
0.2
0.4
0.6
0.8
1.0
age
prop
ortio
n
infecteduninfected
0 10 20 30 40
050
100
150
age
num
ber
of p
atie
nts
infecteduninfectedtotal
age logVZVmUIml
Minimum 0.03 0.00
1st Quartile [25%] 5.45 1.67
Median [50%] 15.76 6.29
Mean (St. Dev.) 16.65 5.99 (1.57)
3rd Quartile [75%] 22.00 7.04
Maximum 40.11 8.66
# of observations N = 2648
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
++
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+ ++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
++++
++
+
++
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++++
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
+
+
+
++
+
+
++ +
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++++
+
+
+
+
++
+
+++
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+
++
+
+
+
+ +
++
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++ +
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
+
++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+ +
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+++
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+ +
++++
+
+
++
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++ +
+
+
+
+
+
+
+
+
+
+
+ +++
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+ ++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++ + +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
++
+
+
+
++
+
+
+
++
+
+
+
+
++
+
++
+
+++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+++ +
++
++
+
+
++
+
++
+
+
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+++
+
+
++
++
+
+++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ ++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+++
+
+
+
+
+
+
+ +
+
++
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
++
+
+
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+ +
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+ +
+
++
+
+
+ +++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+ +
+
+
+
+
+
+ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
++
+
++ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
0 10 20 30 40
02
46
8
age
logV
ZV
mU
Iml
++
+
+
+
+
+
++
+
+
+
+
++
+
+++
+
+
+
+
+
+
+
+++
+
+
+
++
+
++
+
++
+
+
+
+
+
++
++
+
+
++ +
+
+
+
++
+++
++
++
+
++
++
+
+
+
+
+
+
+
++ +
+
+
+
+ +
+
+
+
++++
+
+
++
++
+
+
++
+
+ +
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
++
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++
++
+
+
+
+
+
+++
+
+
+
+++
+
+ +
+
+
+
+
++
++
++
+
++
+
+
+ +++
+
++
+ +
+
+
+
+
+
+
+
+
+++++
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+++
+
+
+
+
++
++
+
++
+
+
+
+
+
++
+
+
++
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
++
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
++
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
++
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+ ++
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
++++
++
+
++
+
+
+
+
+
+
+
+
+++
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
++
+
+
++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++++
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
++++
+
+
+
+
+
+
++
+
+
++ +
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++++
+
+
+
++
+
+++
+
++
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
++
+
+
+
+
++
++
+
+
++
+
+
+
+ +
++
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
++
+
+++ +
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
+ +
+
+
+
+
+
+
++
++
+
+
+
+
++
+
+
+
+
+
+
++
++
+
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+ +
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
++
+
+
+
+++
+
+ +
+
+
+ +
+
+
+
+
+
+
+
+
+ +
++++
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
+
++
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
++
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++ +
+
+
+
+
+
+
+
+
+
+
+ +++
+
++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+ ++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
++
++
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++ + +
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
++
+
+
+
++
+
+
++
+
+
+
+
++
+
++
+
+++
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
++
+++ +
++
++
+
++
+
++
+
+
+
+
+
+
++ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
++
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+ +
+
+
+
+++
+
+
++
++
+
+++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
++
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ ++
+
+
+
+
++
+
+
+
+
+
+
++
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
++
+
+
++
+
+
+
++
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+++
+
+
+
+
+
+
+ +
+
++
+
+
++
+
+
+
+
+
++
+
++
+
++
+
++
+
+
+
+
+++
++
+
+
+
+
+
+
++
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
++
+
+
+
+
+
+
++
+ +
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
++
++
+
+
+ +
++
+
+
+
+
+
+++
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
++
+
+
++
+
+
+
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+ +
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++ + +
+
+
++
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+++
+
+
+
++
+
+
++
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+ +
+
+
+
+ +
+
+
+
+
+ +
+
+
++
+
+
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+++
+
+
+
+
+
+
+
+
+
+ +
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
++
+
+
+
+
+
+
++
+
++
++ +
+
++
+
+ +
++
+
+
+
+
+
+
+
+
+
null modelalternative
Histogram of F*
F=0.0063F*
Fre
quen
cy
0.002 0.004 0.006 0.008 0.010 0.012 0.014
05
1015
20
Histogram of F*
F=0.0063F*
Fre
quen
cy
0.002 0.004 0.006 0.008 0.010 0.012 0.014
05
1015
20
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 10 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
4 Simulation Study
• design of simulation study is similar “in nature” to the situation in previous Section 3
artificial covariates x1, . . . , x100 random sample from U(0, 14) uniform distribution on [0, 14]
“common” artificial residuals r1, . . . , r100 random sample from N(0, 1) standard normal distribution
scaled artificial residuals e[j]1, . . . , e[j]100 e[j]i = σ[j]ri j = 1, 2, 3 i = 1, . . . , 100
prescribed regression functions f[m](x) violation of monotonicity “≈” hm m = 1, 2, 3
artificial outcomes y[jm]i y[jm]i = f[m](xi) + e[j]i j,m = 1, 2, 3 i = 1, . . . , 100
. h1 = 1.5, h2 = 1.0, h3 = 0.5 and σ2[1] = 0.09, σ2
[2] = 0.49, σ2[3] = 1.21
. f[m](x), m = 1, 2, 3 were suggested as follows:
(consult with figure, here with notation f[m](·) ≡ f(·, hm))
f[m](x) =
1 x5 1
1 + 8u(w(x)
)1< x< 5
u(s) = 12
+ s16
(3s4 − 10s2 + 15)
w(x) = x−32
9 55 x5 6
9− hmv(z(x)
)6< x< 8
v(t) = 38
+ 18
cos(2t)− 12
cos t
z(x) = π(x− 6)
9 85 x
●
●
0 1 3 5 6 7 8 14
1
5
9−h
9
f(x,h)=9−hv(z(x))
f(x,h)=1+8u(w(x))
x
y
. u(0) = 12, u(1) = 1 and u(−1) = u′(−1) = u′′(−1) = 0 = u′(1) = u′′(1); v(π) = 1 and v(0) = v′(0) = v′′(0) = 0 = v(2π) = v′(2π) = v′′(2π)
• 3× 3 = 9 artificial datasets D[jm] = (xi, y[jm]i)i=1,...,100; j,m = 1, 2, 3 were generated from 9 known models
• for every dataset constrained residuals and true residuals bootstrap F-type test → 2× 3× 3 bootstraps
. with n = 13, q = 3, k = 2, λ = λCV , κ = 108, B = 200
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 11 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
hm h1 = 1.5 h2 = 1.0 h3 = 0.5
σ2 [j
]
True f
B-splines
Alternative
Constrained
Null model
True residuals
True f
B-splines
Alternative
Constrained
Null model
True residuals
True f
B-splines
Alternative
Constrained
Null model
True residuals
σ2 [1
]=
0.09 ●
●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●
●●
●
●
●
●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
y
●●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●
●●
●
●
●
●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
y
σ2 [1
1]=
0.12
●●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●
●●
●
●
●
●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
y
p(C
)[1
1]=
0.00
5
Histogram of F*
F=0.8242F*
Fre
quen
cy
0.0 0.2 0.4 0.6 0.8
010
2030
40
F[1
1]=
0.82
42
●●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●
●●
●
●
●
●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
yp(T
)[1
1]=
0.00
5
Histogram of F*
F=0.8242F*
Fre
quen
cy
0.0 0.2 0.4 0.6 0.8
010
2030
40
●●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●●●
●●
●
●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
y
●●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●●●
●●
●
●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
y
σ2 [1
2]=
0.11
●●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●●●
●●
●
●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
y
p(C
)[1
2]=
0.00
5
Histogram of F*
F=0.5174F*
Fre
quen
cy
0.0 0.1 0.2 0.3 0.4 0.5
05
1015
20
F[1
2]=
0.51
74
●●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●●●
●●
●
●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
yp(T
)[1
2]=
0.00
5
Histogram of F*
F=0.5174F*
Fre
quen
cy
0.0 0.1 0.2 0.3 0.4 0.5
05
1015
20
●●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●●●
●●
●●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
y
●●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●●●
●●
●●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
y
σ2 [1
3]=
0.10
●●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●●●
●●
●●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
y
p(C
)[1
3]=
0.00
5
Histogram of F*
F=0.2876F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20 0.25 0.30
05
1015
20
F[1
3]=
0.28
76
●●●●
●
●●●
●●●●●●●●
●●●
●
●
●●●
●●
●
●
●
●●●●
●
●
●●
● ●
●●●
●●
●●●●●
●
●
●
●●●●
●●●●●
●
●
●●
●●
●
●●●
●
●
●
●●●
●●●●●●
●●
●
●●● ●
●●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
24
68
10
x
yp(T
)[1
3]=
0.00
5
Histogram of F*
F=0.2876F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20 0.25 0.30
05
1015
2025
σ2 [2
]=
0.49 ●
●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
x
y
●●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
x
y
σ2 [2
1]=
0.54
●●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
x
y
p(C
)[2
1]=
0.01
5
Histogram of F*
F=0.2631F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20 0.25 0.30
010
2030
4050
F[2
1]=
0.26
31
●●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
x
yp(T
)[2
1]=
0.01
5
Histogram of F*
F=0.2631F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20 0.25 0.30
05
1015
20
●●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
xy
●●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
x
y
σ2 [2
2]=
0.53
●●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
x
y
p(C
)[2
2]=
0.09
5
Histogram of F*
F=0.1868F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20 0.25
05
1015
F[2
2]=
0.18
68
●●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
x
yp(T
)[2
2]=
0.03
0
Histogram of F*
F=0.1868F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20 0.25 0.30
05
1015
2025
30
●●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●
●
●
●
●●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
x
y
●●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●
●
●
●
●●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
x
y
σ2 [2
3]=
0.53
●●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●
●
●
●
●●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
x
y
p(C
)[2
3]=
0.50
2
Histogram of F*
F=0.0729F*
Fre
quen
cy
0.0 0.1 0.2 0.3 0.4 0.5
05
1015
2025
3035
F[2
3]=
0.07
29
●●●
●
●
●
●
●
●●
●
●
●●
●●
●●●
●●
●●
●
●
●
●● ●
●●
●
●
●
●
●
●
● ●
●●
●
●
●
●●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●●
●
●
●
●
●●●
●
●●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
x
yp(T
)[2
3]=
0.44
8
Histogram of F*
F=0.0729F*
Fre
quen
cy
0.0 0.1 0.2 0.3 0.4
010
2030
40
σ2 [3
]=
1.21 ●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
y
●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
y
σ2 [3
1]=
1.30
●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
y
p(C
)[3
1]=
0.20
9
Histogram of F*
F=0.1031F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20
05
1015
2025
F[3
1]=
0.10
31
●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
yp(T
)[3
1]=
0.21
4
Histogram of F*
F=0.1031F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20
05
1015
2025
●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
y
●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
y
σ2 [3
2]=
1.30
●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
y
p(C
)[3
2]=
0.52
2
Histogram of F*
F=0.0637F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20
05
1015
2025
30
F[3
2]=
0.06
37
●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●
●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
yp(T
)[3
2]=
0.45
8
Histogram of F*
F=0.0637F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20
05
1015
2025
●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
y
●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
y
σ2 [3
3]=
1.30
●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
y
p(C
)[3
3]=
0.70
1
Histogram of F*
F=0.0328F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20
05
1015
2025
30
F[3
3]=
0.03
28
●
●●
●
●
●
●
●
●
●
●
●
●●
●●
●●
●
●
●
●●
●
●
●
●●
●
●
●
●
●
●
●
●
●
● ●
●●
●
●
●
●●
●●●
●
●
●
●●●
●
●●
●●●
●
●
●
●
●
●
●
●●
●
●
●
●
●
●●●
●
●
●
●
●
●
●
●
●
●●●
●
●
●
●●
●●
●
●●
0 2 4 6 8 10 12 14
02
46
810
12
x
yp(T
)[3
3]=
0.73
1
Histogram of F*
F=0.0328F*
Fre
quen
cy
0.00 0.05 0.10 0.15 0.20 0.25 0.30 0.35
010
2030
4050
• as hm↘ and/or σ2j↗, violation of monotonicity becomes less detectable (p
(T/C)[mj] ↗, F[mj]↘) - results are in line with common sense
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 12 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
5 Computational Aspects
5.1 Numerical In(Stability)
• B-splines are piecewise polynomial functions
. computation of integrals and derivatives used in expressions is exact (and simple)
• model constraints’ penalty is designed s. t. zeros of polynomials are needed
. if order of B-splines (q) minus order of (constrained) derivative 5 4, computation of zeros is surely exact
. e. g. in data analysis and simulation study q < 3, thus computations are exact
• numerical violations of some theoretical facts (often, large matrices used to be ill-conditioned)
. regularity and positive semidefiniteness of some matrices violated
. “regularization methods” used - then, the numerical instability problem was settled and procedures performed well
5.2 Implementation in R
• testing procedure is highly computer intensive
. cross-validation and doubly iterative bootstrap (Newton-Raphson is encapsulated within)
. Newton-Raphson algorithm performs quite fast convergence
• used and useful libraries in R
. library splines - contain useful function spline.des(knots,x), which computes the spline design matrix B
. library polynom - for comfortable operating with polynoms (multiplication, derivatives, integrals, interpolation, . . . ), in order to compute BS(α)
. library corpcor - contain numerical and algebraical techniques, e. g. for matrix “regularization”
. library corpcor - . function pseudoinverse() for computation of the Moore-Penrose pseudoinverse
. library corpcor - . function make.positive.definite(), which title is self-explainable, etc.
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 13 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
6 Conclusions & Remarks
• answering the research question
. assumption of monotonicity of the antibody activity measure as a reaction to past infection with Parvovirus B19
as a function of age, is not statistically allowable (hypothesis of monotonicity was (strongly) rejected)
• some (very little) evidence for good power qualities of the proposed test(s) was obtained by the small simulation study
• several questions, tasks and “new sources of complexity”, which showed up and were postponed to further research:
. estimate was “optimally chosen” from a linear span of B-spline basis of B-splines with equidistant knots
- more sophisticated (adaptive) selection of knots, may be discussed further
. the smoothing parameter was chosen without taking into account the constraints penalty parameter and then set fixed
- deeper discussion is needed and possibly, the bi-dimensional optimization of IMSE w. r. t. (λ, κ) jointly, could have a better performance
. methodology for only univariate P-splines regression was developed
- multivariate extension may be considered
. integrated squared Euclidean distance was used as the constraints penalty
- use of other metrics and/or penalty forms may be discussed - e. g. whether the solution is invariant w. r. t. the distance measure as κ→∞. distributional properties of the used pivotal F-type test statistic may be discussed and consulted with the paper of Huang and Su (2009)
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 14 of 15
Jozef Jurıcek TESTING FOR MONOTONICITY Supervisors: Prof. dr. Marc Aerts & Prof. dr. Niel Hens Master Thesis Defense
7 References
Bollaerts, K., Eilers, P. H. C., and van Mechelen, I. (2006).
Simple and multiple P-splines regression with shape constraints. British Journal of Mathematical and Statistical Psychology, 59:451–469.
Davison, A. C. and Hinkley, D. V. (1997).
Bootstrap Methods and Their Application. Cambridge University Press, Cambridge.
Eilers, P. H. C. and Marx, B. D. (1996).
Flexible smoothing with B-splines and penalties. Statistical Science, 11(2):89–121.
Hens, N., Aerts, M., Shkedy, Z., Theeten, H., Van Damme, P., and Beutels, P. (2008).
Modelling multi-sera data: the estimation of new joint and conditional epidemiological parameters. Statistics in Medicine, 27:2651–2664.
Huang, L.-S. and Su, H. (2009).
Nonparametric F-tests for nested global and local polynomial models. Journal of Statistical Planning and Inference, 139:1372–1380.
Zhang, J.-T. (2004).
A simple and efficient monotone smoother using smoothing splines. Journal of Nonparametric Statistics, 16(5):779–796.
Thank You for attention.
The thesis and this presentation are downloadable from the author’s webpage.
R codes & documentation are available upon request.
jozef.juricek.matfyz.cz/math
Hasselt University, Faculty of Sciences, Master of Statistics: Biostatistics 2008/2009 Diepenbeek; Tuesday, 22nd September 2009 15 of 15
Related Documents
