Pengenalan Regresi Nonparametrik - adjifern.lecture.ub.ac.idadjifern.lecture.ub.ac.id/files/2016/03/Pengenalan-Regresi-Nonparametrik.pdf · 3hqjdqwdu *dolohr *dolohl phuxsdndq vdodk

Kuliah SingkatRegresi Nonparametrik & SemiparametrikOleh: Adji Achmad Rinaldo Fernandes (1311301001)

Malang, 6 Oktober 2016

Definisi Regresi Nonparametrik

Analisis Regresi

Parametrik

Semi Parametrik

Non Parametrik

pola hubungan antara respondengan prediktor dapatdigambarkan dalam suatu fungsitertentu

regresi parametrik harus memenuhiasumsi bentuk hubungan linierantara respon dengan prediktornya

ResponTunggal

Multirespon Smoothing SplineTruncated SplinePenalized Spline

Polinomial Lokal (Kernel)

6

7

Pembagian Regresi Berdasarkan Bentuk Fungsi

8

Pembagian Regresi Berdasarkan Jenis Data

9

Pembagian Regresi Berdasarkan Jumlah Variabel Respon

Latar Belakang

10

Pembagian Regresi Berdasarkan Jumlah Variabel Respon

Optimasi

2

1

1

[ , ]

1 ( ) 2

[ , ] 1

( ) ; 1, 2,..., .

OLS : Min ( ) '( )

PLS : Min ( ) '( ) ( ( ))m

p

i i i

f P a b

bpm

i if W a b

a

y f x i N

N y f y f

N y f y f f x dx

2

1

1 1

[ , ], 1,2,..., ; 1,2,..,.

1 1 ( )

[ , ], 1,2,..., ; 1,2,..,.

( ) ; 1,2,..., ; 1,2,..., .

WLS: Min ( ) ( )' ( )

PWLS: Min ( ) ( )' ( ) ( (

i i i

mi i i

p

it i it it

f P a b p i N

mi i

f W a b p i N

y f x i N t T

NT y f y f

NT y f y f f

Σ

Σ

2

1 1

))i

i

bp N

it iti a

x dx

Smoothing, Truncated Spline and Kernel

Smoothing Spline

m2

221 ( )

f W a,b 1

Min ,bn

mi i i i

i a

n y f t f t dt

f d c

T V

1 1

1

21 1

1( ) , 1, 2,...,

1 ! 1 !

m mbm zi sj

i j i sj s a

t u t uf t d t c du i n

j m

Truncated Spline

Kernel

Spline Birespon Longitudinal

22

Spline Birespon Untuk Data Longitudinal

Spline Birespon

Longitudinal

Spline Cross-Section

Spline Longitudinal

Spline Birespon

Cross-Section

1

( ) ; 1,2,..., .p

i i iy f x i N

1

( ) ; 1,2,..., ; 1,2,..., .p

it i it ity f x i N t T

1

( ) ; 1, 2; 1, 2, ..., .p

ki k i kiy f x k i N

1

( ) ; 1,2; 1,2,..., ; 1,2,..., .p

kit ki it kity f x k i N t T

Spline Birespon Untuk Data Longitudinal (2)

23

Σ

11.1 12.1

11.2 12.2

11. 12.

12.1 22.1

12.2 22.2

12. 22.

N N

N N

Σ 0 0 Σ 0 0

0 Σ 0 0 Σ 0

0 0 Σ 0 0 ΣΣ

Σ 0 0 Σ 0 0

0 Σ 0 0 Σ 0

0 0 Σ 0 0 Σ

2. (1) . (1,2) . (1, )

2. (2,1) . (2) . (2, )

.

2. ( ,1) . ( ,2) . ( )

kk i kk i kk i T

kk i kk i kk i Tkk i

kk i T kk i T kk i T T T

Σ

12. (1,1) 12. (1,2) 12. (1, )

12. (2,1) 12. (2,2) 12. (2, )

12.

12. ( ,1) 12. ( ,1) 12. ( , )

i i i T

i i i T

i

i T i T i T T T T

Σ

Matriks varians-kovarians error random

Untuk mendapatkan estimasi kurva regresi menggunakan optimasi PWLS yaitu penyelesaian optimasi sebagai berikut

2

21 1 ( ) 2

[ , ], 1,2,..., ; 1 1 11,2; 1,2,...,

Min { ( ) ' ( ) ( ( )) }.ki

mki ki ki

ki

bp Nm

ki ki it itf W a b p k i ak i N

M y f y f f x dx

Σ

Multivariate/Multirespon Regression

25

26

Ruang Vektor

Ruang Vektor

28

Ruang Vektor

29

Fungsi

Pengantar• Galileo Galilei (1564-1642) merupakan salah satu

astronom terkenal dari Italia yang dikenal luas dengan penemuannya tentang hubungan yang sangat teratur antara tinggi suatu benda yang dijatuhkan dengan waktu tempuhnya menuju tanah

• Jarak yang ditempuh (d) merupakan fungsi dari waktu (t), dengan d=4t2. Dengan rumus fungsi itu, nilai dari suatu peubah akan dapat ditentukan jika nilai dari peubah yang satunya diketahui

34

Relasi

• Relasi (biner) F dari himpunan A ke himpunan B adalah suatu perkawanan elemen-elemen di A dengan elemen-elemen di B.

• Contoh A = {2,3,4,5,6}, B = = {1,2,3,4,5,6}. R = {(2,2), (2,4), (2,6), (3,3), (3,6), (4,4), (5,5), (6,6)}

• “a berelasi dengan b” ditulis a R b atau R(a,b)

35

Fungsi• Relasi fungsional atau sering disingkat fungsi sering juga

disebut dengan istilah pemetaan (mapping)• Suatu fungsi f dari himpunan A ke himpunan B adalah

suatu relasi yang memasangkan setiap elemen dari A secara tunggal, dengan elemen pada B.

• f : A → B • “fungsi f pemetaan A ke dalam B”

36

Fungsi• Apabila f memetakan suatu elemen x A ke suatu y B dikatakan

bahwa y adalah peta dari x oleh f dan peta ini dinyatakan dengan notasi f(x), dan biasa ditulis dengan f:x → f(x), sedangkan x biasa disebut prapeta dari f(x).

• Himpunan A dinamakan daerah asal (domain) dari fungsi f , sedangkan himpunan B disebut daerah kawan (kodomain) sedangkan himpunan dari semua peta di B dinamakan daerah hasil (range) dari fungsi f tersebut

37

Fungsi Kontinu

38

Fungsi Kontinu

39

Fungsi Kontinu Absolut

40

Fungsi Kontinu Absolut

41

Definisi Sobolev, dan Kontinyu Absolut

Definisi Fungsi Kuadrat Terintegral

Ruang Hasil Kali Dalam (Inner Product)

44

Ruang Hasil Kali Dalam (Inner Product)

45

Ruang Hasil Kali Dalam (Inner Product)

46

Basis

Basis dan Dimensi

48

Basis dan Dimensi

49

Basis dan Dimensi

50