Makalah model regresi dengan variabel terikat dummy
Post on 08-Jul-2015
2142 Views
Preview:
DESCRIPTION
Transcript
EKONOMETRIKA
(AKKC 156)
MODEL REGRESI DENGAN
VARIABEL TERIKAT DUMMY
Dosen Pembimbing:
Drs. H. Karim, M.Si
Indah Budiarti, M.Pd
Oleh:
Agung Handoko (A1C111037)
Program Studi Pendidikan Matematika
Jurusan Pendidikan Matematika dan Ilmu Pengetahuan Alam
Fakultas Keguruan dan Ilmu Pendidikan
Universitas Lambung Mangkurat
Banjarmasin
2013
Regresi dengan Variabel Terikat Dummy i
DAFTAR ISI
DAFTAR ISI .............................................................................................................. i
A. KAJIAN TEORI ................................................................................................ 1
B. DATA ................................................................................................................ 3
KASUS .............................................................................................................. 3
DEFINISI OPERASIONAL .............................................................................. 4
ANALISIS DATA ..................................................................................................... 5
TAHAPAN-TAHAPAN ESTIMASI MENGGUNAKAN SPSS ......................... 5
INTERPRETASI OUTPUT SPSS ..................................................................... 7
1. Identifikasi Data yang Hilang ............................................................................ 7
2. Pemberian kode variabel respon oleh SPSS ....................................................... 7
3. Uji Signifikansi Omnibus terhadap Model ......................................................... 8
4. Menilai Keseluruhan Model (Overall Model Fit) dan Menilai Kelayakan Model
Regresi ...................................................................................................................... 9
5. Menguji Koefisien Regresi ............................................................................... 11
7. Penafsiran dan Prediksi ................................................................................... 13
DAFTAR PUSTAKA .............................................................................................. 17
Regresi dengan Variabel Terikat Dummy 1
A. KAJIAN TEORI
Beberapa penelitian kausal seringkali dibatasi oleh keberadaan variabel
dependen yang terbatas. Metode regresi linier seperti yang kita kenal hanya dapat
mengakomodir data yang bersifat kontinu dan menyebar normal, tapi bagaimana
dengan data terbatas seperti mortalitas, peluang kandidat dalam pemilu, keputusan
pembelian, hasil ujian, dan lain sebagainya yang hanya menyisakan 2 kemungkinan
atau dikotomi.
Regresi linier tidak dapat menyelesaikan kasus dimana variabel depen
dennya bersifat dikotomi dan kategorik dengan dua atau lebih kemungkinan
(misalnya sukses atau gagal; terpilih atau tidak terpilih; lulus atau tidak lulus;
melakukan pembelian atau tidak; mendapat promosi atau tidak, dan lain-lain).
Untuk itu kita memerlukan metode yang tepat seperti metode regresi binary
logistic. Dengan kata lain, metode regresi binary logistic adalah metode untuk
menyelesaikan kasus dimana variabel dependennya bersifat dikotomi atau memiliki
2 kategori.
Asumsi-asumsi dalam regresi binary logistic diantaranya adalah sebagai
berikut:
Tidak mengasumsikan hubungan linier antar variabel dependen dan
independen.
Variabel dependen harus bersifat dikotomi (2 variabel).
Variabel independen tidak harus memiliki keragaman yang sama antar
kelompok variabel.
Sampel yang diperlukan dalam jumlah relatif besar.
Ketika suatu data dapat memenuhi asumsi normalitas, linieritas dan
keragaman yang homogen, kita dapat menggunakan prosedur analisis diskriminan
untuk mengevaluasi hubungan antara variabel dependen non-metrik, namun regresi
logistik akan lebih baik dalam memaparkan hubungan tersebut karena dapat
menjelaskan hubungan antar variabel layaknya persamaan linier.
Persamaan regresi binary logistic menghasilkan rasio peluang yang
dinyatakan dengan transformasi fungsi logaritma (log), dengan demikian fungsi
Regresi dengan Variabel Terikat Dummy 2
transformasi log ataupun ln yang dinamakan model logit (logit transformation)
diperlukan untuk p-value. Dengan demikian dapat dinyatakan bahwa logit (p)
merupakan log dari peluang (odds ratio) atau likelihood ratio dengan kemungkinan
terbesar nilai peluang adalah 1. Dengan demikian, persamaan regresi logistik
menjadi:
Logit (p) = log (p/1-p) = ln (p/1-p)
Dimana:
p bernilai antara 0-1.
Bentuk umum model yang digunakan pada regresi binary logistic adalah:
Ln (p / 1 – p) = β0 + β1X1 + β2X2 + …. + βkXk
Dimana:
p adalah kemungkinan bahwa Y = 1.
X1, X2, X3 adalah variabel independen.
β adalah koefisien slope dari persamaan regresi dimana slope di sini adalah
perubahan nilai rata-rata dari Y dari satu unit perubahan nilai X.
Regresi dengan Variabel Terikat Dummy 3
B. DATA
KASUS
Ingin diprediksi pengaruh umur, jenis kelamin dan sejarah keluarga terhadap
kemungkinan seseorang memiliki kolesterol tinggi. Berdasarkan hasil survei
terhadap 40 responden, didapatkan datanya sebagai berikut:
No. Kolesterol Tinggi
(Y)
Umur
(dalam tahun)
(X1)
Jenis Kelamin
(X2)
Sejarah
Keluarga
(X3)
1 1 51 0 1
2 1 39 1 0
3 1 50 0 1
4 1 45 1 1
5 1 49 0 1
6 1 52 1 1
7 1 37 1 1
8 1 40 1 0
9 1 42 0 1
10 1 29 0 1
11 1 29 1 0
12 1 35 1 1
13 1 41 0 0
14 1 50 1 1
15 1 55 1 1
16 1 39 0 1
17 1 28 1 1
18 1 34 0 0
Regresi dengan Variabel Terikat Dummy 4
19 1 37 0 1
20 1 48 1 1
21 1 55 1 1
22 1 33 1 0
23 1 46 1 1
24 1 38 0 0
25 1 42 0 1
26 0 39 0 0
27 0 38 1 0
28 0 33 0 0
29 0 46 1 0
30 0 45 1 0
31 0 34 0 0
32 0 37 0 1
33 0 27 1 0
34 0 30 0 0
35 0 47 0 0
36 0 54 1 0
37 0 30 0 1
38 0 41 0 0
39 0 35 0 1
40 0 30 1 0
DEFINISI OPERASIONAL
Variabel dependen:
Y = {0,seseorang dengan kolesterol normal 1,seseorang dengan kolesterol tinggi
Regresi dengan Variabel Terikat Dummy 5
Variabel independen:
X1 = umur seseorang dalam tahun
X2 = {0, berjenis kelamin pria
1, berjenis kelamin wanita
X3 = {0, tidak ada sejarah keluarga kolesterol tinggi
1, memiliki sejarah keluarga kolesterol tinggi
ANALISIS DATA
TAHAPAN-TAHAPAN ESTIMASI MENGGUNAKAN SPSS
1. Setelah data diinput dalam lembar kerja SPSS kemudian klik Analyze >
Regression > Binary Logistic
2. Masukkan Y sebagai variabel dependen dengan cara klik Y di kotak kiri,
kemudian klik tanda panah di samping kotak Dependent. Masukkan X1, X2 dan
X3 ke dalam kotak Covariates, dengan cara klik masing-masing variabel,
kemudian klik tanda panah di samping kotak Covariates.
Regresi dengan Variabel Terikat Dummy 6
3. Kemudian klik Classification plots, Hosmer-Lemeshow goodness-of-fit,
Correlation of estimates, dan Iteration of History. Selanjutnya klik Continue.
4. Selanjutnya klik OK.
5. Akan keluar output SPSS untuk Model Regresi Binary Logistic.
Regresi dengan Variabel Terikat Dummy 7
INTERPRETASI OUTPUT SPSS
1. Identifikasi Data yang Hilang
Case Processing Summary
Unweighted Casesa N Percent
Selected Cases Included in Analysis 40 100.0
Missing Cases 0 .0
Total 40 100.0
Unselected Cases 0 .0
Total 40 100.0
a. If weight is in effect, see classification table for the total number of
cases.
Tabel 1
Tabel 1 menunjukkan jumlah responden yang menjadi sampel dalam
pembuatan model, dimana berjumlah 48. Dari jumlah tersebut, data keputusan
konsumen dalam pembelian mobil, umur, jenis kelamin dan pendapatan semuanya
digunakan dalam analisis atau pembuatan model. Selanjutnya, dapat dilihat tidak
ada data yang hilang (missing cases) yang diindikasikan N (jumlah) adalah 0.
2. Pemberian kode variabel respon oleh SPSS
Dependent Variable Encoding
Original Value Internal Value
kolesterol normal 0
kolesterol tinggi 1
Regresi dengan Variabel Terikat Dummy 8
Tabel 2
Tabel 2 menunjukkan kode variabel terikat, yang dalam hal ini adalah 0
untuk konsumen tidak membeli mobil dan 1 untuk konsumen membeli mobil.
3. Uji Signifikansi Omnibus terhadap Model
Omnibus Tests of Model Coefficients
Chi-square df Sig.
Step 1 Step 12.822 3 .005
Block 12.822 3 .005
Model 12.822 3 .005
Tabel 4
Tabel 4 merupakan nilai Chi Square (χ2) dari model regresi. Sebagaimana
halnya model regresi linear dengan metode Ordinary Least Square (OLS), kita juga
dapat melakukan pengujian arti penting model secara keseluruhan. Jika metode
OLS menggunakan uji F, maka pada model logit menggunakan uji G. Statistik G
ini menyebar menurut sebaran Chi Square (χ2). Karenanya dalam pengujiannya,
nilai G dapat dibandingkan dengan nilai χ2 tabel pada α tertentu dan derajat bebas
(df) = k-1 (kriteria pengujian dan cara pengujian persis sama dengan uji F pada
metode regresi OLS). Tetapi, kita juga bisa melihat nilai p-value dari nilai G ini
yang biasanya ditampilkan oleh sofware-software statistik, termasuk SPSS. Dari
Tabel 4, didapatkan nilai χ2 sebesar 12,822 dengan p-value sebesar 0,005. Karena
nilai tersebut signifikan atau jauh di bawah α = 10%, maka dapat disimpulkan
bahwa model regresi logistik secara keseluruhan dapat menjelaskan kemungkinan
seseorang memiliki kolesterol tinggi.
Regresi dengan Variabel Terikat Dummy 9
4. Menilai Keseluruhan Model (Overall Model Fit) dan Menilai Kelayakan
Model Regresi
Model Summary
Step
-2 Log likelihood Cox & Snell R Square Nagelkerke R Square
1 40.103a .274 .374
a. Estimation terminated at iteration number 5 because parameter estimates changed by less
than .001.
Tabel 5
Cox & Snell R Square merupakan ukuran yang mencoba meniru ukuran R2
pada multiple regression yang didasarkan pada teknik estimasi likelihood dengan
nilai maksimum kurang dari 1 sehingga sulit diinterpretasikan. Dilihat dari Tabel 5,
nilai Cox & Snell R Square adalah 0,274.
Nagelkerke R Square merupakan modifikasi dari koefisien Cox & Snell R
Square untuk memastikan bahwa nilainya bervariasi dari 0 sampai 1. Kisaran nilai
Nagelkerke R Square adalah 0 hingga 1. Semakin nilai Nagelkerke R Square
mendekati angka 1, maka semakin kuat variabel bebas memprediksi variabel
terikat. Hal ini dilakukan dengan cara membagi nilai Cox & Snell R Square dengan
nilai maksimumnya. Oleh karena itu, nilai Nagelkerke R Square dapat
diinterpretasikan seperti nilai R2 pada multiple regression. Dilihat dari output
SPSS, nilai Nagelkerke R Square adalah 0,374. Ini berarti variabilitas variabel
dependen yang dapat dijelaskan oleh variabilitas variabel independen sebesar 0,374
%.
Hipotesis untuk menilai model fit adalah:
H0 = Model yang dihipotesakan fit dengan data.
HA = Model yang dihipotesakan tidak fit dengan data.
Dari hipotesis ini jelas bahwa kita tidak akan menolak H0 agar supaya model
fit dengan data.
Regresi dengan Variabel Terikat Dummy 10
Dalam data ini digunakan hipotesisnya sebagai berikut:
H0 = tidak ada perbedaan yang nyata antara klasifikasi yang diprediksi (predicted)
dengan klasifikasi yang diamati (observed).
H1= ada perbedaan yang nyata antara klasifikasi yang diprediksi (predicted) dengan
klasifikasi yang diamati (observed).
Hosmer and Lemeshow Test
Step Chi-square df Sig.
1 13.030 8 .111
Tabel 6
Hosmer and Lemeshow Test menguji hipotesis nol bahwa data empiris
cocok atau sesuai dengan model (tidak ada perbedaan antara model dengan data
sehingga model dapat dikatakan fit).
Dasar pengambilan keputusannya adalah dengan memperhatikan nilai
signifikansi dari Chi Square terhadap kriteria pengujian α = 0.1 pada Hosmer and
Lemeshow Test yaitu:
Jika probabilitas > 0,1 maka H0 diterima
Jika probabilitas < 0,1 maka H1 diterima
Tabel 6 menunjukkan bahwa besarnya nilai Hosmer and Lemeshow Test
sebesar 7,211 dengan probabilitas signifikansi 0,111 > α = 0,1 maka H0 diterima.
Hal ini berarti model regresi binary logistic layak digunakan untuk analisis
selanjutnya, karena tidak ada perbedaan yang nyata antara klasifikasi yang
diprediksi dengan klasifikasi yang diamati.
Regresi dengan Variabel Terikat Dummy 11
5. Menguji Koefisien Regresi
Variables in the Equation
B S.E. Wald df Sig. Exp(B)
Step 1a X1 .031 .053 .336 1 .562 1.031
X2 .994 .821 1.464 1 .226 2.702
X3 2.408 .856 7.913 1 .005 11.115
Constant -2.264 2.090 1.174 1 .279 .104
a. Variable(s) entered on step 1: X1, X2, X3.
Tabel 7
Tabel 7 memberikan estimasi koefisien model dan pengujian hipotesis
parsial dari koefisien model. Regresi logistik menghasilkan rasio peluang (odds
ratios) terkait dengan nilai setiap prediktor. Peluang (odds) dari suatu kejadian
diartikan sebagai probabilitas hasil yang muncul yang dibagi dengan probabilitas
suatu kejadian tidak terjadi. Secara umum, rasio peluang (odds ratios) merupakan
sekumpulan peluang yang dibagi oleh peluang lainnya. Rasio peluang bagi
prediktor diartikan sebagai jumlah relatif dimana peluang hasil meningkat (rasio
peluang > 1) atau turun (rasio peluang < 1) ketika nilai variabel prediktor meningkat
sebesar 1 unit. Odds ratio pada SPSS dilambangkan dengan Exp(B).
Dari tabel 7 diperoleh nilai Exp (B) sebagai faktor pengali (p). Adapun nilai
Exp(B) dari variabel independen umur sebesar 1,031, variabel independen jenis
kelamin sebesar 2,702, variabel independen sejarah keluarga sebesar 11,115,
Penafsirannya adalah:
Angka negatif dianggap probabilitas = 0.
Angka > 1 dianggap probabilitas = 1.
Angka di antara 0 sampai 1, probabilitasnya sesuai angka yang tertera.
Nilai Exp(B) dari variabel independen umur sebesar 1,031, maka peluang
umur sebesar 1 (karena Exp(B) > 1 maka dibulatkan menjadi 1) dapat diartikan
bahwa seseorang yang berumur lebih tua satu tahun, peluang memiliki kolesterol
tinggi adalah 1,031 kali dibandingkan seseorang yang berumur lebih muda (satu
Regresi dengan Variabel Terikat Dummy 12
tahun), jika sejarah keluarga dan jenis kelamin mereka sama. Artinya orang yang
lebih tua memiliki peluang yang lebih tinggi memiliki kolesterol tinggi.
Dalam konteks umur ini (yang merupakan variabel dengan skala rasio), hati-hati
menginterpretasikan nilai perbedaan peluangnya. Jika perbedaan umur lebih dari 1
tahun, misalnya 10 tahun, maka odds ratio-nya akan menjadi 0,31, yang diperoleh
dari perhitungan exp (10 x 0,031). Artinya peluang seseorang memiliki kolesterol
tinggi berumur lebih tua 10 tahun adalah 0,31 kali dibandingkan konsumen yang
lebih muda (10 tahun) darinya.
Nilai Exp(B) variabel independen jenis kelamin (jenis kelamin dimana 1 =
wanita dan 0 = pria) sebesar 2,702, maka peluang jenis kelamin sebesar 2,702.
Dapat diartikan bahwa peluang wanita memiliki kolesterol tinggi adalah 2,702 kali
dibandingkan pria, jika umur dan sejarah keluarga mereka sama. Artinya wanita
memiliki peluang lebih tinggi memiliki kolesterol tinggi dibandingkan pria.
Nilai Exp(B) variabel independen sejarah keluarga sebesar 11,115, maka
peluang orang yang memiliki sejarah keluarga kolesterol tinggi sebesar 11,115.
dapat diartikan bahwa peluang seseorang yang memiliki sejaarah keluarga
berkolesterol tinggi adalah 11,115 kali dibandingkan seseorang yang tidak memiliki
sejarah keluarga berkolesterol tinggi, jika umur dan jenis kelaminnya sama.
Untuk menguji faktor mana yang berpengaruh nyata seseorang yang
memiliki kolesterol tinggi tersebut, dapat menggunakan uji signifikansi dari
parameter koefisien secara parsial dengan statistik uji Wald, yang serupa dengan
statistik uji t atau uji Z dalam regresi linear biasa, yaitu dengan membagi koefisien
terhadap standar error masing-masing koefisien. Dengan uji t (Uji Wald) dan p-
value-nya (dengan menggunakan kriteria pengujian α = 10%) terlihat bahwa X3
berpengaruh nyata (karena memiliki p-value dibawah 10%) seseorang yang
memiliki kolesterol tinggi. Variabel independen umur dan jenis kelamin tidak
signifikan pada α = 10%, namun model regresi ini layak digunakan untuk
memprediksi variabel seseorang berkolesterol tinggi, karena secara faktual variabel
independen berupa umur dan jenis kelamin bisa saja mempengaruhi seseorang
berkolesterol tinggi. Ketidaksignifikan data ini mungkin disebabkan karena
pengumpulan data yang kurang akurat atau terbatasnya sampel yang diambil.
Regresi dengan Variabel Terikat Dummy 13
7. Penafsiran dan Prediksi
Persamaan model regresi binary logistic tersebut adalah:
ln (p
1 p) = -2,264 + 0,031 X1 + 0,994 X2 + 2,408 X3
Dimana:
Y = Seseorang memiliki kolesterol tinggi
X1 = Umur
X2 = Jenis Kelamin
X3 = Sejarah Keluarga
p = Peluang seseorang berkolesterol tinggi
1 p = Peluang seseorang berkolesterol normal
a. Nilai konstanta sebesar 2,264 berarti pada saat umur berkode 0, jenis kelamin
berkode 0, sejarah keluarga 0, maka probabilitas seseorang memiliki kolesterol
tinggi sebesar:
ln (p
1 p) = 2,264
p
1 p = e 2,264
p = e 2,264
1+ e 2,264 = 0,0941487 = 9,4141%
Karena menghasilkan probabilitas 9,4141% , maka dapat disimpulkan bahwa
tanpa adanya variabel independen umur, jenis kelamin, dan pendapatan maka
seseorang masih meliliki peluang sebesar 9,414% untuk memiliki kolestero
tinggi.
b. Apabila jenis kelamin berkode 0 (pria), sejarah keluarga berkode 0 maka
probabilitas seseorang memiliki kolesterol tinggi adalah sebagai berikut:
Misalkan kita ambil seseorang berumur 29 tahun
ln (p
1 p) = -2,264 + 0,031 (29) = -1,365
p
1 p = e1,365
Regresi dengan Variabel Terikat Dummy 14
p = e1,365
1+ e1,365 = 0,2034 = 20,34%
Karena menghasilkan probabilitas 20,34% maka pada umur 29 tahun bisa
diprediksi bahwa peluang seseorang memiliki kolesterol tinggi sebesar
20,34%.
Misalkan kita ambil konsumen berumur 51 tahun
ln (p
1 p) = -2,264 + 0,031(51) = -0,683
p
1 p = e-0,683
p = e-0,683
1+ e-0,683 = 0,3355 = 33,55%
Karena menghasilkan probabilitas 33,55% maka pada umur 51 tahun bisa
diprediksi bahwa peluang seseorang memiliki kolesterol tinggi sebesar
33,55%.
c. Apabila jenis kelamin berkode 1 (wanita), sejarah keluarga 0 maka probabilitas
seseorang memiliki kolesterol tinggi adalah sebagai berikut:
Misalkan kita ambil konsumen berumur 30 tahun
ln (p
1 p) = -2,264+ 0,031(30)+ 0,994 (1) = 0,34
p
1 p = e0,34
p = e0,34
1+ e0,34 = 0,4158 = 41,58%
Karena menghasilkan probabilitas 41,58% maka pada umur 30 tahun bisa
diprediksi bahwa peluang seseorang wanita memiliki kolesterol tinggi sebesar
41,58%
Misalkan kita ambil konsumen berumur 45 tahun
ln (p
1 p) = -2,264+ 0,031(45)+ 0,994 (1) = 0,125
p
1 p = e0,125
Regresi dengan Variabel Terikat Dummy 15
p = e0,125
1+ e0,125 = 0,5312 = 53,12%
Karena menghasilkan probabilitas 53,12% maka seorang wanita pada umur 45
tahun bisa diprediksi bahwa peluang seseorang memiliki kolesterol tinggi
sebesar 53,12%.
d. Apabila jenis kelamin berkode 1 (wanita), sejarah keluarga (1) maka
probabilitas seseorang memiliki kolesterol tinggi adalah sebagai berikut:
Misalkan kita ambil konsumen berumur 30 tahun
ln (p
1 p) = -2,264+ 0,031(30)+ 0,994 (1) + 2,408(1) = 2,068
p
1 p = e2,068
p = e2,068
1+ e2,068 = 0,8877 = 88,77%
Karena menghasilkan probabilitas 88,77% maka seorang wanita pada umur 30
tahun dan memiliki sejarah keluarga berkolesterol tinggi bisa diprediksi
peluang seseorang tersebut memiliki kolesterol tinggi sebesar 88,77%.
e. Apabila jenis kelamin berkode 0 (pria), sejarah keluarga (1) maka probabilitas
seseorang memiliki kolesterol tinggi adalah sebagai berikut:
Misalkan kita ambil konsumen berumur 30 tahun
ln (p
1 p) = -2,264+ 0,031(30) + 2,408(1) = 1,074
p
1 p = e1,074
p = e1,074
1+ e1,074 = 0,7454 = 74,54%
Karena menghasilkan probabilitas 74,54% maka seorang pria pada umur 30 tahun
dan memiliki sejarah keluarga berkolesterol tinggi bisa diprediksi peluang
seseorang tersebut memiliki kolesterol tinggi sebesar 74,54%.
.
Regresi dengan Variabel Terikat Dummy 16
Dengan demikian, dapat diambil kesimpulan bahwa dapat diprediksi
peluang seorang wanita dan memiliki sejarah keluarga berkolesterol tinggi adalah
lebih tinggi untuk memiliki kolesterol tinggi.
Regresi dengan Variabel Terikat Dummy 17
DAFTAR PUSTAKA
http://enistat.lecture.ub.ac.id/files/2012/ ( diakses, 16 desember 2013. 09.20)
http://www.docstoc.com/docs/121543681/MODEL-REGRESI-DENGAN-
VARIABEL-TERIKAT-DUMMY/ (diakses ,16 desember 2013, 09.30)
top related