regresi-linier-berganda.ppt

*Regresi Linier Berganda

*Asumsi Analisis Regresi Linier1. Data Y berskala minimal interval Data X berskala minimal nominal (jika data X berskala nominal / ordinal harus menggunakan bantuan variabel dummy)2. Existensi untuk setiap nilai dari variabel x yang tetap, y adalah variabel random dengan distribusi probabilitas tertentu yang mempunyai mean dan varians.

*Asumsi Analisis Regresi Linier3. Nilai y secara statistik saling bebas 4. Linieritas, nilai rata-rata y adalah sebuah fungsi garis lurus dari x 5. Homoscedasticity. Varians dari y adalah sama pada beberapa x 6. Distribusi normal pada beberapa nilai tertentu x, y mempunyai distribusi normal

*Asumsi Analisis Regresi Linier

*Asumsi Analisis Regresi Linier

*Regresi Linier BergandaModel regresi linier berganda melibatkan lebih dari satu variabel bebas. Modelnya :

DimanaY = variabel terikatXi = variabel bebas ( i = 1, 2, 3, , k)0 = intersepi = koefisien regresi ( i = 1, 2, 3, , k)Model penduganya adalah

*Regresi Linier BergandaMisalkan model regresi dengan kasus 2 peubah bebas X1 dan X2 maka modelnya :

Sehingga setiap pengamatan Akan memenuhi persamaan

*Menaksir Koefisien Regresi Dengan Menggunakan MatriksDari hasil Metode Kuadrat Terkecil didapatkan persamaan normal :

..

*Menaksir Koefisien Regresi Dengan Menggunakan MatriksTahapan perhitungan dengan matriks :Membentuk matriks A, b dan g

*Menaksir Koefisien Regresi Dengan Menggunakan Matriks

*Menaksir Koefisien Regresi Dengan Menggunakan MatriksMembentuk persamaan normal dalam bentuk matriksA b = g

Perhitungan matriks koefisien bb = A-1 g

*Metode Pendugaan Parameter RegresiDengan Metode Kuadrat Terkecil, misalkan model terdiri dari 2 variabel bebas

Tahapan pendugaannya :1. Dilakukan turunan pertama terhadap b0 , b1 dan b2

*Metode Pendugaan Parameter Regresi2. Ketiga persamaan hasil penurunan disamakan dengan nol

*Metode Pendugaan Parameter Regresi3. Nilai b1 dan b2 dapat diperoleh dengan memakai aturan-aturan dalam matriks

*Uji Kecocokan Model Dengan Koefisien Determinasi

R2 menunjukkan proporsi variasi total dalam respon Y yang dapat diterangkan oleh model

r merupakan koefisien korelasi antara Y dengan kelompok X1 , X2 , X3 , , Xk

*Uji Kecocokan ModelDengan Pendekatan Analisis RagamTahapan Ujinya :Hipotesis =H0 : 0H1 : 0dimana = matriks [ 0, 1, 2, , k ]

*Uji Kecocokan ModelTabel Analisis Ragam

Komponen RegresiSSdbMSFhitungRegresiJKRkJKR / kJKR /ks2GalatJKGn k 1 s2 = JKG / n-k-1TotalJKTn 1

*Uji Kecocokan ModelPengambilan Keputusan

H0 ditolak jikapada taraf kepercayaan

Fhitung > Ftabel(1 , n-k-1)

*Uji Parsial Koefisien RegresiTahapan Ujinya :Hipotesis =H0 : j 0H1 : j 0 dimana j merupakan koefisien yang akan diuji

*Uji Parsial Koefisien Regresi2. Statistik uji :

Dimana : bj = nilai koefisien bjs =cjj = nilai matriks A-1 ke-jj

*Uji Parsial Koefisien Regresi3. Pengambilan keputusan

H0 ditolak jikapada taraf kepercayaan

thitung > t /2(db= n-k-1)

*Pemilihan Model TerbaikAll Possible RegressionTahapan pemilihan :Tuliskan semua kemungkinan model regresi dan kelompokkan menurut banyaknya variabel bebasUrutkan model regresi menurut besarnya R2Periksalah untuk setiap kelompok apakah terdapat suatu pola variabel yang konsistenLakukan analisa terhadap kenaikan R2 pada tiap kelompok

*Pemilihan Model TerbaikContoh :Akan dianalisis model regresi yang terdiri dari 4 variabel bebasPembagian kelompoknyaKelompok A terdiri dari koefisien intersep Kelompok B terdiri dari 1 variabel bebas Kelompok C terdiri dari 2 variabel bebas Kelompok D terdiri dari 3 variabel bebas Kelompok E terdiri dari 4 variabel bebas

*Pemilihan Model TerbaikPersamaan regresi yang menduduki posisi utama dalam setiap kelompok adalah

Persamaan terbaiknya adalah Y = f(X1 , X4)

KelompokModel RegresiR2BY = f(X4)67,5%CY = f(X1 , X2)97,9%Y = f(X1 , X4) 97,2%DY = f(X1 , X2 , X4)98,234%EY = f(X1 , X2 , X3, X4)98,237%

*Pemilihan Model TerbaikBackward Elimination ProcedurTahap pemilihannya :Tuliskan persamaan regresi yang mengandung semua variabelHitung nilai t parsialnyaBanding nilai t parsialnya Jika tL < tO maka buang variabel L yang menghasilkan tL, kemudian hitung kembali persamaan regresi tanpa menyertakan variabel LJika tL > tO maka ambil persamaan regresi tersebut

*Pemilihan Model TerbaikContoh :Akan dianalisis model regresi yang terdiri dari 4 variabel bebasModel regresi yang mengandung semua variabel bebas

Model terbaiknyaY = f(X1,X2)

Persamaan Regersit parsialFY = f(X1,X2,X3,X4)157,266* X14,337* X20,497* X30,018 X40,041*Y = f(X1,X2,X4)166,83* X1154,008* X25,026* X41,863Y = f(X1,X2)229,5*

*Pemilihan Model Terbaik Stepwise Regression ProcedurTahap pemilihannya :Hitung korelasi setiap variabel bebas terhadap variabel Y. Variabel bebas dengan nilai korelasi tertinggi masukkan dalam model regresi (syarat uji F menunjukkan variabel ini berpengaruh nyata)Hitung korelasi parsial setiap variabel bebas tanpa menyertakan variabel bebas yang telah mauk model. Masukkan variabel bebas dengan korelasi parsial tertinggi ke dalam modelHitung nilai t parsial variabel yang telah masuk model, jika tidak berpengaruh nyata keluarkan dari modelKembali ke langkah ii

*Pemilihan Model TerbaikContoh :Akan dianalisis model regresi yang terdiri dari 4 variabel bebas

*Model terbaikY = f(X1 , X2)

ModelVariabelKorelasit parsialFriy0,731r2y0,816r3y-0,535r4y-0,821Y = f(X4)22,798* r1y.40,915r2y.40,017r3y.40,801Y = f(X1,X4)176,627* r2y.140,358X1 = 108,223*r3y.140,320X4 = 159,295*Y = f(X1, X2,X4)166,832*X1 = 154,008*X2 = 5,026*X4 = 1,863r3y.1240,002Y = f(X1, X2)229,504*