Regresi Linier (Linear Regression) Gangga Anuraga, S.Si, M.Si Department of Statistics Faculty of Mathematics and Natural Sciences PGRI Adibuana of University Surabaya
Regresi linier Secara umum model regresi linier dapat dituliskan dalam bentuk persamaan sebagai berikut :
Struktur Data i yi x1 x2 x3 … xp 1 y1 x11 x12 x13 x1p 2 y2 x21 x22 x23 4 y4 x41 x42 x43 x4p n yn xn1 xn2 xn3 xnp
Bentuk Matriks
Regresi linier sederhana
Pemodelan hubungan antara dua variabel, variabel dependen / respon (Y) dengan variabel independen / prediktor (X) Struktur data : Secara matematis hubungan antara variabel dependen Y dengan variabel independen X dapat dituliskan sebagai berikut : Jika Y merupakan penjualan dari suatu perusahaan dan X adalah hari dalam minggu. Maka hubungan antara X dan Y merepresentasikan rata-rata penjualan dalam tiap hari.
Regresi Y Vs X dikatakan linier jika : Sehingga dapat dituliskan kembali model umum dari persamaan regresi linier sederhana adalah sebagai berikut :
dimana : Model prediksi atau estimasi dapat dituliskan : dan residual
Least squares line of best fit
Estimasi least squares (Ordinary Least Squares) Meminimalkan sum of squared residual / residual sum of squares (RSS) : Turunkan RSS terhadap b0 dan b1 (1)
Estimasi least squares (Ordinary Least Squares) Dari persamaan (1) dapat dituliskan kembali sebagai berikut (2) :
Estimasi least squares (Ordinary Least Squares) Berikut estimasi b0 dan b1 : Estimasi varians S2 dari residual :
Asumsi dalam analisis regresi
Uji signifikansi (uji individu)
Uji signifikansi (uji individu)
Analysis of Variance (ANOVA)
ANOVA Uji Serentak
Tabel Anova
Koefisien Determinasi (R2) Mengukur ketepatan atau kecocokan suatu garis regresi yang diterapkan terhadap suatu kelompok data hasil observasi. Makin besar nilai R2 dikatakan model regresi semakin tepat atau cocok, sebaliknya makin kecil nilai R2 dikatakan model regresinya tidak tepat untuk mewakili data hasil observasi. Mengukur proporsi atau prosentase dari jumlah variasi Y yang dapat diterangkan oleh model regresi.