Analisis Regresi Regresi Linear Sederhana

Presentasi berjudul: "Analisis Regresi Regresi Linear Sederhana"— Transcript presentasi:

1 Analisis Regresi Regresi Linear Sederhana
KULIAH KE 9 MMP UNRI

2 Pengantar Dua variabel numerik  ingin diketahui hubungannya
Dua variabel numerik  salah satu variabel dianggap sebagai variabel yang mempengaruhi variabel lainnya Variabel yang mempengaruhi  X, variabel bebas, variabel penjelas Variabel yang dipengaruhi  Y, variabel tak bebas, variabel respon

3 Hati-hati menentukan variabel bebas dan variabel tak bebas
Hubungan berat badan dan tinggi badan Apakah ada hubungan Kalau ada, mana yang bebas dan mana yang tak bebas

4 Perhatikan hubungan Y = a + bX X variabel bebas Y variabel tak bebas

5 Perhatikan penomena berikut
Hasil panen dan banyak pupuk yang di gunakan Y = a + bX X Volume pupuk yang digunakan Y Hasil Panen

6 Bentuk Lain Regresi linear berganda
Hasil panen tidak hanya ditentukan oleh volume pupuk yang diberikan, tapi juga curah hujan/pengairan X1 = volume pupuk (Var Bebas) X2 = Curah hujan/Pengairan ( ? Var Bebas) Y = ao + a1X1 + a2X2

7 Perhatikan bentuk regresi linear sederhana Y = a + bX
??? Bagaimana menentukan koefisien a dan koefisien b ???? Persamaan Regresi kita buat dari data sampel (penaksir)

8 Menentukan persamaan regresi
Metoda tangan bebas Gambarkan titik-titik sampel Buat regresi penduganya Maka metoda ini tidak valid

9 Ini tidak valid karena ada kehendak yang subjektif

10 Pengantar Misalnya ingin melihat hubungan antara pengeluaran untuk iklan (ads expenditures, X) dengan penerimaan melalui penjualan (sales revenue, Y) Tahun 1 2 3 4 5 6 7 8 9 10 X 11 12 13 14 15 Y 44 40 42 46 48 52 54 58 56 60

11 Bagaimana menentukan a dan b

12 Rumus I

13 Mari kerja dengan exel untuk contoh berikut
X = banyak pengunjung toko Y = banyak pembeli X 56 54 33 42 34 48 62 50 38 60 55 Y 46 28 44 26 29 39 23 36 37 Ini cara semi manual, nanti kita lihat dengan excel

14

15

16 Rumus ke dua

17 Ini cara semi manual, nanti kita lihat dengan excel

18 Memberi makna dari persamaan regresi
Misalkan hubunan antara biaya iklan yang dikeluarkan (X) dengan penjualan adalah Y = X Ingat bilang koefisian dari X (b > 0) berarti grarik Naik dari kiri ke kanan Jika b < 0 grafik Turun dari kiri ke kanan

19 Interpretasi a dan b a = besarnya nilai Y ketika X sebesar 0
b = besarnya perubahan nilai Y ketika X berubah satu satuan. Tanda koefisien b menunjukkan arah hubungan X dan Y Pada kasus ilustrasi a = 7.6 = besanya pendapatan jika tidak ada belanja iklan adalah 7.6 b = = jika belanja iklan dinaikkan 1 juta dolar maka penjualan naik juta dolar

20 Untuk prediksi Kita bisa membuat prediksi berapakah pendapatan yang akan diperoleh jika biaya pengeluaran iklan dinaikkan sampai 20 juta dollar Ingat prediksi TERBATAS MAKA DIPERLUKAN UJI LINEARITAS UJI HIPOTESI UNTUK REGRESI

21

22 Pengantar Y = a + bX Ingin dibuat model
Model memuat error, selisih nilai sebenarnya dengan dugaan berdasar model

23 Bagaimana mendapatkan a dan b?
Metode yang digunakan : OLS (ordinary least squares), mencari a dan b sehingga jumlah kuadrat error paling kecil Cari penduga a dan b sehingga minimum

24 Rumus lain Rata-rata X Rata-rata Y

25 Ilustrasi Perhitungan
b = 106 / 30 = 3.533 a = 50 – (12) = 7.60

26

27 Interpretasi a dan b a = besarnya nilai Y ketika X sebesar 0
b = besarnya perubahan nilai Y ketika X berubah satu satuan. Tanda koefisien b menunjukkan arah hubungan X dan Y Pada kasus ilustrasi a = 7.6 = besanya sales revenue jika tidak ada belanja iklan adalah 7.6 mlo b = = jika belanja iklan dinaikkan 1 juta dolar maka sales revenue naik juta dolar

28 Uji Signifikasi Koefisien b
H0 : b = 0 (artinya X tidak mempengaruhi Y) H1 : b  0 (artinya X mempengaruhi Y) Tolak H0 jika nilai t melebihi nilai t pada tabel dengan derajat bebas (n-2) pada nilai peluang /2 Tolak H0 jika nilai-p < 

29 Uji signifikansi koefisien b
Nilai sb = 0.52 Nilai t = 6.79 Nilai t pada tabel (db = 8,  = 5%) = 2.306 Kesimpulan : Tolak H0, data mendukung kesimpulan adanya pengaruh ads expenditure terhadap sales revenue.

30 Ukuran Kebaikan Model Menggunakan koefisien determinasi (R2, R-squared) R-squared bernilai antara 0 s/d 1 R-squared adalah persentase keragaman data yang mampu diterangkan oleh model R-squared tinggi adalah indikasi model yang baik

31 Ukuran Kebaikan Model Model dalam ilustrasi bisa ditunjukkan memiliki R-squared 0.85 atau 85%

32 di SAS PRC FREQ DATA = sas-data-set; MODEL dependent = independent;
RUN;

33 data contoh; input X Y; label X = 'ads expenditures (juta $)' Y = 'revenue (juta ($)'; cards; 10 44 9 40 11 42 12 46 11 48 12 52 13 54 13 58 14 56 15 60 ; proc reg data=contoh; model Y = X; run;

34 nilai p pengujian pengaruh X thd Y
The REG Procedure Model: MODEL1 Dependent Variable: Y revenue (juta ($) Number of Observations Read Number of Observations Used Analysis of Variance Sum of Mean Source DF Squares Square F Value Pr > F Model Error Corrected Total Root MSE R-Square Dependent Mean Adj R-Sq Coeff Var Parameter Estimates Parameter Standard Variable Label DF Estimate Error t Value Pr > |t| Intercept Intercept X ads expenditures (juta $) nilai p pengujian pengaruh X thd Y

35 koefisien regresi Y = 7.6 + 3.53 X R2 The REG Procedure Model: MODEL1
Dependent Variable: Y revenue (juta ($) Number of Observations Read Number of Observations Used Analysis of Variance Sum of Mean Source DF Squares Square F Value Pr > F Model Error Corrected Total Root MSE R-Square Dependent Mean Adj R-Sq Coeff Var Parameter Estimates Parameter Standard Variable Label DF Estimate Error t Value Pr > |t| Intercept Intercept X ads expenditures (juta $) koefisien regresi Y = X R2

36 proc reg data=contoh; model Y = X; symbol1 v = '=' c = blue; plot Y*X /cline = red; run;

37 Analisis Regresi Regresi Linear Berganda

38 Pengantar Pada sesi sebelumnya kita hanya menggunakan satu buah X, dengan model Y = a + bX Dalam banyak hal, yang mempengaruhi X bisa lebih dari satu. Model umum regresi linear berganda adalah Y = a + b1X1 + b2X2 + … + b3X3

39 Ilustrasi Ingin dicari model regresi dari sales revenue (Y), dengan variabel bebas berupa ads expenditure (X1) dan pengeluaran untuk quality control (X2) Tahun 1 2 3 4 5 6 7 8 9 10 X1 11 12 13 14 15 X2 Y 44 40 42 46 48 52 54 58 56 60

40 Ilustrasi Proses mencari penduga bagi koefisien a, b1, dan b2 memiliki konsep yang sama dengan model regresi sederhana, namun lebih kompleks. Output standar komputer: ANOVA  pengujian simultan Pengujian Parsial Nilai dugaan koefisien Ukuran kebaikan model

41 Ilustrasi data contoh; input Tahun X1 X2 Y;
label X1 = 'ads expenditure (juta$)' X2 = 'QC expenditure (juta$)' Y = 'sales revenue (juta$)'; cards; ; proc reg data=contoh; model y = x1 x2; run;

42 Ilustrasi Analysis of Variance Sum of Mean
Source DF Squares Square F Value Pr > F Model <.0001 Error Corrected Total Root MSE R-Square Dependent Mean Adj R-Sq Coeff Var Parameter Estimates Parameter Standard Variable DF Estimate Error t Value Pr > |t| Intercept X X

43 ANOVA Digunakan untuk menguji secara simultan pengaruh seluruh X
H0: semua bi = 0 (tidak ada X yang berpengaruh terhadap Y) H1: ada bi  0 (ada X yang berpengaruh terhadap Y) Konsep dasar : ANOVA membandingkan besarnya keragaman yang terkandung dalam model dengan keragaman yang tersisa pada error model. Jika rasio keduanya besar, maka X mempengaruhi Y. Rasio itu dilambangkan dengan nilai F. Semakin besar nilai F, semakin kecil nilai-p, cenderung menolak H0.

44 ANOVA: ilustrasi Analysis of Variance Sum of Mean Source DF Squares Square F Value Pr > F Model <.0001 Error Corrected Total Seandainya kita gunakan  = 5%, maka nilai-p ini lebih kecil daripada 5%, sehingga kita putuskan TOLAK H0, artinya ada X yang mempengaruhi sales revenue

45 Ilustrasi Modelnya Y = 17.94 + 1.87 X1 + 1.91 X2
Parameter Standard Variable DF Estimate Error t Value Pr > |t| Intercept X X Modelnya Y = X X2 Uji parsial. Menguji masing-masing X. Karena p-value X1 dan X2 kecil, maka disimpulkan bahwa pengaruh keduanya terhadap sales revenue signifikan secara statistik

46 Ilustrasi Root MSE R-Square Dependent Mean Adj R-Sq Coeff Var Ukuran kebaikan model : R2. Penambahan X lain dalam model akan selalu meningkatkan nilai R2, namun menurunkan derajat bebas error. Agar evaluasi terhadap kebaikan model tidak terganggu, nilai R2 dikoreksi menjadi Adjusted R2.

47 Peramalan menggunakan Regresi
Model regresi bisa digunakan untuk meramal nilai Y jika kita ketahui nilai setiap variabel X Dugaan dapat berupa titik maupun selang. Dugaan selang memiliki simpangan/variasi yang lebih besar untuk nilai X yang semakin jauh dari rata-rata. Interpolasi vs Ekstrapolasi

48 Jika pada tahun depan (tahun ke-11) direncanakan akan mengeluarkan belanja untuk advertisement (X1) sebesar 15 juta dolar dan pengeluaran untuk quality control (X2) sebesar 9 juta dolar, berapa dugaan nilai sales revenue yang akan didapatkan?

49 data contoh; input Tahun X1 X2 Y; label X1 = 'ads expenditure (juta$)' X2 = 'QC expenditure (juta$)' Y = 'sales revenue (juta$)'; cards; ; proc reg data=contoh; model y = x1 x2/p cli; run;

50 The REG Procedure Model: MODEL1 Dependent Variable: Y sales revenue (juta$) Output Statistics Dependent Predicted Std Error Obs Variable Value Mean Predict % CL Predict Residual