EKONOMETRIKA Pertemuan 4,5 Estimasi Parameter Model Regresi

Presentasi berjudul: "EKONOMETRIKA Pertemuan 4,5 Estimasi Parameter Model Regresi"— Transcript presentasi:

1 EKONOMETRIKA Pertemuan 4,5 Estimasi Parameter Model Regresi
Pengujian Hipotesis dan Interval Konfidensi Dosen Pengampu MK: Dr. Idah Zuhroh, M.M. Evellin D. Lusiana, S.Si, M.Si

2 Materi Estimasi parameter regresi linier sederhana (OLS)
Asumsi-asumsi OLS GOF regresi (Koefisien Determinasi) Sifat-sifat estimator OLS (BLUE) Pengujian hipotesis dan Interval konfidensi

3 Estimasi Parameter Regresi Linier Sederhana [1]
Menduga PRF dengan SRF Menggunakan metode Ordinary Least Square (OLS) PRF SRF Dari dua definisi tersebut:

4 Estimasi Parameter Regresi Linier Sederhana [2]
Prinsip metode Ordinary Least Square (OLS): Memilih SRF sedemikian sehingga jumlah kuadrat dari error sekecil mungkin Penduga parameter model dipilih berdasarkan metode optimasi: Solusi dari turunan pertama dari masing-masing parameter yang disamadengankan nol

5 Persamaan (1) dan (2) disebut persamaan normal

6 Dari persamaan (1), diperoleh

7 Cara 1: untuk mendapat estimator β2
Subtitusi persamaan (3) ke (2) akan menghasilkan

8 Cara 2: untuk mendapat estimator β2 (estimasi berdasarkan variasi)
Misalkan: Diketahui: sehingga

9 Estimasi Parameter Regresi Linier Sederhana [3]
dengan demikian, estimator yang dihasilkan adalah

10 Keakuratan dan standar error dari estimator OLS
Estimator ragam dari estimator OLS

11 Contoh: estimasi model regresi untuk teori Keynes (data hipotetik)
Berdasarkan data ini, tentukan estimator

12 Tabel perhitungan data hipotetik
1 70 80 (70).(80)= 5600 (80)2=6400 80-170=-90 70-111=-41 (-90)2=8100 (-41)2=1681 (-90)(-41)=3690 2 65 100 6500 10000 -70 -46 4900 2116 3220 3 90 120 10800 14400 -50 -21 2500 441 1050 4 95 140 13300 19600 -30 -16 900 256 480 5 110 160 17600 25600 -10 -1 10 6 115 180 20700 32400 16 40 7 200 24000 40000 30 9 81 270 8 220 30800 48400 50 29 841 1450 155 240 37200 57600 44 1936 3080 150 260 39000 67600 39 8100 1521 3510 Σ 1110 1700 205500 322000 33000 8890 16800 rata2 111 170 20550 32200 3300 889 1680

13 Berdasarkan tabel perhitungan tsb, diketahui
Interpretasi: Setiap kenaikan 1$ pendapatan (X) akan meningkatkan pengeluaran (Y) sebesar $0.5091 Model Estimasi

14 TUGAS Gunakan kembali data sampel yang diambil dari data pendapatan dan pengeluaran 60 RT (n=10). Dari scatterplot data sampel tersebut, tentukan garis regresi menurut pandangan kasat mata (subjektif). Kemudian, tentukan nilai dan untuk mendapatkan model estimasi Buatlah kurva regresi SRF berdasarkan model estimasi tersebut, serta tentukan posisi PRF Tentukan, mana garis/kurva yang lebih mendekati PRF. Apakah garis yang ditentukan secara subjektif atau berdasarkan model estimasi?

15 Asumsi-asumsi yang mendasari Metode OLS [1]
Diperlukan karena tujuan kita adalah pengambilan kesimpulan mengenai nilai parameter yang sebenarnya. Linier dalam parameter Nilai variabel independen dianggap non stokastik (fixed) error mempunyai nilai harapan nol Homoskedastisitas: ragam yang sama pada error error tidak saling berkorelasi

16 Asumsi-asumsi yang mendasari Metode OLS [2]
variabel independen dan error saling bebas Jumlah pengamatan harus lebih besar daripada jumlah parameter yang akan diduga Nilai variabel independen harus bervariasi Model regresi harus dispesifikasikan dengan tepat: no specification bias Tidak ada multikolinieritas sempurna

17 Linier dalam Parameter
Hanya parameter yang bersifat linier variabel dependen/independen boleh tidak linier

18 Nilai variabel independen dianggap non stokastik (fixed)
Untuk membentuk sebaran nilai-nilai variabel dependen (Y) pada setiap nilai variabel independen (X) Pada X tertentu terdapat beberapa nilai Y Analisis regresi di sini adalah analisis regresi bersyarat pada nilai X

19 Error mempunyai nilai harapan nol
Dengan syarat nilai X tertentu, error mempunyai rata-rata atau nilai harapan sebesar nol

20 Homokedastisitas: ragam yang sama pada error
Pada setiap nilai X, populasi Y mempunyai ragam yang sama

21 Ilustrasi grafis asumsi Heterokesdastisitas

22 Pada kasus heterokesdastisitas
Ragam error meningkat seiring dengan meningkatnya nilai X Nilai-nilai Y pada X1 lebih terpusat di garis regresi populasi (PRF) daripada nilai-nilai Y di X yang lainnya Pengamatan Y berasal dari X= X1 akan lebih mungkin terletak di dekat PRF daripada Y yang berasal dari X yang lainnya. Pengamatan pada X= X1 lebih akurat daripada pengamatan pada X selainnya.

23 Implikasi dari asumsi Homokesdastisitas
Dari asumsi homokesdastisitas, berlaku bahwa: Ragam dari Y dengan syarat nilai X juga sama untuk setiap kemungkinan nilai X Konstanta Ragam dari konstanta adalah nol, dan kedua suku saling bebas

24 Error Tidak Berkorelasi
Pada dua nilai X yang berbeda, korelasi / kovarians antar error = 0. Asumsi ini setara dengan asumsi kebebasan error pada pada nilai-nilai X yang berbeda.

25 Error Tidak Berkorelasi
Asumsi ini disebut dengan ‘tidak ada autokorelasi’ antar error Pada nilai X tertentu, penyimpangan nilai Y dari rata-rata tidak mempunyai pola tertentu (acak). Jika terdapat autokorelasi, maka Y tidak hanya dipengaruhi oleh X, tapi juga dipengaruhi oleh error dari X yang lainnya

26

27 variabel independen dan error saling bebas
Kovarians di antara error dan variabel independen = 0 PRF dibentuk berdasarkan asumsi bahwa X dan u mempunyai efek aditif (yang terpisah) bagi Y Jika kedua efek tersebut berkorelasi Kesulitan dalam menganalisis efek individu dari X dan u Jika keduanya tidak saling bebas u semakin besar seiring peningkatan nilai X (korelasi positif) u semakin kecil seiring peningkatan nilai X (korelasi negatif)

28 Jumlah pengamatan harus lebih besar daripada jumlah parameter yang akan diduga
Syarat diperolehnya solusi unik dari suatu sistem persamaan (n: jumlah pengamatan (ukuran sampel), m: jumlah penaksir parameter, n>m) Menurut Harrel (2001), ukuran minimum sampel untuk analisis regresi adalah kali banyaknya parameter. Harrell, F.E. Jr. Regression modelling strategies. Springer-Verlag, New York, NY; 2001

29 Nilai variabel independen harus bervariasi
Karena tujuan dari analisis adalah mempelajari perubahan Y seiring dengan perubahan X (jika secara teori Xi berpengaruh terhadap Yi, namun data yang ada tidak berubah/tidak bervariasi maka Xi tidak dimasukkan dalam model atau dianggap ceteris paribus). Dari rumus penduga slope model regresi, penyebut akan bernilai nol jika tidak ada variasi dari nilai X Tidak ada solusi bagi penduga slope ≠0

30 Model regresi harus dispesifikasikan dengan tepat: no specification bias
Jika digunakan model 2, maka pada X tertentu, model akan overestimate rata-rata Y bagi titik-titik di antara A dan B Model 1 Model 2

31 Tidak ada multikolinieritas sempurna
Tidak ada hubungan linier di antara variabel-variabel independen yang digunakan

32 Classical Linier Regression Model
Asumsi-asumsi tersebut disebut dengan asumsi pada Classical Linier Regression Model (CLRM) Asumsi tersebut mendasari sifat-sifat penduga OLS secara statistika. Dinyatakan dalam Teorema Gauss Markov

33 Keakuratan dan standar error dari estimator OLS
Mempelajari sebaran penarikan sampel dari penduga regresi SRF tidak pernah sama dari sampel satu ke sampel yang lain Nilai estimator juga seringkali tidak sama dari satu sampel ke sampel yang lain Suatu estimator dinyatakan akurat jika mempunyai ragam/standar deviasi yang kecil pada sebaran penarikan sampel.

34 Sebaran penarikan sampel estimator 1
tepat, tidak bias Cukup akurat, ragam kecil Sebaran penarikan sampel estimator 2 tepat, tidak bias Kurang akurat, ragam besar

35 Sifat-sifat penduga OLS: Teorema Gauss Markov
Jika semua asumsi-asumsi CLRM terpenuhi maka estimator OLS akan mempunyai sifat berikut ini: Linier: fungsi linier dari variabel acak di dalam model (Y) Tidak bias: nilai harapan penduga adalah nilai dari parameter Mempunyai ragam terkecil dari semua penduga linier yang tak bias BLUE: (Best Linear Unbiased Estimators) Estimator OLS menyebar secara normal pula

36 Pembuktian BLUE Linier dalam Yestimator sbg fungsi linier dari Y =0

37

38 Tidak bias

39

40 Varians minimum

41 Goodness of Fit dari garis regresi
Sebagai alat untuk: Menentukan apakah tidak ada alternatif garis lain yang dapat menjelaskan hubungan X dan Y Mengukur seberapa baik model yang diperoleh menjelaskan Y Diperlukan penguraian nilai sum square (SS) Y di sekitar nilai rata-rata. RSS Residual sum square TSS Total sum square ESS Explained sum square

42 Penguraian jumlah kuadrat Y di sekitar nilai rata-rata
RSS TSS ESS Penguraian jumlah kuadrat Y di sekitar nilai rata-rata

43 Dari penguraian JK tersebut dapat diturunkan koefisien determinasi berikut:
Sebagai ukuran seberapa besar (dalam proporsi/persen) keragaman total Y dapat dijelaskan oleh model regresi.

44 Rentang Nilai Koefisien Determinasi
Dari hubungan: Jika model regresi gagal menjelaskan keragaman nilai Y maka: Jika model regresi menjelaskan keragaman nilai Y dengan sempurna maka:

45 Koefisien Determinasi dan Korelasi
Koefisien determinasi merupakan kuadrat dari koefisien korelasi, yaitu Di mana:

46 Contoh: estimasi model regresi untuk teori Keynes (data hipotetik) [Lanj.]

47 Yi Xi XiYi X2 X-Xbar Y-Ybar (X-Xbar) * (Y-Ybar) Yhat u2 70 80 5600
u=Y-Yhat u2 70 80 5600 6400 -90 -41 8100 1681 3690 65.18 4.82 23.21 65 100 6500 10000 -70 -46 4900 2116 3220 75.36 -10.36 107.42 90 120 10800 14400 -50 -21 2500 441 1050 85.55 4.45 19.83 95 140 13300 19600 -30 -16 900 256 480 95.73 -0.73 0.53 110 160 17600 25600 -10 -1 1 10 105.91 4.09 16.72 115 180 20700 32400 4 16 40 116.09 -1.09 1.19 200 24000 40000 30 9 81 270 126.27 -6.27 39.37 220 30800 48400 50 29 841 1450 136.46 3.54 12.56 155 240 37200 57600 44 1936 3080 146.64 8.36 69.91 150 260 39000 67600 39 1521 3510 156.82 -6.82 46.52 Total 1110 1700 205500 322000 33000 8890 16800 -0.01 337.27 rata2 111 170 20550 32200 3300 889 1680 111.00 0.00 33.73

48 Interpretasi: Setiap kenaikan 1$ pendapatan (X) akan meningkatkan pengeluaran (Y) sebesar $0.5091
Model Estimasi

49 Koefisien determinasi
Interpretasi: 96.2% keragaman pengeluaran dapat dijelaskan oleh variabel pendapatan, sedangkan 3.8% sisanya oleh variabel lain diluar model

50 TUGAS Berdasarkan data yang telah dikumpulkan pada tugas sebelumnya, lakukan estimasi model regresi antara 1 variabel dependen (Y) dan 1 variabel independen (X). Hitung Intersep (β1) dan koefisien regresi (β2) Standar error β1 dan β2 Koefisien determinasi (R2)

51 Uji Hipotesis dan Interval Konfidensi
Dengan asumsi Classical Linier Regression Model (CLRM) penduga OLS menyebar secara normal:

52 Interval konfidensi [1]
Interval/selang di mana nilai β yang sebenarnya terletak, pada tingkat kepercayaan/konfidensi tertentu (1-α) Pembentukan interval konfidensi untuk nilai parameter regresi yaitu Nilai βj dispesifikasikan dalam Ho

53 Interval Konfidensi [2]
Contoh: berdasarkan estimasi model regresi sebelumnya diketahui Maka interval konfidensi Interpretasi: 95 dari 100 kali sampling akan menghasilkan interval konfidensi yang memuat nilai parameter β2 yang sebenarnya

54 Interval Konfidensi dan Uji Hipotesis
Jika Ho : β2 =0 vs H1: : β2 ≠ 0 Maka berdasarkan IK yang ada, diputuskan menolak Ho, karena nilai β2 =0 berada di luar interval.

55 Uji Signifikansi Parameter: Uji Parsial
Uji satu arah jika dipunyai wawasan ‘a priori’ Statistik uji: Tolak atau terima H0 berdasarkan p-value lalu dibandingkan nilai α tertentu atau nilai t tabel (tα,db), serta sifat pengujian (satu arah atau dua arah)

56 Aturan pengambilan keputusan uji hipotesis
Tipe hipotesis Ho H1 Tolak Ho jika Dua arah β2=β2* β2 ≠ β2* │t│> tα/2,db P-value < α Satu arah (kanan) β2 ≤= β2* β2 > β2* t > tα,db Satu arah (kiri) β2 ≥ β2* β2 < β2* t < -tα,db Nilai db untuk - Regresi linier sederhana=n-2 Regresi linier berganda=n-k-1

57 Misal, dengan contoh model regresi sebelumnya:
Ho : β2 = vs H1: : β2 ≠ 0.3 Interval konfidensi: Gagal tolak Ho P-value=P(tdb < -t ) + P(tdb > t ) -- dua arah

58 P-value=P(tdb < -t ) -- satu arah
Atau P-value=P(tdb > t ) -- satu arah Sehingga, pengambilan keputusan juga bisa ditentukan berdasar nilai p-value Ho ditolak jika p-value < α

59 Uji Signifikansi Parameter: Uji Serentak
Dalam hal ini, k=1 Tabel Analisis Varians (ANOVA) Sumber Variasi Sum square (SS) Derajat bebas (db) Mean Square (MS) F Regresi RSS k ESS/p MS of ESS / MS of RSS Error ESS n-k-1 RSS/(n-p-1) Total TSS n-1 Tolak H0 jika F > F tabel (F(k,(n-k-1));α) P-value < α

60 Pelaporan hasil analisis regresi
Berdasarkan data hipotetik pendapatan-pengeluaran sebelumnya: se = (6.4138) (0.0357) R2 = t = (3.8128) ( ) df = 8 p = ( ) ( ) F(1,8) = Nilai intersep populasi yang sebenarnya adalah tidak sama dengan nol (p= )  intersep berpengaruh signifikan Seandainya nilai MPC sebenarnya adalah nol, maka kesempatan untuk memperoleh MPC= adalah hampir tidak ada sama sekali. Sehingga nilai MPC yang sebenarnya adalah tidak sama dengan nol (p= )  pendapatan berpengaruh signifikan terhadap pengeluaran

61 Evaluasi Hasil analisis Regresi
Pertama, apakah tanda estimator sesuai dengan yang diharapkan oleh teori? Kedua, jika teori menyatakan bahwa hubungan bersifat signifikan, maka p-value haruslah sangat kecil Ketiga, seberapa baik model regresi menjelaskan variasi pengeluaran konsumsi? Gunakan nilai R2 di mana semakin tinggi berarti semakin baik.

62 Pengenalan Eviews: Input Data
Siapkan data excel (Table 3-2.xls)

63 Buka software Eviews 6.0. buat workfile baru, pilih FileNewWorkfile.
Lalu buat workfile yang bersifat Unstructured/undated. Dan pada kolom Observations diisi 10 (jumlah data).

64 Impor data dari Excel. Pilih File ImportRead Text-Lotus-Excel
Pilih data Excel yang sudah disiapkan yaitu Table 3-2.xls. Open.

65

66 Interpretasi Setiap peningkatan $1 pendapatan, akan meningkatkan pengeluaran sebesar $0.5091 R2 sebesar atau 96.21% menunjukkan bahwa 96.21% keragaman variabel pengeluaran dapat dijelaskan oleh besarnya pendapatan, sedangkan 3.79% sisanya dijelaskan variabel lain di luar model.

67 Uji Asumsi Normalitas Error/Residual
Histogram residual  bila bentuk histogram menyerupai lonceng (distribusi normal), maka asumsi normalitas terpenuhi Normal probability plot  bila nilai-nilai residual berada di sekitar garis lurus (garis normal), asumsi terpenuhi Uji Jarque-Bera  bila p-value tidak signifikan, maka asumsi terpenuhi n = jumlah pengamatan S = koefisien skewness K = kurtosis coefficient.

68 Uji Normalitas : EViews

69 Uji Normalitas: Contoh Data Hipotetik Pendapatan-Pengeluaran
Karena p-value Jarque-Bera lebih besar dari α=0.05 (tidak signifikan), maka diputuskan bahwa asumsi normalitas terpenuhi

70 QQ-Plot

71 Contoh 2: Pengeluaran Makanan di India (Table 2-8)

72 P-value untuk intersep dan totalexp (pengeluaran total) bernilai sangat kecil (kurang dari α=0.05), sehingga disimpulkan bahwa keduanya berpengaruh signifikan terhadap foodexp (pengeluaran pangan)

73 Model estimasi CM Interpretasi
Setiap peningkatan 1 rupee pengeluaran total, akan meningkatkan pengeluaran pangan sebesar rupee. R2 sebesar atau 36.98% menunjukkan bahwa 36.98% keragaman variabel pengeluaran pangan di India dapat dijelaskan oleh besarnya pengeluaran total, sedangkan 63.02% sisanya dijelaskan variabel lain di luar model.

74 Apakah asumsi normalitas terpenuhi?
Karena p-value Jarque-Bera lebih besar dari α=0.05 (tidak signifikan), maka diputuskan bahwa asumsi normalitas terpenuhi

75 TUGAS KELOMPOK Untuk setiap kelompok, ambil satu sampel yang diambil pada tugas tentang SRF Dapatkan model estimasinya Interpretasikan model tersebut Lalu, hitung koefisien determinasi (R2). Interpretasikan. Lakukan pengujian hipotesis (uji parsial/uji t) dan bentuk interval konfidensinya..  BACA