Estimasi Model Regresi Data Panel: PLS Vs FEM

5 Ways of Estimating a Panel Model See Gujarati 4th edition Assume that intercepts and slopes are the same over time and individuals. Assume that slopes are constant but that intercepts vary over individuals. Assume that slopes are constant but that intercepts vary over time and individuals. Assume that all coefficients vary over individuals. Assume that all coefficients vary over individuals and time.

Estimasi Model Regresi Data Panel Common Effect Model Dengan hanya menggabungkan data time series dan cross section tanpa melihat perbedaan antar waktu dan individu Perilaku data antar individu sama dalam kurun waktu ttn mengestimasi model dengan mempergunakan metode OLS (ordinary least squares) Fixed Effects Model (FEM) memperhitungkan kemungkinan bahwa kita menghadapi masalah omitted variables yang mungkin membawa perubahan pada intercept time-series atau cross-section. slope coefficents constant but intercept varies across individuals Ada korelasi antara komponen error dengan var independen Random Effects Model (REM) memperbaiki efisiensi proses least squares dengan memperhitungkan error dari cross-section dan time-series Tidak ada korelasi antara komponen error dengan var independen

Common Effect Model (Pooled Least Square)

Model Pooled OLS mengasumsikan bahwa slope koefisien dari semua variabel adalah identik untuk semua individu. Tidak ada perbedaan antar individu/perusahaan (satu individu/perusahaan sama dengan yang lainnya) Tentu hal ini (all coefficients constant across time and individuals), merupakan asumsi yang sangat ketat. Sehingga, walaupun metode PLS menawarkan kemudahan, model mungkin mendistorsi gambaran yang sebenarnya dari hubungan antara Y dan X antar individu

The Basic Data Structure Wave 1 Individual 1 Wave T Wave 1 Individual 2 Wave T Wave 1 Individual N Wave T

Model Pooled OLS Explanatory variables

Develop an error components model Explanatory variables Normally distributed error - Constant across individuals Composite error term

Treatment of individual effects Restrict to one-way model. Then two options for treatment of individual effects: Fixed effects – assume li are constants Random effects – assume li are drawn independently from some probability distribution

Bias from ignoring fixed effects

Apakah realistis, perusahaan yang bergerak di industri makanan mempunyai intersep yang sama dengan perusahaan yang bergerak di sektor jasa? Apakah realistis, kita menggunakan intersep yang sama untuk perusahaan kecil, sedang, menengah?

Kelemahan PLS Tidak dibedakannya antara berbagai individu/perusahaan (respon dari variabel penjelas ke variabel dependent sama untuk setiap individu setiap waktu)  menutupi heterogenitas (keunikan) antar individu (tdk dpt melihat perbedaan antar individu atau antar waktu) Heterogenitas dr masing2 individu masuk dalam error  konsekuensinya: kemungkinan besar error term berkorelasi dengan bbrp var independen  koefisien estimasi bias dan tidak konsisten (asumsi model regresi klasik: tidak terjadi korelasi antara var independen dg error term) Dugaan parameter β akan bias (slope PLS tidak sejajar dengan garis regresi masing-masing individu) karena PLS tidak dapat membedakan observasi yang beda pada periode yang sama atau observasi yang sama pada periode yang berbeda

unobserved heterogenity (λi) Berbeda-beda antar individu, tapi mungkin akan tidak berubah untuk masing2 individu sepanjang periode waktu (time invariant/time constant) Maynot be exactly constant but they might be roughly constant over a five-year period (tipically slow to change) Jika faktor ini memang berpengaruh terhadap variabel dependen dan independen, maka bila tidak diakomodir akan menyebabkan estimator bias Contoh: Sifat dari kepemilikan perusahaan (swasta atau negeri) Perusahaan dimiliki oleh kaum minoritas Direktur utama laki-laki atau perempuan Geographical features (city’s location) Demographic features of population (age, race, education, religion) Budaya perusahaan, gaya manajerial, sistem insentif, filosofi manajerial, tipe pasar yang dilayani, antusias, keberanian mengambil risiko, kualitas manajemen perusahaan

FIXED EFFECTS MODEL (FEM)

WHY FEM? Asumsi sebelumnya bahwa intersep maupun slope adalah sama baik antar waktu maupun antar perusahaan  sangat jauh dari realita sebenarnya Karakteristik individu (i) jelas akan berbeda misal: budaya perusahaan, gaya manajerial, sistem insentif, dll. The intercept in the regression is allowed to differ among individuals in recognition of the fact that each individual (unit) may have characteristics of their own”. Dikenal juga dengan teknik Least Squares Dummy Variables (LSDV) Dimasukkannya var dummy bertujuan untuk - mewakili ketidaktahuan kita tentang model yang sebenarnya atau mewakili keterbatasan pengetahuan kita akan model yang sesungguhnya - cara memasukkan variabel penjelas yang tidak berubah sepanjang waktu (time-invariant) tapi memp nilai yang sama setiap unit cross section

Why use Fixed Effects Fixed Effects are generally used when there is a correlation between the individual intercept and the independent variables. Generally used when n is relatively small and t is relatively large.

The Fixed Effects Model Treat λi as a constant for each individual Adanya perbedaan intersep antar individu namun sama intersepnya antar waktu (time invariant) λi menggambarkan semua variabel yang tidak diobservasi (time constant factor) yang mempengaruhi yit FEM mengasumsikan bahwa koefisien regresi (slope) tidak bervariasi/tetap baik antar waktu maupun antar individu Unobserved effect (li) now part of constant – but varies by individual Or li = fixed effect  helps us to remember that it is fixed over time

Graphically this looks like:

And the slope that will be estimated is BB rather than AA Note that the slope of BB is the same for each individual Only the constant varies

Possible Combinations of Slopes and Intercepts Separate regression for each individual The fixed effects model Varying slopes Varying intercepts Constant slopes Varying intercepts Unlikely to occur The assumptions required for this model are unlikely to hold Varying slopes Constant intercept Constant slopes Constant intercept

Hasil Jika koefisien intersep dari tiap-tiap individu signifikan secara statistik  keenam individu/perush heterogen Ragu pada hasil Pooled LS

Pendekatan FEM Pendekatan Least Square Dummy Variable (LSDV): 1. One way error componen FEM 2. Two way error componen FEM: fixed effect tidak hanya berasal dari variasi antar individu tapi juga variasi antar waktu penambahan dummy  berkurangnya df  mengurangi efisiensi dari parameter yang diestimasi Eliminating unobserved heterogeneity: (Advanced) 3. First differences  when there are two time periods 4. Pendekatan Within Group (WG) (Deviations from Individual Means)  when there are more than two time periods

FEM: LSDV Metode FEM memungkinkan adanya perubahan intersep untuk setiap i (dummy individu)

Kelemahan FEM LSDV Terlalu banyak variabel dummy akan bermasalah pada degree of freedom, Terlalu banyak variabel dummy akan selalu muncul kemungkinan terjadinya multikolinearitas Jika jumlah unit observasi besar maka terlihat cumbersome (tidak praktis) Hati2 pada error term

PLS Vs FEM: F-Test (Chow Test) Perhitungan F statistik didapat dari Uji Chow dengan rumus :(Baltagi, p.13) H0 : λi = 0 (tidak terdapat perbedaan antar individu/intersep dan slope sama) H1 : satu dari λi ada yang tidak sama (intersep berbeda antar individu) RRSS = Restricted Residual Sum Square (Sum of Square Residual yang diperoleh dari estimasi data panel dengan metode pooled least square/common effect) URSS = Unrestricted Residual Sum Square (Sum of Square Residual yang diperoleh dari estimasi data panel dengan metode fixed effect) N= Jumlah data cross section T= Jumlah data time series K=Jumlah variabel penjelas Jika F-stat > F-tabel  cukup bukti utk menolak H0 artinya dugaan intersep sama utk semua individu dpt ditolak. H0 diterima  model Pooled LS dipilih Jika Ho ditolak, maka model Fixed efek  Lanjutkan Hausman Test

Terima Kasih

Constructing the fixed-effects model Eliminating unobserved heterogeneity by taking first differences Applying least squares gives the first-difference estimator – it works when there are two time periods. (estimator sama dengan fixed effect) When T=2, FD estimation is just a cross sectional regression) Original equation Lag one period and subtract Constant and individual effects eliminated Transformed equation

When uit are serially uncorrelated, FE is more efficient than FD estimator In many applications, we can xpect the unobserved factors that change over time to be serially correlated. If uit follows a random walk –there is very substantial positive serial correlation- then difference ∆uit is serially uncorrelated  FD est is better In many cases, the uit exhibit some positive serial correlation, but perhaps not as much as a random walk. Then we cannot easily compare the efficiency of FE and FD estimator In using FD, the goal is to eliminate λi because it is though to be correlated with one or more of Xit

FEM: Within Group An Alternative to First-Differences: Deviations from Individual Means More general way of “sweeping out” fixed effects when there are more than two time periods - take deviations from individual means. Let x1i. be the mean for variable x1 for individual i, averaged across all time periods. Calculate means for each variable (including y) and then subtract the means gives: The constant and individual effects are also eliminated by this transformation

Estimating the Fixed Effects Model Take deviations from individual means and apply least squares – fixed effects, LSDV or “within” estimator It is called the “within” estimator because it relies on variations within individuals rather than between individuals. Not surprisingly, there is another estimator that uses only information on individual means. This is known as the “between” estimator. The Random Effects model is a combination of the Fixed Effects (“within”) estimator and the “between” estimator.

Unobserved λi has disappeared Fixed effect estimator: within estimator OLS on uses the time variation in y and x within each cross sectional observation

Three ways to estimate b overall within between The overall estimator is a weighted average of the “within” and “between” estimators. It will only be efficient if these weights are correct. The random effects estimator uses the correct weights.

The Within-Groups Estimator

Hasil estimator Fixed Effect Within Group dibanding Pooled LS FEM dengan pendekatan WG tidak memiliki intersep Menghasilkan estimasi yang konsisten dari koefisien slope Tapi tidak efisien (variansnya besar)

Kelemahan estimator Fixed Effect Within Group Jika kita menggunakan estimator WG (maupun first different), variabel time-invariant akan hilang (karena proses mengambil selisih)  kita tidak akan tahu bagaimana variabel dependen akan bereaksi terhadap variabel time-invariant (karena menghindari korelasi antara error term dan variabel penjelas) Mendistorsi nilai parameter Dapat menghilangkan efek jangka panjang Nilai varian lebih besar dari PLS  dugaan WG relatif lebih tidak efisien