REGRESI NON LINIER Gangga Anuraga, M.Si

ANALISIS REGRESI REGRESI LINEAR REGRESI NONLINEAR SEDERHANA REGRESI LINEAR BERGANDA REGRESI KUADRATIK REGRESI KUBIK Membentuk garis lurus Membentuk Garis Lengkung

Regresi non linier adalah suatu metode untuk mendapatkan model non linier yang menyatakan hubungan variabel dependen dan variabel independen Regresi nonlinier dapat mengestimasi model hubungan variabel dependen dan independen dalam bentuk non linier dengan keakuratan yang lebih baik daripada regresi linier, karena dalam mengestimasi model dipakai iterasi algoritma

Secara umum model regresi non linear dapat dinyatakan dalam persamaan :

Langkah Analisis 1. Melakukan penaksiran garis regresi untuk memprediksi pola hubungan antara variabel respon (y) dan variabel prediktor (x). Hal ini dapat dilakukan dengan melihat scatter plot antara y dan x. Model linear memiliki kurva yang membentuk garis lurus, sedangkan untuk model non linear memiliki kurva yang membentuk garis lengkung. Bentuk persamaan matematis model regresi non linear ada beberapa jenis, diantaranya : Polinomial, contoh : (kuadratik) (kubik) Exponensial, contoh : 2. Melakukan transformasi dari bentuk non linier ke bentuk linier untuk mendapatkan linieritas dari hubungan non linier

Continued… Beberapa bentuk model nonlinier yang dapat dan tidak dapat ditransformasikan ke model linier adalah sebagai berikut :

Continued… Selanjutnya setelah diperoleh persamaan linier dari hasil transformasi maka langkah analisisnya sama dengan regresi linier. Namun Jika suatu model tidak dapat dilinearkan, maka nilai β dapat diduga dengan dengan cara meminimumkan jumlah kuadrat residual. Jumlah kuadrat ini dapat diminimukan jika turunan pertama terhadap β sama dengan nol atau

Continued… Hasil turunan pertama terhadap β sama dengan nol membentuk suatu sistem persamaan non-linear yang tidak dapat diselesaikan secara langsung tetapi dapat didekati secara iteratif dengan menggunakan metode numerik, salah satu metode numerik yang dapat menyelesaikan hal ini adalah metode Gauss-Newton. Metode Gauss-Newton ini bekerja dengan menggunakan pendekatan deret Taylor dari fungsi sampai suku kedua.

dimana Continued… Nilai dugaan β pada iterasi ke i+1 adalah : Iterasi dihentikan jika nilai : atau

Continued… Levenberg-Marquardt menyempurnakan metode Gauss-Newton dengan memasukkan konstanta β (nilai awal βi+1 yang besarnya berubah-ubah mengikuti perubahan SSE. Nilai β akan diperkecil sepersepuluh kali dan iterasi diteruskan jika SSE turun serta nilai β akan meningkat sepuluh kali dan kembali ke iterasi awal jika SSE meningkat. Formula Levenberg-Marquardt adalah : Analisis ini bisa dilakukan dengan bantuan macro Minitab atau SPSS

Prosedur linearisasi ini memiliki kelemahan untuk masalah-masalah tertentu, yaitu: Proses kekonvergenannya mungkin berjalan sangat lambat, dengan kata lain dibutuhkan langkah iterasi yang sangat banyak sebelum solusinya stabil. Perilaku ini tidak sering, namun dapat terjadi. Adakalanya solusinya berosilasi, terus berganti-ganti arah, dan sering menaik turunkan jumlah kuadrat tersebut, walaupun pada akhirnya solusi mencapai kestabilan. Proses iterasi tidak konvergen sama sekali atau bahkan divergen sehingga jumlah kuadrat galat ini naik terus tanpa batas.

Contoh 1 Suatu penelitian mengetahui bahwa nikotin menyebabkan gangguan kesehatan berupa karbon monoksida yang merupakan racun bagi manusia. Kandungan nikotin dalam rokok digunakan untuk mengukur karbon monoksida. Oleh karena itu, nikotin bertindak sebagai variabel prediktor (x) dan karbon monoksida sebagai variabel respons (y). Berikut adalah data mengenai jumlah nikotin dalam rokok dan karbon monoksida yang dihasilkan rokok pada 25 merek rokok.

Data Y = karbon monoksida X = kadar nikotin

Membuat plot antara variabel dependen dan variabel independen Penyelesaian

Model Kuadratik

Model Kubik

Continued… Dari fitted line plot di atas dapat diketahui nilai-nilai sebagai berikut : Dari hasil fitted line plot diatas dapat diketahui bahwa model terbaik adalah model kuadratik dengan nilai S yang paling kecil dan nilai R-Sq (adj) yang besar. Statistik linier Kuadratik Kubik S 1.82845 1.58336 1.61137 R-Sq 85.7% 89.8% 89.9% R-Sq(adj) 85.1% 88.8% 88.4%

Untuk tahapan pada ANOVA adalah sebagai berikut : Continued… Untuk tahapan pada ANOVA adalah sebagai berikut : mendapatkan nilai kuadrat dari variabel nikotin. meregresikan variabel karbon monoksida dengan variabel nikotin dan nikotin^2 Hasil dari output minitab adalah sebagai berikut :

Continued… Regression Analysis: karbon monoksida versus nikotin (mg), nikotin^2   The regression equation is karbon monoksida (mg) = - 1.78 + 20.1 nikotin (mg) - 3.73 nikotin^2 Predictor Coef SE Coef T P Constant -1.784 1.453 -1.23 0.233 nikotin (mg) 20.111 2.775 7.25 0.000 nikotin^2 -3.730 1.267 -2.94 0.007 S = 1.58336 R-Sq = 89.8% R-Sq(adj) = 88.8% Analysis of Variance Source DF SS MS F P Regression 2 484.00 242.00 96.53 0.000 Residual Error 22 55.15 2.51 Total 24 539.15 Source DF Seq SS nikotin (mg) 1 462.26 nikotin^2 1 21.74 Unusual Observations karbon nikotin monoksida Obs (mg) (mg) Fit SE Fit Residual St Resid 3 2.03 23.500 23.670 1.536 -0.170 -0.44 X 16 0.13 1.500 0.768 1.136 0.732 0.66 X 19 0.96 17.500 14.086 0.371 3.414 2.22R R denotes an observation with a large standardized residual. X denotes an observation whose X value gives it large influence.

Continued… Pada fitted line plot dan hasil regresi dengan menggunakan variabel yang dikuadratkan, hasil R-Sq, S, dan R-Sq (adj) adalah sama. Sehingga dapat disimpulkan bahwa regresi kuadratik lebih baik daripada regresi linier biasa dengan satu variabel biasa tanpa di kuadratkan. Dari hasil uji serentak, dapat diketahui bahwa persamaan regresinya diterima dengan melihat nilai p value = 0.

TERIMA KASIH