Regresi Linier Metode Numerik Oleh: Ir. Kutut Suryopratomo, MT., MSc. Teknik Fisika, Fakultas Teknik, Universitas Gadjah Mada, Yogyakarta, Indonesia

Pengertian Regresi Regresi: perumusan/pemodelan asosiasi antara satu variabel dependen dan satu/lebih variabel independen, dalam bentuk persamaan yang memungkinkan penaksiran nilai variabel dependen. Dalam Regresi Linier, model yang dipilih dalam perumusan asosiasi adalah persamaan linier. y = f(x) = ax + b Dalam Regresi Nonlinier, model yang dipilih dalam perumusan asosiasi adalah persamaan nonlinier. y = f(polinom, eksponensial, pangkat, dll.)

Regresi vs. pola sebaran data Jika diketahui n pasangan data: (x1,y1), (x2,y2), (x3,y3),… , (xn,yn) dengan x variabel independen dan y variabel dependen. Pada data akan dipaskan suatu fungsi y = f(x) yang paling bisa mengikuti pola perubahan y vs. x. Jika pola sebaran data memperlihatkan kecenderungan linier, maka diambil regresi linier. Jika pola sebaran data memperlihatkan kecenderungan nonlinier, maka diambil regresi nonlinier.

Pola Sebaran Data Cenderung Linier

Pola Sebaran Data Cenderung Nonlinier

Pola Sebaran Data Cenderung Nonlinier

Regresi Linier Dalam regresi linier, fungsi f(x) = a0 + a1.x dipaskan pada n pasangan data: (x1,y1), (x2,y2), (x3,y3),… , (xn,yn) dengan mengatur nilai koefisien a0 dan a1. Pas (cocok) atau tidaknya fungsi regresi dengan data bisa dilihat dari seberapa jauh nilai data bisa didekati oleh nilai taksiran regresi. Oleh karena itu didefinisikanlah error sebagai selisih antara nilai data dan nilai taksiran fungsi regresi: Error, i = yi – f(xi) = yi – (a0 + a1.xi) dengan i=1..n

Error dalam Regresi Linier Error, i = yi – f(xi) = yi - (a0 + a1.xi)

Kriteria Error sbg Syarat Pengepasan Dengan demikian, suatu fungsi regresi bisa dipandang paling pas jika errornya minimum. Kriteria error yang paling mudah bisa dipakai untuk menentukan koefisien persamaan regresi adalah: Jumlah error, i Jumlah kuadrat error, (i)2

Kriteria Jumlah Error, i Kriteria ini sayangnya memberikan persamaan regresi yang tidak unik (tunggal) untuk suatu himpunan data. Artinya, sejumlah garis regresi beda bisa memiliki i sama-sama nol. Simak grafik & tabel berikut.

Kriteria Jumlah Error, i

Jumlah Error, i f(xi) = Rerata (yi) = 3,5 x y f(x) eps 1 2 3,5 -1,5 4 0,5 3 -0,5 5 1,5 å f(xi) = 1 + xi x y f(x) eps 1 2 4 3 -1 5 å f(xi) = 2,25 + 0,5xi x y f(x) eps 2 4 2,75 -0,75 3 3,25 0,75 5 3,75 4,25 å

Kriteria Jumlah Kuadrat Error, (i)2 Jumlah error, i, mudah dipahami bisa menjadi nol karena nilai i bisa positif & negatif. Supaya selalu positif, maka dipakai kriteria alternatif berupa jumlah kuadrat error, (i)2. Dari sini, persoalannya tinggal bagaimana meminimalkan (i)2. Metode untuk itu disebut Least-Square (kuadrat terkecil).

Jumlah Kuadrat Error, (i)2 f(xi) = Rerata (yi) = 3,5 x y f(x) eps eps^2 1 2 3,5 -1,5 2,25 4 0,5 0,25 3 -0,5 5 1,5 å f(xi) = 1 + xi x y f(x) eps eps^2 1 2 4 3 -1 5 å f(xi) = 2,25 + 0,5xi x y f(x) eps eps^2 2 4 2,75 -0,75 0,5625 3 3,25 0,75 5 3,75 4,25 å 2,25

Persamaan Regresi Paling Pas memiliki Jumlah Kuadrat Error Terkecil f(xi) = 1,5 + 0,8xi x y f(x) eps eps^2 1 2 2,3 -0,3 0,09 4 3,1 0,9 0,81 3 3,9 -0,9 5 4,7 0,3 å -4,4E-16 1,8

Meminimalkan Jumlah Kuadrat Error Metode “Least Square” Simak lagi pengertian error. Jumlah kuadrat error adalah: Nilai S bergantung pada nilai a0 dan a1. S bisa diminimalkan dengan menentukan nilai nol dari turunan S terhadap a0 dan a1.

Meminimalkan Jumlah Kuadrat Error Metode “Least Square” Turunan S terhadap a0 Turunan S terhadap a1 Hasilnya:

Meminimalkan Jumlah Kuadrat Error Metode “Least Square” Dalam bentuk matriks: Penyelesaiannya adalah:

Meminimalkan Jumlah Kuadrat Error Metode “Least Square” Koefisien a0 Koefisien a1

Contoh: Di sini akan diperlihatkan bagaimana membuat persamaan regresi terhadap data di samping. Sarana: Microsoft Excel x y 1 2 4 3 5

Lembar Kerja Excel =(B8*C8-D8*A8)/(E8*C8-A8^2) 1 x y xx yx 2 =A2^2 =B2*A2 3 4 5 6 7 x y xx yx n 8 =SUM(A2:A5) =COUNT(A2:A5) 9 10 a0 =(B8*C8-D8*A8)/(E8*C8-A8^2) 11 a1 =(E8*D8-A8*B8)/(E8*C8-A8^2) copy copy copy

Contoh: x y xx yx 1 2 4 8 3 9 5 16 20 åx åy åxx åyx n 10 14 30 39 a0 1,5 a1 0,8