TEKNIK KOMPUTASI Pertemuan 10: METODE JUMLAH GALAT KUADRAT TERKECIL UNTUK PENYELESAIAN PERSAMAAN LINEAR DENGAN MATRIX POTRET (least square regression analysis)

Materi Penyelesaian persamaan linear Ax =b dengan A adalah matrix potret: Mencari bentuk normal atas persamaan linear matrikx potret Penerapan Metode Jumlah Galat Kuadrat Terkecil dalam penyelesaian persamaan linear matriks potret Implementasi

8.1 Pendiferensialan (1) Operasi pendiferensialan vektor, matrix, atau ungkapan lain yang mengandung besaran-besaran vektor dan matrix harus mengikuti aturan operasi pendiferensialan dan aturan yang berlaku atas vektor dan matrix. Bila diberikan matrix A dan B, operasi pendiferensialan ke variabel bebas t atas matrix A menghasilkan matrix C, yang elemen-elemennya diberi nilai hasil pendiferensialan ke t atas elemen-elemen yang sesuai dari matrix A.

8.1 Pendiferensialan (2) Oleh karena itu : Dalam hal ini , jika A adalah matrix dengan elemen-elemen konstan, tak tergantung pada t, maka :

8.1 Pendiferensialan (3) Selanjutnya jika A = xT dan B = yT didapatkan : Jika diberikan juga matrix bujur sangkar W dengan elemen-elemen konstan, maka relasi-relasi di bawah ini harus diterima sebagai hal yang benar juga : Sekarang, jika W bersifat simetris, maka dari :

8.1 Pendiferensialan (4) Akan membuat : Selanjutnya, misalkan , jika pendeferensialan dilakukan bukan ke t tapi ke xk, maka :

8.1 Pendiferensialan (5) Jika W simetris, maka ada matrix bujur sangkar T dan matrix diagonal Λ sedemikian rupa sehingga : Jika : maka : dan jika : maka : Disini λj adalah elemen diagonal ke-j dari matriks D, yang dapat bernilai negatif, positif atau nol. Jika W adalah sedemikian sehingga > 0 untuk semua x, maka W disebut matrix definit positif. Jika < 0 untuk semua x, maka W disebut matrix definit negatif.

8.2 Menyelesaikan A x = b dengan A matrix potret (1) Pemecahan atas persamaan Ax = b, dengan A adalah matrix potret, dilakukan dengan mendefinisikan vektor galat r = Ax - b, dengan normal dari r adalah : Harga ini dinamakan Jumlah Galat Kuadrat (JGK), yang selalu merupakan suatu nilai real yang tak negatif. Operasi matrix atas JGK menghasilkan persamaan matrix seperti dibawah ini :

8.2 Menyelesaikan A x = b dengan A matrix potret (2) Dari persamaan diatas nampak ketergantungan nilai JGK terhadap x, artinya JGK merupakan fungsi dari n buah variabel x1, x2, x3, …, xn. JGK tersebut akan mempunyai nilai minimal jika pendiferensialannya terhadap xk sama dengan nol. Artinya : Persamaan ini berlaku untuk semua harga i = k. Atas dasar itu JGK akan minimal jika x dipilih agar memenuhi :

8.2 Menyelesaikan A x = b dengan A matrix potret (3) Persamaan diatas disebut persamaan normal untuk Ax = b dan memiliki solusi unik (satu dan hanya satu solusi saja) : Sekarang dapat disimpulkan sebagai berikut, jika A matrix potret ukuran n x m, dengan n ≥ m, maka persamaan Ax = b memiliki solusi yang diperoleh sebagai penyelesaian atas persamaan normalnya. Solusi ini sungguh unik tidak dalam arti (yaitu memenuhi persamaan tersebut), namun dalam arti memiliki JGK terkecil. Untuk menunjukkan bahwa sungguh memberikan JGK terkecil, amatilah bahwa memenuhi .

8.2 Menyelesaikan A x = b dengan A matrix potret (4) Untuk sembarang nilai x : jika didefinisikan : maka : Dalam pada itu, , jadi :

8.2 Menyelesaikan A x = b dengan A matrix potret (5) Persamaan normal dapat juga direpresentasikan dalam rumusan seperti dibawah ini : Rumusan ini memungkinkan untuk persamaan normal diselesaikan dengan teknik pemugaran iterative (iterative refinement technique) yang berlaku bagi Ax = b dengan A merupakan matrix bujur sangkar.

Tabel 1. Data hasil suatu pengamatan 8.3 Ilustrasi (1) Di bawah ini disajikan tabel hasil kegiatan pengumpulan data yang mencakup besaran x dan y : Tabel 1. Data hasil suatu pengamatan x 0.1 0.2 0.3 0.5 0.7 1.0 1.4 2.0 y 0.197 0.381 0.540 0.785 0.951 1.11 1.23 1.33

8.3 Ilustrasi (2) Bentuk grafik pasangan data diatas disajikan dalam gambar di bawah ini : y Gambar 1. Grafik dari data hasil suatu pengamatan. x

8.3 Ilustrasi (3) Sekarang ingin dicari sebuah model matematis y = f(x) yang mewakili ke delapan pasang data tersebut sebaik-baiknya. Istilah ‘sebaik-baiknya’ disini masih harus diberi penegasan lebih lanjut. Model yang digunakan adalah fungsi linear sebagai berikut : (linear least square regression) Jika model tersebut dianggap sudah mewakili himpunan data tersebut, maka untuk tiap pasang data (xj, yj) haruslah berlaku persamaan dengan j = 1, 2, 3,…, 8.

8.3 Ilustrasi (4) b = Ax ATb = ATAx (persamaan normal) Jika seluruh pasangan data tersebut ditampilkan, dalam bentuk notasi matrix maka : Tetapi dalam praktiknya, persamaan diatas tidak dapat dijamin tepat untuk semua pasangan. b = Ax ATb = ATAx (persamaan normal)

8.3 Ilustrasi (5) Untuk lebih tepatnya, untuk tiap pasang data (xj, yj) berlaku persamaan : dengan ρj merupakan penyimpangan atau galat dari model yang dipilih terhadap pasangan data ke j, ρj ada yang bernilai sama dengan nol, positif, ataupun negatif. Didefinisikan vektor galat r = [ρ1 ρ2 ρ3 ... ρ8]T.

8.3 Ilustrasi (6) Jika konsep tersebut diterapkan, maka persamaan matrixnya menjadi :

8.3 Ilustrasi (7) Persamaan normal diperoleh dengan rumus AT b = AT Ax, maka kedua ruas pada persamaan matrix diatas dikalikan dengan AT di sebelah kirinya sehingga :

8.3 Ilustrasi (8) Sehingga persamaan normalnya adalah : Penyelesaian atas persamaan normal diatas akan memberikan solusi unik :

8.3 Ilustrasi (9) Model matematika awal menjadi y=0.3681 + 0.5773x. Jika model tersebut dianggap persamaan garis dan kemudian disajikan grafiknya, maka hasilnya adalah sebagai berikut : y Gambar 2. Pendekatan grafis untuk model x

8.3 Ilustrasi (10) Model ini mempunyai JGK berikut :

8.3 Ilustrasi (11) Maka : Jadi JGK = 0.1874

8.3 Ilustrasi (12) Dilihat dari besarnya nilai JGK tersebut, kita dapat mengatakan bahwa model yang kita gunakan masih belum dapat mewakili data dalam himpunan. Kita mencoba mencari bentuk fungsi pendekatan yang lain. Untuk itu kita memilih model baru :

8.3 Ilustrasi (13) Mengikuti argumentasi yang sama dengan sebelumnya, dapat ditunjukkan bahwa persamaan b = Ax + r dalam notasi matrix mempunyai bentuk sebagai berikut :

8.3 Ilustrasi (14) Diperoleh : Penyelesaian atas persamaan diatas menghasilkan :

8.3 Ilustrasi (15) Dilihat dari JGK diatas, mengisyaratkan bahwa model kedua ini lebih baik dari mdel yang pertama. Secara lengkap, model kedua menjadi :

8.3 Ilustrasi (16) Secara grafis model kedua ini dapat ditunjukkan dalam gambar berikut : y Gambar3. Pendekatan grafis untuk model x

8.3 Ilustrasi (17) Dari gambar diatas dapat kita lihat bahwa model kedua mendekati data lebih baik dari model pertama. Secara numeris dapat dilihat pula bahwa JGK model kedua lebih kecil daripada JGK model yang pertama. Maka dapat disimpulkan bahwa model kedua lebih baik bila dibandingkan dengan model yang pertama.

Dengan analisis regresi, sebuah fungsi yang merelasikan antara sekumpulan variabel independent dan tanggapannya(variabel dependent) dapat diperoleh. Analisis regresi memberikan 3 manfaat: 1. prediction 2. model specification and 3. parameter estimation.