Matriks dan Regresi TOTOK MUJIONO

Matriks dan Vektor Matriks adalah array persegi yang tersusun atas bilangan dan biasanya diberikan dalam huruf besar dan tebal. Matriks dengan m baris dan n kolom adalah matriks berdimensi m x n. Elemen matriks dinyatakan Ai,j atau A[i,j]. Contoh: matris B dengan dimensi 2 x 3. Vektor kolom adalah matriks dengan 1 kolom yakni m x 1. Vektor baris adalah matriks dengan 1 baris, yakni 1 x n. Vektor dinyatakan dalam huruf kecil tebal. Contoh vektor baris dan kolom masing-masing adalah c dan d. 𝐀= 𝑎 11 ⋯ 𝑎 1𝑛 ⋮ ⋱ ⋮ 𝑎 𝑚1 ⋯ 𝑎 𝑚𝑛 𝐁= 1 7 3 4 6 5 𝐝= 𝑑 1 … 𝑑 𝑚 𝐜= 𝑐 1 𝑐 2 ⋯ 𝑐 𝑛−1 𝑐 𝑛

Operasi Matriks dan vektor Penjumlahan dan perkalian skalar. Penjumlahan dan perkalian hadamard (*). Perkalian Matriks. Jika A adalah matriks m x p dan B matriks p x n, dapat dihitung C=AB dimana C adalah matriks m x n. Transpose dari matriks m x n adalah n x m matriks, 𝐁= 1 7 3 4 6 5 3+𝐁= 4 10 6 7 9 8 𝟐𝐁= 2 14 6 8 12 10 𝐀= 5 0 1 7 6 4 𝐁= 1 7 3 4 6 5 𝐀+𝐁= 6 7 4 11 12 9 𝐀∗𝐁= 5 0 3 28 36 20 𝑪= 𝒌=𝟏 𝒑 𝑨 𝒊,𝒌 𝑩 𝒌,𝒋 𝐂= 3 0 1 1 2 3 3 2 1 𝐁𝐂= 19 20 25 33 22 27 𝐁= 1 7 3 4 6 5 𝐁 𝑻 = 1 4 7 6 3 5 𝐁= 1 7 3 4 6 5 𝐀 𝒊,𝒋 𝑻 = 𝐀 𝑗,𝑖

Operasi Matriks dan Vektor Matriks Identitas In adalah matriks yang memiliki nilai 1 pada diagonalnya, lainnya 0. 𝐼 3 = 1 0 0 0 1 0 0 0 1 Jika A adalah matriks n x n, matriks inversinya A-1 adalah matriks n x n sehingga AA-1 = A-1A = In. 𝐃= 3 0 1 1 2 3 2 3 1 𝐷 −1 = 0.3182 −0.1364 0.0909 −0.2273 −0.0455 0.3636 0.0455 0.4091 −0.2727 𝐃 𝑫 −𝟏 = 1 0 0 0 1 0 0 0 1

Operasi Matriks dan Vektor Rank dari sebuah matriks A, Rank(A), adalah jumlah baris/kolom pada sebuah matriks yang independen secara linear. Rank (A) = 2 Baris ke 3 adalah penjumlahan dari baris pertama dan kedua, sehingga tidak independen

Determinan Matriks n = 1 D = det(A) = a1,1 Matriks n = 2 atau lebih D = a1,kC1,k + a2,kC2,k + ... + an,kCn,k (k=1, 2, ..., atau n) atau D = aj,1Cj,1 + aj,2Cj,2 + ... + aj,nCj,n (j=1, 2, ..., atau n) dengan kofaktor Cj,k Cj,k = (-1)j+kMj,k dimana Mjk adalah matriks n-1 tanpa baris j dan kolom k, disebut minor dari aj,k.

Contoh determinan matriks 3x3 b1,1 = 3 b1,2 = 0 b1,3 = 1 𝐁= 3 0 1 1 2 3 2 3 1 𝐌 1,1 = 2 3 3 1 𝐌 1,2 = 1 3 2 1 𝐌 1,3 = 1 2 2 3 C1,1 = (-1)2M1,1 C1,2 = (-1)3M1,2 C1,3 = (-1)4M1,3 𝐃=3 2 3 3 1 −0 1 3 2 1 +1 1 2 2 3 = 3(2-9) - 0(1-6) + 1(3-4) = -22 Catatan: Matriks dengan determinan = 0 tidak memiliki inversi. Matriks n x n memiliki rank = n jika dan hanya jika memiliki determinan tidak sama dengan 0.

Matriks Adjoint Adjoint dari matriks A ditulis adj(A) adalah transpose dari matriks kofaktor dari A. 𝐀= 3 0 1 1 2 3 2 3 1 𝐂 1,1 = −1 2 2 3 3 1 = -7 𝐂 1,2 = −1 3 1 3 2 1 = 5 𝐂 1,3 = −1 4 1 2 2 3 = -1 𝐂 2,1 = −1 3 0 1 3 1 = 3 𝐂 2,2 = −1 4 3 1 2 1 = 1 𝐂 2,3 = −1 5 3 0 2 3 = -9 𝐂 3,1 = −1 4 0 1 2 3 = -2 𝐂 3,2 = −1 5 3 1 1 3 = -8 𝐂 3,3 = −1 6 3 0 1 2 = 6 −7 5 −1 3 1 −9 −2 −8 6 adj (𝐀)= −7 3 −2 5 1 −8 −1 −9 6 Matriks kofaktor:

Matriks Adjoint dan Inversi 𝑨 −1 = 1 det 𝑨 𝑎𝑑𝑗(𝑨) Untuk matriks A diatas: 𝐀= 3 0 1 1 2 3 2 3 1 adj (𝐀)= −7 3 −2 8 1 −8 −1 −9 6 𝐃= -22 𝑨 −1 = 1 −22 −7 3 −2 8 1 −8 −1 −9 0 𝐴 −1 = 0.3182 −0.1364 0.0909 −0.2273 −0.0455 0.3636 0.0455 0.4091 −0.2727

Eigenvalue dan eigenvektor suatu matriks Eigenvalue λ dan eigenvektor u suatu matriks A, memenuhi: Au = λu, A adalah matriks persegi Dapat ditulis kembali: Au – λu = (A – λI)u = 0 Memiliki solusi jika dan hanya jika det(A – λI) = 0. Eigen value adalah akar-akar dari determinan. Subtitusi λ kedalam persamaan, diperoleh u.

Contoh eigenvalue dan eigenvektor 𝐀= 3 0 1 1 2 3 2 3 1 Dapatkan eigenvalue dari matriks det 𝐀 = 3−λ 0 1 1 2−λ 3 2 3 1−λ =0 Yang memenuhi persamaan diatas adalah λ=5,18; λ=2.5; λ=-1.7 Eigenvectornya adalah: 𝐮= −2,2965 −0,6946 −0,1677 −0,7030 0,6342 −0,5940 −0,6464 0,3396 0,7868

Pendahuluan Regresi Data Masukan DENSITY ESTIMATOR Probabilitas Data CLASSIFIER Prediksi kategori Data Masukan REGRESOR Prediksi nilai

Regresi Linear Diberikan input X, ingin didapatkan output Y nya. Y dan X dihubungkan dgn persamaan: Y = WX + ε Y : nilai yg akan diprediksi W : Parameter X : Data hasil observasi. ε : noise dari pengukuran, dll. Misalnya memprediksi tinggi badan (Y) dari umurnya (X). X Y

Regresi Linear Tujuannya adalah menentukan W dari data, pasangan <Xi,Yi>. Y dan X dihubungkan dengan pendekatan least square: Misalnya memprediksi tinggi badan (Y) dari umur (X). Dipakai least square karena: Meminimalisasi jarak antara pengukuran dan prediksi. Mudah dihitung. Jika noise adalah gaussian dengan rata-rata 0, LS adalah maximum likelihood untuk estimasi W. X Y

Penyelesaian Regresi Linear Menurunkan persamaan least square terhadap W, kemudian di set sama dgn 0.     atau

Regresi tidak meliwati titik asal dimana

Contoh Kasus Melewati titik asal (W = 13.65) Tabel tinggi badan terhadap berat badan Umur (thn) Tinggi badan (cm) 4 90 6 100 7 115 9 125 12 130 Melewati titik asal (W = 13.65) Tidak melewati titik asal (W0 = 47.44 dan W1=8.65)

Regresi multivariate y X Jika terdapat lebih dari satu input: Dalam bentuk matriks (huruf tebal): y X