Pembelajaran terbimbing dengan pendekatan parametriks dan nonparametriks Kuliah 3.

Presentasi berjudul: "Pembelajaran terbimbing dengan pendekatan parametriks dan nonparametriks Kuliah 3."— Transcript presentasi:

1 Pembelajaran terbimbing dengan pendekatan parametriks dan nonparametriks
Kuliah 3

2 Pengertian pembelajaran
Pembelajaran pada binatang atau manusia: upaya mendapatkan pengetahuan, pengertian, ketrampilan dengan yang diperoleh melalui belajar dan pengalaman. Pembelajaran pada mesin: merujuk pada perubahan dalam sistem yang membentuk tugas-tugas yang diasosiasikan dengan kecerdasan buatan. Tugas-tugas itu seperti: pengenalan, diagnosis, perencanaan, peramalan, kendalai robot dll.

3 Pembelajaran Mesin Algoritma pembelajaran yang dikembangkan berfungsi untuk menurunkan kesalahan dari data yang dilatihkan Kebanyakan pengklasifikasi melakukan proses Pembelajaran Menetapkan bentuk umum Menggunakan pola-pola pelatihan saat pembelajaran mengestimasikan parameter yang belum diketahui

4 Macam-macam pembelajaran
Pembelajaran terbimbing (Supervised learning) Pembelajaran melalui satu pemetaan antara input x dan output tujuan y Pembelajaran tak-terbimbing (Unsupervised learning) Tidak diketahui hubungan antara komponen-komponen data

5 Kucing vs. anjing

6 Klasifikasi terbimbing

7 Klasifikasi tak terbimbing

8 Estimasi parametriks dan pembelajaran terbimbing
Masalah yang penting dalam proses pelatihan adalah adanya sampel data yang representatif. Pada pembelajaran terbimbing masing-masing data pelatihan diberikan label klas yang benar dan sesuai. Hasil estimasi parametrik diperoleh ketika bentuk distribusi kerapatan data telah diketahui.

9 Pembelajaran terbimbing dengan pendekatan nonparametriks
Bentuk distribusi kerapatan tidak dapat ditentukan Bentuk pilihan tidak hanya satu untuk rumusan yang dapat mengestimasi Pendekatan non parametriks: Estimasi fungsi kerapatan Estimasi secara langsung Transformasi bidang ciri

10 Fungsi Keputusan Fungsi utama dari suatu sistem pengenalan pola adalah mengambil keputusan untuk menentukan anggota klas dari suatu pola-pola masukan Fungsi keputusan untuk memisahkan populasi dua pola dapat digunakan persamaan garis linear

11 Fungsi keputusan … Persamaan garis linear d(x) = w1x1 + w2x2 + w3 = 0
dimana: w adalah parameter-parameter bobot x1, x2 adalah variabel-variabel koordinat d(x) dapat digunakan sebagai fungsi keputusan, jika misalnya diberikan suatu pola x yang belum diketahui kelompok klas nya, maka dapat ditentukan bahwa pola x akan masuk dalam kategori klas 1 jika d(x) > 0, atau masuk kedalam kategori klas 2 jika d(x) <0. The catch of salmon and sea bass is equiprobable P(1) = P(2) (uniform priors) P(1) + P( 2) = 1 (exclusivity and exhaustivity )

12 Contoh: 1 Dalam suatu observasi sistem pengenalan pola, sebuah pola dengan 2 ciri beserta label klasnya No. sampel Pola Klas (x1,x2) 1 (1,2) 2 (1.5,2) 3 (2,1.5) 4 (2,2) 5 (2.5,1) 6 (1,1) 7 (0.5,1.5) 8 (1.5,0.8) 9 (0.5,0.5) 10 (1,0.5) Jika Px = (0.5,2) adalah sebuah pola yang belum diketahui label klasnya, maka pola tersebut termasuk didalam klas =? The catch of salmon and sea bass is equiprobable P(1) = P(2) (uniform priors) P(1) + P( 2) = 1 (exclusivity and exhaustivity )

13 Penyelesaian Persamaan d1(x)=2x1+3x2-6 maka pola yang belum diketahui Px = (0.5,2) masuk kedalam kategori klas 1, namun bila menggunakan persamaan d2(x)=6x1+5x2-15 maka pola tersebut masuk kedalam kategori klas 2.

14 Estimasi kemiripan: metrik jarak
Pengukuran kemiripan atau ketidakmiripan merupakan suatu dasar dalam tugas-tugas klasifikasi dan pengenalan Salah satu ukuran kemiripan adalah dengan menentukan metrik jarak Keberhasilan dalam proses klasifikasi tergantung dari populasi pola-pola yang akan diklasifikasikan a). Pola x mudah diklasifikasi b). Pola x tidak mudah diklasifikasi

15 Beberapa metrik jarak yang populer
Manhattan Euclidean Mahalanobis Canberra

16 Beberapa metrik jarak…
Bray-Curtis Squared Chord, Squared Chi-Squared

17 Beberapa metrik jarak…
1-r ( r=Pearson’s coefficient of correlation) dimana

18 Contoh: 2 Dari kasus pada contoh 2-1, gunakan metode metrik jarak (Manhattan) sebagai fungsi klasifikasi dan pola referensi merupakan rerata dari sampel data! Jawab: Pola untuk klas 1: P11=[1 2], P12 =[1.5 2], P13=[2 1.5], P14=[2 2], P15=[2.5 1] Pola untuk klas 2: P21=[1 1], P22=[ ], P23=[ ], P24=[ ], P25=[1, 0.5] Pola referensi untuk masing-masing klas: P1 = 1/5 (P11+P12+P13+P14+P15) = [ ] P2 = 1/5 (P21+P22+P23+P24+P25) = [ ]

19 Menghitung nilai jarak dari pola Px = [0
Menghitung nilai jarak dari pola Px = [0.5 2] dengan pola referensi masing-masing klas. Kategori klasifikasi didasarkan pada jarak minimum sehingga Px termasuk ke dalam klas 2.

20 Contoh: 3 Dalam sebuah sistem OCR (Optical Character Recognition) akan diklasifikasikan sebuah karakter/huruf yang belum diketahui klasnya Jelaskan langkah-langkah yang dilakukan!

21 Jawab: Langkah-langkah yang dilakukan untuk proses klasifikasi adalah sebagaiberikut: a). Menentukan pola referensi (template) untuk masing-masing klas Membaca semua sampel yang akan diklasifikasikan Mengubah/menormalisasi ukuran matriks citra menjadi berukuran 20x20 Menyusun pola berbentuk vektor 1-dimensi berukuran 1x400 Menentukan pola referensi yaitu rerata dari pola sampel

22 b). Proses testing/pengujian
Membaca sampel data yang akan diklasifikasikan Mengubah/menormalisasi ukuran matriks citra menjadi berukuran 20x20 Menyusun pola berbentuk vektor 1-dimensi berukuran 1x400 Menghitung nilai fungsi jarak Menentukan jarak minimum Menetapkan keputusan pengklasifikasi

23 Contoh program dengan MATLAB untuk klasifikasi karakter dengan fungsi jarak Manhattan.
%Penentuan pola referensi clear; I1=imread('a1.jpg'); I2=imread('a2.jpg'); I3=imread('a3.jpg'); %imshow(I1); a1= rgb2gray(I1); a2= rgb2gray(I2); a3= rgb2gray(I3); aa1=imresize(a1,[20 20],'bilinear'); aa2=imresize(a2,[20 20],'bilinear'); aa3=imresize(a3,[20 20],'bilinear'); a1=aa1/255; a2=aa2/255; a3=aa3/255;

24 aa1=[a1(1,:) a1(2,:) a1(3,:) a1(4,:) a1(5,:) a1(6,:) a1(7,:) a1(8,:) a1(9,:) a1(10,:) a1(11,:) a1(12,:) a1(13,:) a1(14,:) a1(15,:) a1(16,:) a1(17,:) a1(18,:) a1(19,:) a1(20,:)]; aa2=[a2(1,:) a2(2,:) a2(3,:) a2(4,:) a2(5,:) a2(6,:) a2(7,:) a2(8,:) a2(9,:) a2(10,:) a2(11,:) a2(12,:) a2(13,:) a2(14,:) a2(15,:) a2(16,:) a2(17,:) a2(18,:) a2(19,:) a2(20,:)]; aa3=[a3(1,:) a3(2,:) a3(3,:) a3(4,:) a3(5,:) a3(6,:) a3(7,:) a3(8,:) a3(9,:) a3(10,:) a3(11,:) a3(12,:) a3(13,:) a3(14,:) a3(15,:) a3(16,:) a3(17,:) a3(18,:) a3(19,:) a3(20,:)]; aref=mean([aa1; aa2; aa3]);

25 I1=imread('b1.jpg'); I2=imread('b2.jpg'); I3=imread('b3.jpg'); %imshow(I1); b1= rgb2gray(I1); b2= rgb2gray(I2); b3= rgb2gray(I3); bb1=imresize(b1,[20 20],'bilinear'); bb2=imresize(b2,[20 20],'bilinear'); bb3=imresize(b3,[20 20],'bilinear'); b1=bb1/255; b2=bb2/255; b3=bb3/255;

26 bb1=[b1(1,:) b1(2,:) b1(3,:) b1(4,:) b1(5,:) b1(6,:) b1(7,:) b1(8,:) b1(9,:) b1(10,:) b1(11,:) b1(12,:) b1(13,:) b1(14,:) b1(15,:) b1(16,:) b1(17,:) b1(18,:) b1(19,:) b1(20,:)]; bb2=[b2(1,:) b2(2,:) b2(3,:) b2(4,:) b2(5,:) b2(6,:) b2(7,:) b2(8,:) b2(9,:) b2(10,:) b2(11,:) b2(12,:) b2(13,:) b2(14,:) b2(15,:) b2(16,:) b2(17,:) b2(18,:) b2(19,:) b2(20,:)]; bb3=[b3(1,:) b3(2,:) b3(3,:) b3(4,:) b3(5,:) b3(6,:) b3(7,:) b3(8,:) b3(9,:) b3(10,:) b3(11,:) b3(12,:) b3(13,:) b3(14,:) b3(15,:) b3(16,:) b3(17,:) b3(18,:) b3(19,:) b3(20,:)]; bref=mean([bb1; bb2; bb3]);

27 %Proses pengujian I=imread('Px.jpg'); imshow(I); Im= rgb2gray(I); Im=imresize(Im,[20 20],'bilinear'); Im=Im/255; polabaru=[Im(1,:) Im(2,:) Im(3,:) Im(4,:) Im(5,:) Im(6,:) Im(7,:) Im(8,:) Im(9,:) Im(10,:) Im(11,:) Im(12,:) Im(13,:) Im(14,:) Im(15,:) Im(16,:) Im(17,:) Im(18,:) Im(19,:) Im(20,:)]; polabaru=double(polabaru); d1=dmanhattan(polabaru,aref); d2=dmanhattan(polabaru,bref); minimum=min([d1 d2]); if (d1==minimum) class='a' elseif (d2==minimum) class='b' end

28 function d=dmanhattan(x,y)
d=sum(abs(x-y)); End Hasil running program: d1 = d2 = class = b