Algoritma JST Backpropagation

Presentasi berjudul: "Algoritma JST Backpropagation"— Transcript presentasi:

1 Algoritma JST Backpropagation

2 Arsitektur JST Backpropagation
Contoh Arsitekstur JST Backpropagation dengan: n unit masukkan p unit layer tersembunyi m unit masukkan 1 Y1 Y2 Ym Z1 Z2 Zp X1 X2 Xn V10 V20 Vp0 V11 Vp1 V21 V12 Vm2 V22 V1n Vpn V2m W10 W20 Wm0 W11 Wm1 W21 W12 Wm2 W22 W1p Wmp W2p Layer Masukkan Layer tersembunyi Layer Keluaran

3 Fungsi Aktifasi Fungsi aktifasi yang digunakan pada backpropagation yaitu sigmoid biner dan sigmoid bipolar

4 Fungsi Aktifasi

5 Algoritma Pelatihan Backpropagation
Algoritma Pelatihan Backpropagation dengan satu layer tersembunyi dan dengan menggunakan fungsi aktivasi sigmoid biner Langkah 0 : Inisialisasi semua bobot dengan bilangan acak kecil. Langkah 1 : Jika kondisi penghentian belum terpenuhi, lakukan langkah 2 sampai dengan 8. Langkah 2: Untuk setiap pasang data pelatihan, lakukan langkah 3 sampai dengan 8 1 Y1 Y2 Ym Z1 Z2 Zp X1 X2 Xn V10 V20 Vp0 V11 Vp1 V21 V12 Vm2 V22 V1n Vpn V2m W10 W20 Wm0 W11 Wm1 W2 1 W12 Wm2 W22 W1p Wmp W2p

6 Algoritma Pelatihan Backpropagation
1 Y1 Y2 Ym Z1 Z2 Zp X1 X2 Xn V10 V20 Vp0 V11 Vp1 V21 V12 Vm2 V22 V1n Vpn V2m W1 0 W20 Wm0 W11 Wm1 W2 1 W12 Wm2 W22 W1p Wmp W2p Fase I: Propagasi Maju Langkah 3 Tiap unit masukkan menerima sinyal dan meneruskan ke unit tersembunyi Langkah 4 Hitung semua keluaran di unit tersembunyi (Zj):

7 Algoritma Pelatihan Backpropagation
1 Y1 Y2 Ym Z1 Z2 Zp X1 X2 Xn V10 V20 Vp0 V11 Vp1 V21 V12 Vm2 V22 V1n Vpn V2m W1 0 W20 Wm0 W11 Wm1 W2 1 W12 Wm2 W22 W1p Wmp W2p Langkah 5 Hitung semua jaringan di unit keluaran (yk)

8 Algoritma Pelatihan Backpropagation
1 Y1 Y2 Ym Z1 Z2 Zp X1 X2 Xn V10 V20 Vp0 V11 Vp1 V21 V12 Vm2 V22 V1n Vpn V2m W1 0 W20 Wm0 W11 Wm1 W2 1 W12 Wm2 W22 W1p Wmp W2p Fase II : Propagasi Maju Langkah 6 Hitung factor  unit keluaran berdasarkan kesalahan setiap unit keluaran yk (k=1,2,3….) k=(tk-yk) f’(y_netk)= (tk-yk) yk (1-yk) k meruapakan unit kesalahan yang akan dipakai dalam perubahan bobot layer dibawahnya (lankah 7) Hitung suku perubahan bobot Wkj dengan laju perubahan α Δwkj= α k zj ; k=1,2,3,…,m ; j=0,1,2,…,p

9 Algoritma Pelatihan Backpropagation
1 Y1 Y2 Ym Z1 Z2 Zp X1 X2 Xn V10 V20 Vp0 V11 Vp1 V21 V12 Vm2 V22 V1n Vpn V2m W1 0 W20 Wm0 W11 Wm1 W2 1 W12 Wm2 W22 W1p Wmp W2p Langkah 7 Hitung factor  unit tersembunyi berdasarkan kesalahan di setiap unit tersembunyi zj (j=1,2,3,…,p)  Faktor unit tersembunyi j = _netj f’(z_netj)= _netj zj (1-zz) Hitung suku perubahan bobot vji Δvji=α jxi ; j=1,2,…,p ; i=0,1,2,…,n

10 Algoritma Pelatihan Backpropagation
1 Y1 Y2 Ym Z1 Z2 Zp X1 X2 Xn V10 V20 Vp0 V11 Vp1 V21 V12 Vm2 V22 V1n Vpn V2m W1 0 W20 Wm0 W11 Wm1 W2 1 W12 Wm2 W22 W1p Wmp W2p Fase III : Perubahan Bobot Langkah 8 Perubahan bobot garis yang menuju unit keluaran  wkj (baru)= wkj (lama) + Δwkj  Perubahan bobot garis yang menuju ke unit tersembunyi Vji (baru)= vji (lama) + Δvji

11 Laju Pemahaman Laju pemahaman di simbolkan dengan α
Laju pemahaman menentukan lama iterasi Nilai dari α diantara 0 sd 1 Semakin besar nilai α semakin cepat lama iterasi Akan tetapi jika terlalu besar akan merusak pola, sehingga justru akan lebih lama iterasinya

12 Epoch Epoch yaitu satu siklus pelatihan yang melibatkan semua pola
Misal jika suatu arsitektur JST terdapat 4 pola masukkan dan 1 target, maka pelatihan 4 pola masukkan tersebut adalah 1 epoch