MLP Feed-Forward Back Propagation Network

Presentasi berjudul: "MLP Feed-Forward Back Propagation Network"— Transcript presentasi:

1 MLP Feed-Forward Back Propagation Network
Nurochman

2 Arsitektur MLP x1 xn

3 Algoritma BackPropagation
Inisialisasi bobot-bobot dan atau bias tentukan laju pembelajaran (α) tentukan nilai ambang/ nilai toleransi (𝛉) atau tentukan epoch maksimal While kondisi berhenti tdk terpenuhi do langkah 3 – 10 Untuk setiap pasangan pola pelatihan, lakukan langkah 4 – 9 Tahap umpan maju Setiap unit input Xi dari i=1 sampai n mengirim sinyal ke lapisan tersembunyi

4 Menghitung sinyal output pada lapisan tersembunyi
Menghitung sinyal output pada lapisan output Tahap propagasi balik Menghitung error pada lapisan output, menghitung besar koreksi bobot dan bias antara lapisan tersembunyi dan output, lalu update bobot dan bias

5 Menghitung error pada lapisan tersembunyi, menghitung besar koreksi bobot dan bias antara lapisan input dan tersembunyi, lalu update bobot dan bias

6 Tahap update bobot dan bias
Update bobot dari lapisan tersembunyi ke lapisan output Update bobot dari lapisan input ke lapisan tersembunyi Tes kondisi berhenti (error sudah <= 𝛉) atau epoch tercapai)

7 Algoritma Aplikasi 1. Loading bobot dan bias hasil pelatihan
2. Menghitung sinyal output pada lapisan tersembunyi 3. Menghitung sinyal output pada lapisan output 4. Output dari lapisan output itulah yang menjadi output JST

8 Persyaratan Minimasi Error

9 Fungsi Sigmoid Biner

10 Fungsi Sigmoid Bipolar

11 Fungsi Tangen Hiperbolik

12 Inisialisasi Bobot dan Bias
Inisialisai Acak (interval antara -lamda dan lamda), misal (-0,4 dan 0,4) Inisialisasi Nguyen-Widrow

13 Inisialisasi Nguyen-Widrow
Pembelajaran lebih cepat Inisialisasi bobot antara lapisan tersembunyi dan output tetap menggunakan acak Faktor skala Nguyen-Widrow n = jumlah unit input p = jumlah unit tersembunyi ß = faktor skala

14 Prosedur Inisialisasi Nguyen-Widrow
Inisialisasi bobot antara unit input dan unit tersembunyi dengan cara: - menentukan bobot antara unit input dan unit tersembunyi Vij (lama) = bil acak antara (-ß dan ß) - Menghitung ||Vij|| - Menginisialisasi Vij: Menentukan bias antara unit input dan unit tersembunyi dengan bilangan acak antara (-ß dan ß)

15 Update bobot dg momentum
Momentum memaksa proses perubahan bobot Tidak terperangkap dalam minimum lokal (local minima) Miu adalah parameter momentum dalam range 0 sampai 1

16 Tugas Implementasikan algoritma BP untuk mengenali pola huruf di atas.
Satu huruf berukuran 3x5 dengan target masing-masing untuk B (1,1), D (1,-1), F(-1,1) dan H (-1,-1) Gunakan representasi bipolar dan fungsi sigmoid bipolar

17 Any Questions?