MLP Feed-Forward Back Propagation Network Nurochman

Arsitektur MLP x1 xn

Algoritma BackPropagation Inisialisasi bobot-bobot dan atau bias tentukan laju pembelajaran (α) tentukan nilai ambang/ nilai toleransi (𝛉) atau tentukan epoch maksimal While kondisi berhenti tdk terpenuhi do langkah 3 – 10 Untuk setiap pasangan pola pelatihan, lakukan langkah 4 – 9 Tahap umpan maju Setiap unit input Xi dari i=1 sampai n mengirim sinyal ke lapisan tersembunyi

Menghitung sinyal output pada lapisan tersembunyi Menghitung sinyal output pada lapisan output Tahap propagasi balik Menghitung error pada lapisan output, menghitung besar koreksi bobot dan bias antara lapisan tersembunyi dan output, lalu update bobot dan bias

Menghitung error pada lapisan tersembunyi, menghitung besar koreksi bobot dan bias antara lapisan input dan tersembunyi, lalu update bobot dan bias

Tahap update bobot dan bias Update bobot dari lapisan tersembunyi ke lapisan output Update bobot dari lapisan input ke lapisan tersembunyi Tes kondisi berhenti (error sudah <= 𝛉) atau epoch tercapai)

Algoritma Aplikasi 1. Loading bobot dan bias hasil pelatihan 2. Menghitung sinyal output pada lapisan tersembunyi 3. Menghitung sinyal output pada lapisan output 4. Output dari lapisan output itulah yang menjadi output JST

Persyaratan Minimasi Error

Fungsi Sigmoid Biner

Fungsi Sigmoid Bipolar

Fungsi Tangen Hiperbolik

Inisialisasi Bobot dan Bias Inisialisai Acak (interval antara -lamda dan lamda), misal (-0,4 dan 0,4) Inisialisasi Nguyen-Widrow

Inisialisasi Nguyen-Widrow Pembelajaran lebih cepat Inisialisasi bobot antara lapisan tersembunyi dan output tetap menggunakan acak Faktor skala Nguyen-Widrow n = jumlah unit input p = jumlah unit tersembunyi ß = faktor skala

Prosedur Inisialisasi Nguyen-Widrow Inisialisasi bobot antara unit input dan unit tersembunyi dengan cara: - menentukan bobot antara unit input dan unit tersembunyi Vij (lama) = bil acak antara (-ß dan ß) - Menghitung ||Vij|| - Menginisialisasi Vij: Menentukan bias antara unit input dan unit tersembunyi dengan bilangan acak antara (-ß dan ß)

Update bobot dg momentum Momentum memaksa proses perubahan bobot Tidak terperangkap dalam minimum lokal (local minima) Miu adalah parameter momentum dalam range 0 sampai 1

Tugas Implementasikan algoritma BP untuk mengenali pola huruf di atas. Satu huruf berukuran 3x5 dengan target masing-masing untuk B (1,1), D (1,-1), F(-1,1) dan H (-1,-1) Gunakan representasi bipolar dan fungsi sigmoid bipolar

Any Questions?