Subject : T0293/Neuro Computing Year : 2009 Hopfield Net Meeting 9

Konfigurasi Networks Networks yang telah dibahas pada bab-bab terdahulu semuanya bersifat ‘non-recurrent’. John Hopfield telah banyak memberikan kontribusi tentang teori dan aplikasi dari ‘recurrent system’. Konsep yang brilian ini telah membuka cakrawala penelitian neural networks. Banyak ilmuwan yang mengikuti jejak untuk memahami lebih lanjut potensi dan kemampuan sistem tersebut. Gambar berikut adalah contoh ‘recurrent networks’ yang terdiri dari dua layer

W21 ... IN INm W12 W1n W11 W22 W2n Wn1 Wnm Wn2 OUTm OUT2 OUT1

Sistem Biner pada Hopfield Net Fungsi F dalam Hopfield Net merupakan ‘threshold’ sederhana. Output dari neuron sama dengan 1 jika jumlah (terbobot) dari output neuron-neuron lainnya lebih besar dari ‘threshold’ Tj; Selainnya sama dengan 0. Output tsb dapat dihitung sbb: NETj =   OUTj = 1 jika NETj > Tj OUTj = 0 jika NETj < Tj OUTj tidak berubah jika NETj = Tj  Wij OUTi + INj I  j

Karena output dari neuron hanya mungkin bernilai 1 atau 0, status networks berupa bilangan biner, dimana setiap bit menggambarkan signal OUT dari setiap neuron. Stabilitas Networks Seperti halnya networks lainnya, bobot diantara layer-layer dalam hopfield Net membentuk matrik w. Cohen dan Grossberg (1983) menunjukkan bahwa ‘recurrent networks’ akan menjadi stabil jika matrik simetris dengan diagonal utama bernilai 0; yaitu jika Wij = Wji untuk semua i  j, dan Wii = 0 untuk semua i.

Stabilitas network dapat dibuktikan dengan menggunakan fungsi Lyapunov, dimana fungsi tersebut akan mencapai nilai minimum dan berhenti. Untuk Hopfield Net, nilai minimum dan fungsi Lyapunov adalah sebagai berikut: Dimana: E = Energi network Wij = Bobot dari output neuron I ke input neuron j OUTi = Output dari neuron j Tj = Threshold dari neuron j

Associative Memory Memori manusia menunjukkan sifat-sifat asosiatif, yaitu bahwa suatu bagian dari input dapat menghasilkan memori / ingatan yang jauh lebih besar ‘Recurrent Networks’ membentuk ‘associative memory’. Hopfield telah mengembangkan ‘associative memo-ry’ dimana outputnya kontinu, berkisar antara +1 dan –1 yang berkaitan dengan nilai biner 0 dan 1. Memori dikodekan sebagai vektor biner dan disimpan sebagai bobot dengan rumus berikut:

dimana m = jumlah memori(vektor output) d = nomor memori (vektor output yang diinginkan) OUTi,d =komponen ke-i dari vektor output d   W dapat diekspresikan sbb : dimana DI adalah vektor baris ke i