Jaringan Syaraf Tiruan: Ikhtisar Singkat

Presentasi berjudul: "Jaringan Syaraf Tiruan: Ikhtisar Singkat"— Transcript presentasi:

1 Jaringan Syaraf Tiruan: Ikhtisar Singkat

2 Garis besar pengantar Latar Belakang Bagaimana otak manusia bekerja
Model Neuron Neuron Sederhana Contoh Pengenalan Pola Perceptron yang rumit

3 Garis Besar Lanjutan Berbagai jenis Neural Networks
Lapisan dan Struktur Jaringan Melatih Jaringan Syaraf Tiruan Proses pembelajaran Jaringan Syaraf Tiruan sedang digunakan Kesimpulan

4 Pengantar Jaringan Syaraf Tiruan apa?
Jaringan syaraf tiruan adalah metode baru dalam pemrograman komputer. Mereka sangat pandai melakukan pengenalan pola dan tugas lainnya yang sangat sulit diprogram dengan teknik konvensional. Program yang menggunakan jaring saraf juga mampu belajar sendiri dan beradaptasi dengan perubahan kondisi. Jaringan Syaraf Tiruan (JST) adalah paradigma pemrosesan informasi yang terinspirasi oleh sistem saraf biologis, seperti mekanisme pemrosesan informasi otak manusia.

5 Latar Belakang Jaringan Syaraf Tiruan (JST) adalah paradigma pemrosesan informasi yang terinspirasi oleh sistem saraf biologis, seperti mekanisme pemrosesan informasi otak manusia. Elemen kunci dari paradigma ini adalah struktur baru dari sistem pemrosesan informasi. Ini terdiri dari sejumlah besar elemen pemrosesan yang sangat saling berhubungan (neuron) yang bekerja serempak untuk memecahkan masalah tertentu. NN, seperti orang, belajar dengan contoh. Sebuah NN dikonfigurasi untuk aplikasi tertentu, seperti pengenalan pola atau klasifikasi data, melalui proses belajar. Belajar dalam sistem biologi melibatkan penyesuaian terhadap koneksi sinaptik yang ada di antara neuron. Ini juga berlaku untuk NN.

6 Bagaimana Otak Manusia belajar
Dalam otak manusia, neuron tertentu mengumpulkan sinyal dari orang lain melalui sejumlah struktur halus yang disebut dendrit. Neuron mengirimkan lonjakan aktivitas listrik melalui saluran, yang disebut akson, yang jumlahnya ribuan cabang. Pada akhir masing-masing cabang, struktur yang disebut sinaps mengubah aktivitas dari akson ke dalam efek listrik yang menghambat atau merangsang aktivitas di neuron terhubung.

7 Model Neuron Ketika neuron menerima input rangsang yang cukup besar dibandingkan dengan input penghambatannya, ia mengirimkan lonjakan aktivitas listrik ke aksonnya. Belajar terjadi dengan mengubah keefektifan sinapsis sehingga pengaruh satu neuron pada perubahan lainnya. Pada jaringan saraf ini, pertama-tama dicoba untuk menyimpulkan fitur penting neuron dan interkoneksi mereka. Kemudian memprogram komputer untuk mensimulasikan fitur ini.

8 Neuron Sederhana Neuron buatan adalah alat dengan banyak masukan dan satu keluaran. Neuron memiliki dua mode operasi; mode latihan dan mode penggunaan

9 Neuron Sederhana (Lanjutan)
Dalam mode latihan, neuron dapat dilatih untuk menembak (atau tidak), untuk pola masukan tertentu. Dalam mode pemakaian, bila pola input yang diajarkan terdeteksi pada input, output yang terkait menjadi output saat ini. Jika pola input tidak termasuk dalam daftar input pola yang diajarkan, aturan penembakan digunakan untuk menentukan apakah akan menyala atau tidak. Aturan penembakan merupakan konsep penting dalam jaringan syaraf tiruan dan menjelaskan fleksibilitasnya yang tinggi. Aturan penembakan menentukan bagaimana seseorang menghitung apakah neuron harus mengaktifkan pola masukan apapun. Ini berhubungan dengan semua pola input, tidak hanya yang telah dilatih oleh node sebelumnya.

10 Pengenalan Pola (Pattern Recognition)
Aplikasi penting dari jaringan syaraf tiruan adalah pengenalan pola. Pengenalan pola dapat diimplementasikan dengan menggunakan jaringan syaraf umpan balik yang telah dilatih sesuai dengan itu. Selama pelatihan, jaringan dilatih untuk menghubungkan output dengan pola input. Bila jaringan digunakan, ia mengidentifikasi pola input dan mencoba mengeluarkan pola output yang terkait. Kekuatan jaringan syaraf hidup saat pola yang tidak memiliki output terkait dengannya, diberikan sebagai masukan. Dalam kasus ini, jaringan memberikan output yang sesuai dengan pola masukan yang diajarkan yang paling tidak berbeda dari pola yang diberikan.

11 Pattern Recognition (cont.)
Misalkan jaringan dilatih untuk mengenali pola T dan H. Pola yang terkait semuanya hitam dan semua putih masing-masing seperti yang ditunjukkan di atas.

12 Pattern Recognition (cont.)
Karena pola input lebih mirip 'T', saat jaringan mengklasifikasikannya, ia melihat masukannya sangat mirip 'T' dan menampilkan pola yang mewakili 'T'.

13 Pattern Recognition (cont.)
Pola masukan di sini sangat mirip dengan 'H' dengan sedikit perbedaan. Jaringan dalam hal ini mengklasifikasikannya sebagai 'H' dan menampilkan pola yang mewakili 'H'.

14 Pattern Recognition (cont.)
Pada baris atas, ada 2 kesalahan dari 'T' dan 3 kesalahan dari sebuah H. Jadi, output teratas adalah hitam. Baris tengah adalah 1 kesalahan dari T dan H, jadi hasilnya acak. Baris bawah adalah 1 kesalahan dari T dan 2 dari H. Oleh karena itu hasilnya berwarna hitam. Karena input menyerupai 'T' lebih dari satu 'H', output dari jaringan mendukung sebuah 'T'.

15 Perceptron yang lebih rumit
Neuron yang lebih canggih dikenal sebagai model McCulloch dan Pitts (MCP). Perbedaannya adalah bahwa dalam model MCP, input berbobot dan efek yang masing-masing masukan pada pengambilan keputusan, bergantung pada bobot input tertentu. Bobot input adalah bilangan yang dikalikan dengan input untuk memberi bobot input.

16 Perceptron yang lebih rumit (cont.)
Masukan tertimbang kemudian ditambahkan bersama-sama dan jika melebihi nilai ambang yang telah ditentukan sebelumnya, perceptron / neuron bekerja. Jika tidak, itu tidak akan menyala dan masukan yang terkait dengan perceptron itu tidak akan berpengaruh pada pengambilan keputusan. Dalam istilah matematika, neuron bekerja jika dan hanya jika; X1W1 + X2W2 + X3W > T

17 Perceptron yang rumit Neuron MCP memiliki kemampuan untuk menyesuaikan diri dengan situasi tertentu dengan mengubah bobot dan / atau bias (ambang batasnya). Berbagai algoritma ada yang menyebabkan neuron 'beradaptasi'; yang paling banyak digunakan adalah Delta rule and the back error propagation.

18 Berbagai jenis Neural Networks
Jaringan umpan maju Umpan maju NNs memungkinkan sinyal untuk melakukan perjalanan satu arah saja; dari input ke output. Tidak ada umpan balik (loop) yaitu output dari lapisan manapun tidak mempengaruhi lapisan yang sama. Umpan maju NN cenderung membentuk jaringan lurus ke depan yang menghubungkan input dengan output. Mereka banyak digunakan dalam pengenalan pola. Jenis organisasi ini juga disebut sebagai bottom-up atau top-down.

19 Berbagai jenis Neural Networks (Continued)
Jaringan umpan balik Jaringan umpan balik dapat memiliki sinyal yang berjalan di kedua arah dengan mengenalkan loop di jaringan. Jaringan umpan balik bersifat dinamis; 'negara' mereka berubah terus-menerus sampai mencapai titik ekuilibrium. Mereka tetap pada titik ekuilibrium sampai perubahan masukan dan keseimbangan baru perlu ditemukan. Arsitektur umpan balik juga disebut sebagai interaktif atau berulang, walaupun istilah yang terakhir sering digunakan untuk menunjukkan koneksi umpan balik pada organisasi lapisan tunggal.

20 Diagram NN

21 Lapisan Jaringan Input Layer - Aktivitas unit input mewakili informasi mentah yang dimasukkan ke dalam jaringan. Hidden Layer - Aktivitas masing-masing unit tersembunyi ditentukan oleh aktivitas unit input dan bobot pada koneksi antara input dan hidden unit. Output Layer - Perilaku unit output bergantung pada aktivitas unit tersembunyi dan bobot antara unit tersembunyi dan keluaran.

22 Lapisan Jaringan (Continued)
Jenis jaringan sederhana ini menarik karena unit tersembunyi bebas membuat representasi sendiri dari input. Bobot antara unit input dan hidden menentukan kapan masing-masing unit tersembunyi aktif, dan dengan memodifikasi bobot ini, unit tersembunyi dapat memilih apa yang diwakilinya.

23 Struktur Jaringan Jumlah lapisan dan neuron bergantung pada tugas tertentu. Dalam prakteknya masalah ini diatasi dengan trial and error. Dua jenis algoritma adaptif dapat digunakan: Mulai dari jaringan besar dan berturut-turut menghapus beberapa neuron dan link sampai kinerja jaringan menurun. Mulai dengan jaringan kecil dan perkenalkan neuron baru sampai performa memuaskan.

24 Parameter Jaringan Bagaimana bobot diinisialisasi?
Berapa banyak lapisan tersembunyi dan berapa banyak neuron? Berapa banyak contoh dalam set pelatihan?

25 Bobot Secara umum, bobot awal dipilih secara acak, dengan nilai tipikal antara -1,0 dan 1,0 atau -0,5 dan 0,5. Ada dua jenis NNs. Tipe pertama dikenal sebagai Jaringan Tetap - di mana bobotnya tetap Adaptive Networks - di mana bobot diubah untuk mengurangi kesalahan prediksi.

26 Ukuran Data Pelatihan Rule of thumb: Other rule:
jumlah contoh pelatihan minimal harus lima sampai sepuluh kali jumlah bobot jaringan. Other rule: | W | = jumlah bobot a = akurasi yang diharapkan pada set tes

27 Dasar-Dasar Pelatihan
Metode paling dasar untuk melatih jaringan syaraf tiruan adalah trial and error. Jika jaringan tidak berperilaku seperti seharusnya, ubah bobot dari sebuah acak dengan jumlah acak. Jika keakuratan jaringan menurun, batalkan perubahannya dan buat yang berbeda. Butuh waktu, namun metode trial and error memang menghasilkan hasil.

28 Pelatihan: Algoritma Backpro
Algoritma Backprop mencari nilai bobot yang meminimalkan kesalahan total jaringan melebihi serangkaian contoh pelatihan (set pelatihan). Backprop terdiri dari aplikasi berulang dari dua lintasan berikut: Maju pass: pada langkah ini jaringan sudah diaktifkan pada salah satu contoh dan kesalahan (setiap neuron dari) lapisan output dihitung. Backward pass: pada langkah ini kesalahan jaringan digunakan untuk memperbarui bobot. Dimulai pada layer output, error disebarkan ke belakang melalui jaringan, layer demi layer. Hal ini dilakukan dengan menghitung secara rekursif gradien lokal masing-masing neuron.

29 Back Propagation Algoritma pelatihan propagasi balik
Backprop menyesuaikan bobot NN untuk meminimalkan kesalahan kuadrat total jaringan. Network activation Forward Step Error propagation Backward Step

30 Proses Pembelajaran Penghafalan pola dan respon dari jaringan selanjutnya dapat dikategorikan menjadi dua paradigma umum: Associative mapping Regularity detection

31 Associative Mapping Jenis NN pemetaan Asosiatif adalah NN yang proses belajarnya untuk menghasilkan pola tertentu pada set unit masukan, agar pola tertentu lain dapat ditkenali. Hal ini memungkinkan jaringan untuk melengkapi pola yang diberikan dengan pola yang mirip dengan pola yang sebelumnya dipelajari.

32 Regularity Detection Deteksi Keteraturan adalah jenis NN di mana unit belajar untuk menanggapi sifat tertentu dari pola masukan. Sedangkan dalam pemetaan asosiatif jaringan menyimpan hubungan antar pola. Dalam keteraturan deteksi respon masing-masing unit memiliki 'makna' tertentu. Ini berarti bahwa aktivasi masing-masing unit sesuai dengan atribut input yang berbeda.

33 The Learning Process (cont.)
Setiap jaringan syaraf memiliki pengetahuan yang terkandung dalam nilai bobot koneksi. Mengubah pengetahuan yang tersimpan dalam jaringan sebagai fungsi pengalaman menyiratkan aturan belajar untuk mengubah nilai bobot.

34 The Learning Process (cont.)
Ingat: Jaringan adaptif adalah NN yang memungkinkan perubahan bobot pada koneksinya. Metode pembelajaran dapat diklasifikasikan dalam dua kategori: Pembelajaran yang Diawasi (Supervised Learning) Belajar tanpa pengawasan (Unsupervised Learning)

35 Supervised Learning Belajar diawasi yang menggabungkan guru eksternal, sehingga setiap unit output diberitahu apa respon yang diinginkan untuk sinyal masukan seharusnya. Isu penting mengenai pembelajaran yang diawasi adalah masalah konvergensi kesalahan, yaitu minimisasi kesalahan antara nilai unit yang dikehendaki dan dihitung. Tujuannya adalah untuk menentukan satu set bobot yang meminimalkan kesalahan. Salah satu metode yang terkenal, yang umum bagi banyak paradigma pembelajaran adalah konvergensi kuadrat terkecil (LMS).

36 Supervised Learning Dalam pembelajaran seperti ini, pengalaman guru manusia digunakan untuk memberi tahu NN yang hasilnya benar dan mana yang tidak. Ini tidak berarti bahwa seorang guru manusia harus hadir setiap saat, hanya klasifikasi yang benar yang dikumpulkan dari guru manusia di ranah yang perlu ada. Jaringan kemudian belajar dari kesalahannya, yaitu mengubah bobotnya untuk mengurangi kesalahan prediksi.

37 Unsupervised Learning
Belajar tanpa pengawasan tidak menggunakan guru eksternal dan didasarkan pada informasi lokal saja. Hal ini juga disebut sebagai self-organization, dalam artian mengatur data yang dipresentasikan ke jaringan dan mendeteksi sifat kolektif mereka yang muncul. Jaringan ini kemudian digunakan untuk membangun cluster dengan pola serupa. Ini sangat berguna dimana domain contoh yang dicek digunakan untuk mencocokkan skenario sebelumnya. Misalnya, mendeteksi kecurangan kartu kredit.

38 Neural Network in Use Jaringan saraf paling baik mengidentifikasi pola atau tren Dalam data, mereka sangat sesuai untuk prediksi atau peramalan kebutuhan termasuk: peramalan penjualan kontrol proses industri penelitian pelanggan validasi data manajemen risiko JST juga digunakan dalam paradigma spesifik berikut: pengakuan pembicara dalam komunikasi; diagnosis hepatitis; deteksi tambang bawah laut; analisis tekstur; pengenalan objek tiga dimensi; pengenalan kata tulisan tangan; dan pengenalan wajah.

39 Neural networks in Medicine
Jaringan Syaraf Tiruan (JST) saat ini merupakan kawasan penelitian 'panas' dalam bidang kedokteran dan diyakini akan menerima aplikasi ekstensif untuk sistem biomedis dalam beberapa tahun ke depan. Saat ini, penelitian ini terutama berfokus pada pemodelan bagian tubuh manusia dan mengenali penyakit dari berbagai pemindaian (misalnya kardiogram, pemindaian CAT, pemindaian ultrasonik, dll.).

40 Continued Jaringan syaraf ideal untuk mengenali penyakit menggunakan pemindaian karena tidak perlu memberikan algoritma spesifik tentang bagaimana mengidentifikasi penyakit ini. Jaringan syaraf belajar dengan teladan sehingga detil bagaimana mengenali penyakit tidak diperlukan. Yang dibutuhkan adalah seperangkat contoh yang mewakili semua variasi penyakit. Jumlah contoh adalah tidak sepenting 'kualitas'. Contohnya perlu dipilih dengan sangat hati-hati jika sistem tersebut dapat melakukan dengan andal dan efisien.

41 Modeling and Diagnosing the Cardiovascular System
Neural Networks digunakan secara eksperimental untuk memodelkan sistem kardiovaskular manusia. Diagnosis dapat dicapai dengan membangun model sistem kardiovaskular individu dan membandingkannya dengan pengukuran fisiologis real time yang diambil dari pasien. Jika rutinitas ini dilakukan secara teratur, potensi kondisi medis yang berbahaya dapat dideteksi pada tahap awal dan dengan demikian membuat proses pemberantasan penyakit lebih mudah.

42 Continued Model sistem kardiovaskular seseorang harus meniru hubungan antara variabel fisiologis (yaitu tekanan jantung, tekanan darah sistolik dan diastolik, dan tingkat pernapasan) pada tingkat aktivitas fisik yang berbeda. Jika model disesuaikan dengan individu, maka itu menjadi model kondisi fisik individu tersebut. Simulator harus bisa menyesuaikan diri dengan fitur individu tanpa pengawasan ahli. Ini membutuhkan jaringan saraf.

43 Continued Alasan lain yang membenarkan penggunaan teknologi NN, adalah kemampuan NNs untuk memberikan fusi sensor yang merupakan gabungan nilai dari beberapa sensor yang berbeda. Fusi sensor memungkinkan NN untuk mempelajari hubungan kompleks antara nilai sensor individual, yang jika tidak akan hilang jika nilai dianalisis secara individual. Dalam pemodelan dan diagnosis medis, ini menyiratkan bahwa meskipun setiap sensor dalam satu set mungkin sensitif hanya pada variabel fisiologis tertentu, NN mampu mendeteksi kondisi medis yang kompleks dengan menggabungkan data dari sensor biomedis individu.

44 Kelemahan Jaringan Syaraf Tiruan
Hubungan individu antara variabel input dan variabel output tidak dikembangkan dengan pertimbangan teknik sehingga model cenderung menjadi kotak hitam atau tabel input / output tanpa dasar analisis. Ukuran sampel harus besar. Membutuhkan banyak trial and error sehingga pelatihan bisa memakan waktu.

45 Kesimpulan Jaringan Syaraf Tiruan dapat digunakan dalam berbagai bidang dengan ketepatan tergantung dari sifat sistem dan keberadaan data yang baik dala, kualitas maupun kuantitas. Karena kita memerlukannya untuk menjadi sangat akurat, kita perlu mengumpulkan variabel kontekstual secara seksama yang berhubungan erat dengan mendiagnosis murmur jantung dan berbagai nilai.