Steepest Descent (Ascent) untuk Kasus Min (Maks) Dr. Rahma Fitriani, S.Si., M.Sc

Dr. Rahma Fitriani, S.Si., M.Sc Menentukan titik min (maks) pada fungsi non linier tanpa kendala dengan n peubah Titik tersebut adalah titik di mana vektor gradien bernilai nol di segala arah Dipakai ketika pembuat nol dari vektor gradien tidak dapat ditentukan secara analitik Dr. Rahma Fitriani, S.Si., M.Sc

Prinsip Dasar Algoritma Pilih titik awal Tentukan arah turun (naik) bagi kasus min (maks) Tentukan besar langkah (sebesar-besarnya)  steepest Update Tentukan titik baru Berhenti ketika kriteria pemberhentian terpenuhi Dr. Rahma Fitriani, S.Si., M.Sc

Dr. Rahma Fitriani, S.Si., M.Sc Arah penurunan (min) atau kenaikan (maks) dipilih berdasarkan vektor gradien Ilustrasi pada fungsi dengan dua variabel Berdasarkan kontur dari fungsi: Vektor gradien pada suatu titik mengarah pada kenaikan fungsi (maks) Kebalikan dari vektor gradien pada suatu titik mengarah pada penurunan fungsi (min) Dr. Rahma Fitriani, S.Si., M.Sc

Dr. Rahma Fitriani, S.Si., M.Sc

Ilustrasi dari Kontur Fungsi Dr. Rahma Fitriani, S.Si., M.Sc

Dr. Rahma Fitriani, S.Si., M.Sc Ilustrasi 3 dimensi Dr. Rahma Fitriani, S.Si., M.Sc

Dr. Rahma Fitriani, S.Si., M.Sc Ilustrasi 3 Dimensi Dr. Rahma Fitriani, S.Si., M.Sc

Dr. Rahma Fitriani, S.Si., M.Sc Vektor gradien Gradien dari fungsi dengan n variabel adalah vektor Setiap elemen adalah kemiringan fungsi pada arah masing-masing variabel Setiap elemen adalah turunan parsial terhadap masing-masing variabel Contoh: Dr. Rahma Fitriani, S.Si., M.Sc

Dr. Rahma Fitriani, S.Si., M.Sc Vektor gradien pada suatu titik adalah arah kenaikan terbesar (steepest ascent) dari suatu fungsi Arah sebaliknya adalah arah penurunan terbesar (steepest descent) dari suatu fungsi Dr. Rahma Fitriani, S.Si., M.Sc

Algoritma Gradien (Steepest) Descent Konsep sederhana: ikuti arah gradien downhill Proses: Pilih titik awal: x0 = ( x1, x2, …, xn ) Tentukan arah turun: - f( xt ) Pilih panjang langkah penurunan:  Optimasi satu dimensi Update posisi titik baru: xt+1 = xt -  f( xt ) Kembali ke langkah 2 sampai kriteria pemberhentian terpenuhi Kriteria pemberhentian f( xt+1 ) ~ 0 Dr. Rahma Fitriani, S.Si., M.Sc

Dr. Rahma Fitriani, S.Si., M.Sc Contoh Selesaikan permasalahan berikut: Digunakan titik awal x0 = (1, 1) Hitung vektor gradien pada titik tersebut: Dr. Rahma Fitriani, S.Si., M.Sc

Dr. Rahma Fitriani, S.Si., M.Sc Arah penurunan adalah: Sebesar  langkah yang akan dipilih sesuai permasalahan optimasi satu dimensi berikut Dr. Rahma Fitriani, S.Si., M.Sc

Dr. Rahma Fitriani, S.Si., M.Sc Solusi dari permasalahan tersebut diperoleh dari turunan pertama fungsi terhadap  yang disamadengankan nol Pada  =0.5 Update titik yang baru: Algoritma dihentikan karena pada titik baru ini vektor gradien sudah sama dengan nol Dr. Rahma Fitriani, S.Si., M.Sc

Algoritma Gradien (Steepest) Ascent Konsep sederhana: ikuti arah gradien uphill Proses: Pilih titik awal: x0 = ( x1, x2, …, xn ) Tentukan arah nai: f( xt ) Pilih panjang langkah penurunan:  Optimasi satu dimensi Update posisi titik baru: xt+1 = xt -   f( xt ) Kembali ke langkah 2 sampai kriteria pemberhentian terpenuhi Kriteria pemberhentian f( xt+1 ) ~ 0 Dr. Rahma Fitriani, S.Si., M.Sc