Implementasi dan Evaluasi Kinerja Load Balancing pada Server-Server Proxy di IPB Oleh: David Thamrin G64103002 Dibimbing oleh: Heru Sukoco S.Si., M.T Endang Purnama Giri, S.Kom

Departemen Ilmu Komputer IPB Pendahuluan 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Latar Belakang Keterbatasan provider (IPB): Memiliki 2 buah server proxy parent Beban kerja yang tidak seimbang (studi: Nanik Qodarsih)‏ 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Tujuan Mempelajari Mengimplementasikan Menganalisis perbaikan kinerja load balancing 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Ruang Lingkup Mengimplementasikan salah satu metode load balancing Mengukur kinerja server sebelum dan sesudah implementasi 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Manfaat Beban kerja terbagi secara adil Meningkatkan Reliabilitas Skalabilats Availabilitas server proxy di IPB 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Tinjauan Pustaka 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Load Balancing Pembagian beban menjadi seimbang. Teknik untuk memanfaatkan sumber daya secara lebih efektif. 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Metode Load Balancing DNS Round Robin Integrated Load Balancing Dedicated Load Balancing Load balancing dengan hardware Load balancing dengan software Load balancing dengan perpaduan hardware dan software 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Level Load Balancing Layer OSI Load balancing level aplikasi Load balancing level transport 10/19/2017 Departemen Ilmu Komputer IPB

Virtual Server dan Linux Virtual Server Dibangun dari sekelompok server Transparan dari pengguna 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Forwarding Method Network Address Translation (LVS-NAT) Tunnelling (LVS-TUN) Direct Routing (LVS-DR) 10/19/2017 Departemen Ilmu Komputer IPB

Algoritma Load Balancing Round-Robin Weighted Round-Robin Least-Connection Weighted Least-Connection Locality-Based Least-Connection Locality-Based Least-Connection with Replication Destination Hashing Source Hashing Shortest Expected Delay Never Queue 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Keepalived 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Hit Ratio Persentase dari semua request yang dapat dilayani oleh cache pada server proxy dibandingkan dengan seluruh koneksi yang diterima Hit ratio = (Jumlah hit/ Jumlah koneksi) * 100% 10/19/2017 Departemen Ilmu Komputer IPB

Metodologi Penelitian 10/19/2017 Departemen Ilmu Komputer IPB

Metodologi Penelitian Studi Pustaka Analisis lingkungan jaringan IPB Pengambilan data kinerja server proxy di IPB sebelum penerapan mekanisme load balancing Analisis dan pemilihan berbagai aspek load balancing Implementasi mekanisme load balancing Pengambilan data kinerja server proxy di IPB setelah penerapan mekanisme load balancing. Analisis kinerja 10/19/2017 Departemen Ilmu Komputer IPB

Analisis Lingkungan Jaringan IPB Server proxy 172.17.0.11 Spesifikasi Sistem Operasi Linux Redhat Enterprise Edition versi 3.0.1 kernel 2.4.21 Prosesor: Intel(R) Pentium(R) 4 CPU 1.5 GHz RAM 384 MB Harddisk 40 GB Server proxy Squid 2.5 Klien: Rektorat, Fapet, FKH, Fahutan, FEM, Baranangsiang, Cilebende, Cyber Merpati 10/19/2017 Departemen Ilmu Komputer IPB

Analisis Lingkungan Jaringan IPB (2) Server proxy 172.17.0.18 Spesifikasi: Sistem Operasi Linux OpenSuse versi 10.0 kernel 2.6.13 Prosesor: Intel(R) Pentium(R) 4 CPU 2.80 GHz RAM 1 GB Harddisk 80 GB Server proxy Squid 2.5 Klien: Faperta, FPIK, Fateta, FMIPA, Cyber Padi, Cyber Singkong, Cyber Staff, Cyber Jagung 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Pengambilan data kinerja server proxy sebelum penerapan mekanisme load balancing Parameter Perangkat Lunak Utilisasi CPU sysstat; sar; sa1 Utilisasi memori Throughput Converged Traffic Manager (CTM) Jumlah koneksi GAWK Hit ratio Perangkat lunak pendukung: PuTTY, WinSCP, gnuplot 10/19/2017 Departemen Ilmu Komputer IPB

Mekanisme Pengambilan Data Parameter Mekanisme Pengambilan Data Utilisasi CPU 10 hari kerja; jam kerja (08.00-16.00); interval 10 menit Utilisasi memori Throuhgput 10 hari kerja; keseluruhan hari (00.00-23.59); interval 5 menit Jumlah koneksi 10 hari kerja; keseluruhan hari (00.00-23.59); Hit ratio 10/19/2017 Departemen Ilmu Komputer IPB

Analisis dan pemilihan berbagai aspek load balancing Metode load balancing Algoritma penjadwalan Pembobotan 10/19/2017 Departemen Ilmu Komputer IPB

Dedicated load balancing dengan perpaduan hardware dan software Metode Load Balancing Performa yang baik Biaya terjangkau Dedicated load balancing dengan perpaduan hardware dan software 10/19/2017 Departemen Ilmu Komputer IPB

Algoritma Penjadwalan Spesifikasi berbeda Spesifikasi tinggi  lebih banyak beban Spesifikasi rendah  lebih sedikit beban Weighted Round Robin 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Pembobotan Sistem tuning. Putaran ke- Bobot Proxy 172.17.0.11 Proxy 172.17.0.18 1 2 3 4 5 10/19/2017 Departemen Ilmu Komputer IPB

Implementasi Mekanisme Load Balancing Kebijakan implementasi Spesifikasi director Pengujian 10/19/2017 Departemen Ilmu Komputer IPB

Kebijakan Implementasi Alternatif pertama: Director diberi alamat IP baru (misal 172.17.0.17) Alamat IP proxy tidak diubah Seluruh settings proxy pengguna harus diubah Butuh waktu lama Tidak semua pengguna mematuhi 10/19/2017 Departemen Ilmu Komputer IPB

Kebijakan Implementasi (2) Alternatif kedua: Director memegang alamat IP proxy (172.17.0.11 dan 172.17.0.18) Alamat IP proxy diubah (dan dirahasiakan) Transparan terhadap pengguna Langsung dapat dijalankan 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Topologi Jaringan 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Spesifikasi Director Komputer director master (172.17.0.50) Sistem Operasi Linux Fedora Core 6, kernel 2.6.18- 1.2798.fc6 Prosesor: Intel(R) Pentium (R) 4 CPU 3.00GHz Harddisk 80 GB RAM 384 MB 10/19/2017 Departemen Ilmu Komputer IPB

Spesifikasi Director (2) Komputer director backup (172.17.0.21) Sistem Operasi Linux Fedora Core 6, kernel 2.6.18- 1.2798.fc6 Prosesor: Intel(R) Pentium (R) 4 CPU 2.40GHz Harddisk 40 GB RAM 256 MB 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Pengujian Pengujian healthchecking Salah satu server proxy dinonaktifkan Pengujian director failover Director master dinonaktifkan Pengukuran utilisasi CPU Apakah load balancing membebani director? 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Pengambilan data kinerja server proxy sebelum penerapan mekanisme load balancing Teknis pengukuran sama seperti tahap 3 Pembobotan berbeda setiap 2 hari sekali 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Analisis Kinerja Membandingkan data sebelum dan sesudah implementasi Parameter kinerja load balancing Cumulative Density Function (CDF) Standar Deviasi (SD) 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Hasil dan Pembahasan 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Sebelum Implementasi 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Sebelum Implementasi (2) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Sebelum Implementasi (3) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Sebelum Implementasi (4) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Sebelum Implementasi (5) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Sebelum Implementasi (6) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Sebelum Implementasi (7) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Sebelum Implementasi (8) 10/19/2017 Departemen Ilmu Komputer IPB

Pengujian Tahap Implementasi Pengecekan kesehatan 18 Desember 2007 16.00-17.00 172.17.0.11 dinonaktifkan Director failover 4 Januari 2008 08.00-09.30 Director master dinonaktifkan 10/19/2017 Departemen Ilmu Komputer IPB

Pengujian Tahap Implementasi (2) 10/19/2017 Departemen Ilmu Komputer IPB

Pengujian Tahap Implementasi (3) Utilisasi CPU director Data sebelum implementasi diambil pada tanggal 6, 7, 9, 10, dan 12 Desember 2007 Data sesudah implementasi diambil pada tanggal 18, 19, dan 28 Desember 2007 serta tanggal 2 dan 3 Januari 2008 10/19/2017 Departemen Ilmu Komputer IPB

Pengujian Tahap Implementasi (4) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi Jadwal Pembobotan Bobot Tanggal 1:1 18 – 19 Desember 2007 1:2 27 – 28 Desember 2007 2:3 2 - 3 Januari 2008 3:5 4 dan 7 Januari 2008 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (2) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (3) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (4) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (5) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (6) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (7) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (8) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (9) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (10) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (11) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (12) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (13) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (14) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (15) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (16) 10/19/2017 Departemen Ilmu Komputer IPB

Data Kinerja Setelah Implementasi (17) 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Analisis Kinerja - CDF 10/19/2017 Departemen Ilmu Komputer IPB

Analisis Kinerja – SD CPU 10/19/2017 Departemen Ilmu Komputer IPB

Analisis Kinerja – SD Memori 10/19/2017 Departemen Ilmu Komputer IPB

Analisis Kinerja – Hit Ratio Keseluruhan Rata-rata Sebelum: 12.71% Setelah: 16.96% Naik ± 4% 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Kesimpulan dan Saran 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Kesimpulan Implementasi load balancing terbukti meningkatkan realibilitas, skalabilitas, dan availabilitas server proxy IPB Beban kerja terbagi adil, tanpa kebijakan Pembobotan yang paling baik 1:2 Hit ratio keseluruhan meningkat 4% 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Saran Variasi pembobotan Algoritma penjadwalan masih bermasalah Penggantian aspek-aspek load balancing Level Perangkat lunak dsb 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Terima Kasih 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Latar Belakang Solusi?? Pertumbuhan internet yang eksplosif Jumlah trafik meningkat Beban kerja meningkat Mekanisme load balancing 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Server Proxy Berada di antara pengguna dan server asli Sebagai cache 10/19/2017 Departemen Ilmu Komputer IPB

IP Virtual Server (IPVS) Implementasi load balancing dalam kernel Linux Dikembangkan oleh Wensong Zhang. 10/19/2017 Departemen Ilmu Komputer IPB

Keunggulan Metode Distribusi LVS LVS-NAT: sistem operasi dengan TCP/IP; Server dapat menggunakan alamat IP privat LVS-TUN: server mengembalikan paket langsung kepada pengguna; server dapat berada pada jaringan yang berbeda dari director LVS-DR: director hanya menangani setengah koneksi; tanpa overhead 10/19/2017 Departemen Ilmu Komputer IPB

Kelemahan Metode Distribusi LVS LVS-NAT: skalabilitas rendah; director dapat menjadi bottleneck LVS-TUN: server harus mendukung IP-tunneling; overhead; masalah ARP LVS-DR: director dan realserver harus berada pada segmen jaringan yang sama; masalah ARP 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Weighted Round Robin while (true) { i = (i + 1) mod n; if (i == 0) { cw = cw - gcd(S); if (cw <= 0) { if (cw == 0) return NULL; } if (W(Si) >= cw) return Si; 10/19/2017 Departemen Ilmu Komputer IPB

Virtual Router Redudancy Protokol (VRRP) Dikembangkan oleh IETF Router menggunakan alamat IP virtual yang sama Master – Backup RFC 3768 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Ipvsadm Antarmuka pengguna ipvs Baik untuk debugging 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Rekomendasi ITU-T E.500 ITU –T: Agen khusus PBB di bidang telekomunikasi Melakukan standardisasi telekomunikasi E.500: Prinsip pengukuran trafik Daily continuous measurement 10/19/2017 Departemen Ilmu Komputer IPB

Address Resolution Protocol (ARP) Protokol internet untuk memetakan alamat IP kepada alamat MAC RFC 826 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Throughput Ukuran sebenarnya dari informasi yang dikirimkan melalui suatu saluran bits/ second 10/19/2017 Departemen Ilmu Komputer IPB

Single Point of Failure (SPOF) Titik yang menghubungkan satu atau lebih peralatan jaringan. Apabila titik rusak, satu atau lebih workstation akan kehilangan konektivitas jaringan 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Studi Pustaka Pengumpulan informasi Buku, jurnal, artikel 10/19/2017 Departemen Ilmu Komputer IPB

Perangkat Lunak Load Balancing Stabil Telah teruji Skalabilitas dan availabilitas tinggi Telah banyak digunakan Gratis Linux Virtual Server (LVS) 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Level Load Balancing Level aplikasi overhead tinggi Server proxy hanya perlu meneruskan permintaan dari pengguna tanpa perlu mengetahui isi dari permintaan tersebut Level IP 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Metode Forwarding Setengah koneksi Tanpa overhead Kelemahan ARP Satu segmen LVS-DR (Direct Routing) OK 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Teknis Implementasi Kebutuhan minimum: Ipvs Kernel devel linux Compiler gcc Openssl Popt Ipvsadm Keepalived Masalah ARP Firewall Konfigurasi Squid 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Availabilitas Salah satu server rusak? SPOF? Pengecekan kesehatan VRRP – Director failover 10/19/2017 Departemen Ilmu Komputer IPB

Departemen Ilmu Komputer IPB Arsitektur LVS di IPB 10/19/2017 Departemen Ilmu Komputer IPB