5. RANTAI MARKOV WAKTU DISKRIT Prostok-5-firda

5.1 Definisi Misal proses stokastik dengan indeks parameter diskrit dan ruang keadaan memenuhi (5.1) maka proses dinamakan Rantai Markov parameter diskrit, dan disebut peluang transisi. Prostok-5-firda

n (n = 0,1,2,…). Catat bahwa, menyatakan proses berada dalam keadaan i (i = 0 ,1, 2,…) pada waktu n (n = 0,1,2,…). 2. Nama rantai Markov ini diambil dari nama Andrei Markov (1856-1922) yang pertama meneliti kelakuan proses stokastik tersebut setelah proses dalam selang waktu yang panjang. Prostok-5-firda

3. Peluang bersyarat pada (5.1) menggambarkan histori keseluruhan, proses hanya tergantung pada keadaan sekarang X(n)=i, bebas dari waktu lampau, 0,1,2,…,n-1. Artinya, peluang bersyarat dari keadaan “mendatang” hanya tergantung dari keadaan “sekarang” dan bebas dari keadaan “yang lalu”. Sifat ini disebut sifat Markov atau Memory Less. Prostok-5-firda

Peluang transisi dari keadaan i ke keadaan j ( ) persamaan (5.1) hanya bergantung pada waktu sekarang, secara umum. Apabila peluang transisi bebas dari waktu n, maka disebut peluang transisi stasioner, dan rantai Markov disebut dengan Rantai Markov dengan peluang transisi stasioner. dan disebut juga, Rantai Markov Homogen. Prostok-5-firda

5.2 Contoh Rantai Markov 1. Barisan bilangan bulat. 2. Barisan variabel-variabel acak bernilai bilangan bulat yang saling bebas dan mempunyai distribusi peluang yang sama. 3. Random Walks yang didefinisikan sebagai Random Walks adalah proses melangkah dari suatu objek di garis bilangan dimana objek itu dapat bergerak ke kiri atau ke kanan. Prostok-5-firda

Akan ditunjukkan bahwa random walks (contoh 3) adalah rantai Markov. Perhatikan random walks yang hanya dapat bergerak ke kanan; Sifat di atas berlaku untuk semua n dan kombinasi Jadi, adalah rantai Markov. Prostok-5-firda

5.3 Matriks peluang transisi Misalkan adalah rantai Markov Homogen dengan ruang keadaan tak hingga, maka (5.2) menyatakan peluang transisi satu langkah dari keadaan i ke keadaan j . Prostok-5-firda

Matriks peluang transisi satu langkah dari didefinisikan sebagai Prostok-5-firda

Dalam kasus ruang keadaan i berhingga, i=0,1,…,m Maka P berukuran Prostok-5-firda

Contoh: Matriks peluang transisi untuk rantai markov dua keadaan : dua keadaan secara umum : Prostok-5-firda

3. Matriks peluang transisi untuk rantai markov empat keadaan : Prostok-5-firda

5.4 Diagram Transisi Rantai Markov dapat direpresentasikan sebagai suatu graf dengan himpunan verteksnya ruang keadaan dan peluang-peluang transisi digambarkan sebagai himpunan sisi yang berarah dengan bobot sisi menyatakan peluanngya. Graf yang merepresentasikan rantai Markov tersebut dinamakan diagram transisi dari rantai Markov tersebut. Prostok-5-firda

Contoh : 1. Diagram transisi dari contoh 1, dengan matriks peluang transisi 1 1 1 Catatan: lingkaran menyatakan state (keadaan), arah panah menyatakan peluang transisi dari keadaan i ke keadaan j. Prostok-5-firda

2. Diagram transisi dari contoh 2, dengan matriks peluang transisi dimana a 1 1-b 1-a b Prostok-5-firda

3. Misal di suatu daerah beredar dua sampo, yakni sampo A dan B. Suatu lembaga mengadakan survey penggunaan sampo, survey pertama mengatakan 40% orang daerah itu menggunakan sampo A dan 60 % menggunakan sampo B. Survey kedua mengatakan setiap minggunya, 15 % pengguna sampo A beralih ke B dan 5 % pengguna sampo B beralih ke A. Asumsikan jumlah pengguna sampo di daerah itu tetap. Buat mariks peluang transisi dan diagram transisi dari masalah tersebut. Prostok-5-firda

menyatakan sampo yang digunakan setiap minggu ke-n. Maka rantai Markov Jawab: Misal menyatakan sampo yang digunakan setiap minggu ke-n. Maka rantai Markov dengan ruang parameter {1,2,…,n,…} dan ruang keadaan Matriks peluang transisinya: Prostok-5-firda

Diagram transisinya : 0.15 A B 0.95 0.85 0.05 Prostok-5-firda

Latihan: 1. Seorang pemandu wisata yang berkantor di Jakarta bertugas mengantar wisatawan ke Bandung setiap minggunya. Jika diamati posisi pemandu wisata tersebut dalam 10 minggu seperti tabel berikut; Mgg 1 2 3 4 5 6 7 8 9 10 Kota J B Prostok-5-firda

a. Tentukan matriks peluang transisi dari posisi si pemandu wisata b. Gambarkan diagram transisinya c. Tentukan peluang transisi pemandu wisata dari Jakarta ke Bandung! 2. Gambarkan diagram transisi untuk rantai Markov dengan matriks peluang transisi berikut Prostok-5-firda

3. Ada dua kotak A dan B. Kotak A berisi 2 bola putih dan kotak B berisi 2 bola hitam. Dilakukan percobaan mengambil 1 bola secara acak dari masing-masing kotak, kemudian dipertukarkan ke kotak lainnya. Percobaan ini dilakukan berulang kali. Asumsikan state ke i (i = 0, 1, 2) menyatakan jumlah bola hitam di kotak A. a. Tentukan matriks peluang transisinya. b. Gambarkan diagram transisinya. Prostok-5-firda

4. Gambarkan diagram transisi untuk rantai Markov dengan matriks peluang transisi berikut Prostok-5-firda

5. Seorang Dokter praktek di tiga klinik berbeda (“A”,”B”,”C”), dengan jadual praktek selama 15 hari ke depan seperti tabel berikut : Hari 1 2 3 4 5 6 7 Klinik A B C Hari 8 9 10 11 12 13 14 15 Klinik A C B Prostok-5-firda

a. Tentukan matriks peluang transisi dari tempat praktek dokter tersebut. b. Gambarkan diagram transisinya. c. Tentukan peluang bahwa dokter tersebut tetap berpraktek di klinik “B”. Prostok-5-firda

5.5 Persamaan Chapman-Kolmogorov Sebelumnya telah didefinisikan peluang transisi satu langkah pada persamaan (5.2), Selanjutnya akan ditentukan peluang proses yang berada pada keadaan i akan berada pada keadaan j setelah n transisi (peluang transisi langkah ke-n), kita nyatakan dengan Prostok-5-firda

Sifat peluang rantai Markov secara lengkap digambarkan dengan peluang inisial (awal) dan peluang transisi sebagai berikut: (5.3) dimana adalah peluang awal. Prostok-5-firda

Misalkan menyatakan distribusi awal, dengan merupakan peluang awal, sehingga Prostok-5-firda

Selanjutnya akan dihitung melalui peluang transisi dengan Peluang transisi n langkah dapat dihitung dengan menjumlahkan semua peluang perpindahan dari keadaan i ke keadaan k dalam r langkah dan perpindahan dari keadaan k ke keadaan k pada sisa waktu n-r. Prostok-5-firda

Persamaan ini disebut persamaan Chapman-Kolmogorov. Dalam bentuk matriks ditulis, Prostok-5-firda

j k i r n r Interpretasi persamaan Chapman-Kolmogorov. Prostok-5-firda

n-langkah: Catat bahwa, Secara rekursif kita punya matriks peluang transisi n-langkah: Artinya, matriks peluang transisi langkah ke-n diperoleh dari matriks dipangkatkan n. Sehingga kita punyai, Prostok-5-firda

maka peluang gabungan dapat dihitung melalui Seperti persamaan maka peluang gabungan dapat dihitung melalui peluang awal (seperti distribusi awal ) dan peluang transisi (matriks P). Misal, merupakan peluang proses keadaan j pada waktu ke n. Prostok-5-firda

n langkah, sehingga berlaku Misal merupakan distribusi n langkah, sehingga berlaku maka Prostok-5-firda

Contoh: Dari contoh 3 subbab 5.4, tentukan distribusi pengguna sampo di daerah yang diteliti, lima minggu setelah survey berlangsung. Jawab : Tentukan distribusi awal; Dari survey pertama diperoleh , Prostok-5-firda

Tentukan matriks peluang transisi 5 langkah , Diperoleh distribusi pengguna sampo dalam lima minggu: Prostok-5-firda

Soal Diberikan matriks peluang transisi dari suatu rantai Markov, Tentukan distribusi langkah ke-n, untuk n=2,4,8 jika diasumsikan distribusi inisial Prostok-5-firda

2. Pandang matriks peluang transisi dari suatu rantai Markov, (i) Buatkan diagram transisinya . (ii) Tentukan (iii) Tentukan Prostok-5-firda