Modeling and Optimization Deni Saepudin Lecture 2 Model linear : Curve Fitting
Building model based on data Price (Thousands of $) $150 - $169 $170 - $189 $190 - $209 $210 - $229 $230 - $249 $250 - $269 $270 - $289 Sales of New Homes This Year 126 103 82 75 40 20 http://people.hofstra.edu/stefan_waner/realworld/calctopic1/regression.html Penyederhanaan Price (Thousands of $) $160 $180 $200 $220 $240 $260 $280 Sales of New Homes This Year 126 103 82 75 40 20
Linear Curve Fitting Bila jumlah penjualan diasumsikan bergantung linear terhadap harga Y = 1x + 0, x menyatakan harga Y menyatakan jumlah penjualan Bagaimana menaksir parameter 1 dan 0? Definisi: Jarak vertikal Jarak vertikal antara garis Y = 1x + 0 ke titik Pi(xi, yi) ei = |yi – (1xi + 0)| = |yi – 1xi –0 | Garis Y = 1x + 0 dipilih sehingga jumlah kuadrat jarak vertikal terkecil
Linear Least Square Garis kuadrat terkecil Y = 1x + 0 untuk himpunan titik (x1,y1), (x2,y2),…,(xn,yn) dapat diperoleh dari masalah peminimuman Bagaimana menentukan nilai 1 dan 0 yang memenuhi masalah optimasi? Berdasarkan kalkulus, syarat perlu agar J(1, 0) mencapai minimum Atau Dengan asumsi J fungsi yang terdifferensialkan Maka, titik kritis
Aturan Cramer
Sales of New Homes This Year Model demand utk rumah Price (Thousands of $) $160 $180 $200 $220 $240 $260 $280 Sales of New Homes This Year 126 103 82 75 40 20 x y xy x2 160 126 20,160 25,600 180 103 18,540 32,400 200 82 16,400 40,000 220 75 16,500 48,400 240 19,680 57,600 260 40 10,400 67,600 280 20 5,600 78,400 Sums x = 1,540 y = 528 xy = 107,280 x2 = 350,000
Demand model
Nonlinear Fitting Contoh: Data Penjualan komputer compaq Diberikan sekumpulan data: (x1,y1),(x2,y2),…,(xn,yn) Jika hubungan antara Y dan X diasumsikan Y = eX lnY = ln +X Maka Ytopi = lnY 0 = ln 1 = Contoh: Data Penjualan komputer compaq t = Year (1990 = 0) 2 4 7 R = Revenue ($ billion) 3 11 25
Pengganti Tugas 1 Carilah model keuntungan penjualan komputer berdasarkan data penjualan komputer Compaq Gunakan asumsi bahwa modelnya eksponesial Buat plot data empirik dan model yang diperoleh dalam satu gambar
Nonlinear Fitting Diberikan sekumpulan data: (x1,y1),(x2,y2),…,(xn,yn) Jika hubungan antara Y dan X diasumsikan Y = x lnY = ln +lnX Maka Ytopi = lnY Xtopi = lnX 0 = ln 1 = Jika diasumsikan
Gradient Descent Diketahui permukaan z = f(x,y) dengan kurva ketinggian Dinyatakan pada gambar. Berangkat dari (x0,y0), nilai f(x,y) menurun paling cepat Bila bergerak dalam arah -f(x0,y0) Contoh: Bila f(x,y) = x2+y2 dan P0(2,1), maka f(P0) = 5. Arah gerak agar nilai f menurun paling besar di titik P : (-8,-2) Pbaru = P0 + (-4,-2) = (2,1) + (-4,-2) Utk = 0.1, Pbaru = (1.6,0.8). Nilai f(Pbaru) = 2.08 Utk = 0.2, Pbaru = (1.2,0.6). Nilai f(Pbaru) = 1.44+0.36 = 1.8
Grad. Descent utk Reg. Linear ekivalen dengan Berangkat dari (1(0), 0(0)) , arah pergerakan yang memberikan penurunan paling besar : -J (1(0), 0(0)) Sehingga, iterasi (1(k+1), 0(k+1))=(1(k), 0(k)) -J (1(k), 0(k)) konvergen ke nilai minimum ‘lokal’ dari J untuk suatu nilai yang cukup kecil. Ulangi proses sampai konvergen 1 = 1 +(yi- 1xi - 0)xi 0 = 0 +(yi- 1xi - 0)
Grad. Descent utk Reg. Linear (Perumuman) Berangkat dari arah pergerakan yang memberikan penurunan paling besar : -J ((0)) Sehingga, iterasi (k+1) = (k) -J(k), konvergen ke nilai minimum ‘lokal’ dari J untuk suatu nilai yang cukup kecil. Ulangi proses sampai konvergen k = k +(yi- Txi)xik, k=1,2,…,M Xi0 = 1 untuk semua i=1,2,…,N
Data Annual Gold Price Tahun 10-11 Maret ($USD/Toz) 2000 286 2001 261.9 2002 294 2003 340 2004 406 2005 424 2006 557 2007 654.9 2008 968 2009 924 2010 1113 2011 1424
Logistic Fitting Diberikan sekumpulan data: (x1,y1),(x2,y2),…,(xn,yn) Jika Y bernilai biner {0,1} dan diasumsikan dengan Z = 0 + 1X Maka nilai 0, 1 diperoleh Gradien Descent: 1= 1-R/1 0= 0-R/0 Student id Outcome Quantity of Study Hours 1 3 2 34 17 4 6 5 12 15 7 26 8 29 9 14 10 58 11 31 13
Logistic Fitting (Generalization) Diberikan sekumpulan data: (x1,y1),(x2,y2),…,(xn,yn) Jika Y bernilai biner {0,1} dan diasumsikan dengan Z = TX Gradien Descent: k= k-R/k