Modeling and Optimization

Presentasi berjudul: "Modeling and Optimization"— Transcript presentasi:

1 Modeling and Optimization
Deni Saepudin Lecture 2 Model linear : Curve Fitting

2 Building model based on data
Price (Thousands of $) $150 - $169 $170 - $189 $190 - $209 $210 - $229 $230 - $249 $250 - $269 $270 - $289 Sales of New Homes This Year 126 103 82 75 40 20 Penyederhanaan Price (Thousands of $) $160 $180 $200 $220 $240 $260 $280 Sales of New Homes This Year 126 103 82 75 40 20

3 Linear Curve Fitting Bila jumlah penjualan diasumsikan bergantung linear terhadap harga Y = 1x + 0, x menyatakan harga Y menyatakan jumlah penjualan Bagaimana menaksir parameter 1 dan 0? Definisi: Jarak vertikal Jarak vertikal antara garis Y = 1x + 0 ke titik Pi(xi, yi) ei = |yi – (1xi + 0)| = |yi – 1xi –0 | Garis Y = 1x + 0 dipilih sehingga jumlah kuadrat jarak vertikal terkecil

4 Linear Least Square Garis kuadrat terkecil Y = 1x + 0 untuk himpunan titik (x1,y1), (x2,y2),…,(xn,yn) dapat diperoleh dari masalah peminimuman Bagaimana menentukan nilai 1 dan 0 yang memenuhi masalah optimasi? Berdasarkan kalkulus, syarat perlu agar J(1, 0) mencapai minimum Atau Dengan asumsi J fungsi yang terdifferensialkan Maka, titik kritis

5 Aturan Cramer

6 Sales of New Homes This Year
Model demand utk rumah Price (Thousands of $) $160 $180 $200 $220 $240 $260 $280 Sales of New Homes This Year 126 103 82 75 40 20 x y xy x2 160 126 20,160 25,600 180 103 18,540 32,400 200 82 16,400 40,000 220 75 16,500 48,400 240 19,680 57,600 260 40 10,400 67,600 280 20 5,600 78,400 Sums x = 1,540 y = 528 xy = 107,280 x2 = 350,000

7 Demand model

8 Nonlinear Fitting Contoh: Data Penjualan komputer compaq
Diberikan sekumpulan data: (x1,y1),(x2,y2),…,(xn,yn) Jika hubungan antara Y dan X diasumsikan Y = eX lnY = ln  +X Maka Ytopi = lnY 0 = ln  1 =  Contoh: Data Penjualan komputer compaq t = Year (1990 = 0) 2 4 7 R = Revenue ($ billion) 3 11 25

9 Pengganti Tugas 1 Carilah model keuntungan penjualan komputer berdasarkan data penjualan komputer Compaq Gunakan asumsi bahwa modelnya eksponesial Buat plot data empirik dan model yang diperoleh dalam satu gambar

10 Nonlinear Fitting Diberikan sekumpulan data: (x1,y1),(x2,y2),…,(xn,yn)
Jika hubungan antara Y dan X diasumsikan Y = x lnY = ln  +lnX Maka Ytopi = lnY Xtopi = lnX 0 = ln  1 =  Jika diasumsikan

11

12 Gradient Descent Diketahui permukaan z = f(x,y)
dengan kurva ketinggian Dinyatakan pada gambar. Berangkat dari (x0,y0), nilai f(x,y) menurun paling cepat Bila bergerak dalam arah -f(x0,y0) Contoh: Bila f(x,y) = x2+y2 dan P0(2,1), maka f(P0) = 5. Arah gerak agar nilai f menurun paling besar di titik P : (-8,-2) Pbaru = P0 + (-4,-2) = (2,1) + (-4,-2) Utk  = 0.1, Pbaru = (1.6,0.8). Nilai f(Pbaru) = 2.08 Utk  = 0.2, Pbaru = (1.2,0.6). Nilai f(Pbaru) = = 1.8

13 Grad. Descent utk Reg. Linear
ekivalen dengan Berangkat dari (1(0), 0(0)) , arah pergerakan yang memberikan penurunan paling besar : -J (1(0), 0(0)) Sehingga, iterasi (1(k+1), 0(k+1))=(1(k), 0(k)) -J (1(k), 0(k)) konvergen ke nilai minimum ‘lokal’ dari J untuk suatu nilai  yang cukup kecil. Ulangi proses sampai konvergen 1 = 1 +(yi- 1xi - 0)xi 0 = 0 +(yi- 1xi - 0)

14 Grad. Descent utk Reg. Linear (Perumuman)
Berangkat dari arah pergerakan yang memberikan penurunan paling besar : -J ((0)) Sehingga, iterasi  (k+1) =  (k) -J(k), konvergen ke nilai minimum ‘lokal’ dari J untuk suatu nilai  yang cukup kecil. Ulangi proses sampai konvergen k = k +(yi- Txi)xik, k=1,2,…,M Xi0 = 1 untuk semua i=1,2,…,N

15 Data Annual Gold Price Tahun 10-11 Maret ($USD/Toz) 2000 286 2001
261.9 2002 294 2003 340 2004 406 2005 424 2006 557 2007 654.9 2008 968 2009 924 2010 1113 2011 1424

16 Logistic Fitting Diberikan sekumpulan data: (x1,y1),(x2,y2),…,(xn,yn)
Jika Y bernilai biner {0,1} dan diasumsikan dengan Z = 0 + 1X Maka nilai 0, 1 diperoleh Gradien Descent: 1= 1-R/1 0= 0-R/0 Student id Outcome Quantity of Study Hours 1 3 2 34 17 4 6 5 12 15 7 26 8 29 9 14 10 58 11 31 13

17 Logistic Fitting (Generalization)
Diberikan sekumpulan data: (x1,y1),(x2,y2),…,(xn,yn) Jika Y bernilai biner {0,1} dan diasumsikan dengan Z = TX Gradien Descent: k= k-R/k