EVALUASI PKP DR. ROBIANA MODJO, MKES

EVALUASI PROGRAM Tujuan: memperbaiki program Evaluasi: “pemeriksaan sistematik dan penilaian tentang keutamaan suatu inisiatif dan pengaruhnya, agar menghasilkan informasi yang dapat digunakan oleh mereka yang berminat dalam hal perbaikan atau efektivitasnya”

Manfaat mempengaruhi pembuat keputusan dan penyumbang dana, agar program dapat berlanjut (sustainable) membangun kapasitas kelompok masyarakat dan melibatkannya memberitahu apa yang dapat bekerja dan yang tak dapat bekerja, dibanding dengan kelompok-kelompok masyarakat yang lain

Enam langkah evaluasi program Melibatkan stakeholders Menggambarkan atau merencanakan program (3 komponen gambaran program: stadium program, pernyataan masalah, model logic). Stadium program minimal 3 langkah : memahami masalah dan kebutuhan promosi kesehatan (melalui penilaian risiko kesehatan atau survai lain), perencanaan dan implementasi Fokus pada evaluasi Kumpulkan bukti yang dapat dipercaya (credible evidence) Memberikan alasan bagi kesimpulan-kesimpulan Memastikan bahwa pelajaran yang dipelajari digunakan dan dibagi (share lessons learned)

Perbedaan evaluasi program dari evaluasi riset dasar Evaluasi lebih oleh peneliti sesuasi design Lebih menekankan validitas external dan internal Lebih menekankan asosiasi Lebih terkendali ketat Dibatasi oleh timeframe yang spesifikLebih sempit Lebih bebas nilai Lebih untuk penambahan pengetahuan Evaluasi program Evaluasi dikendalikan oleh stakeholders Standar termasuk kegunaan, feasibilitas,akurasi, kewajaran (fairness) Menilai kegunaan dan kepentingan Holistik dan fleksibel, dapat dirubah Evaluasi tentang apa yang sedang berjalan Jangkauan (scope) luas agar integratif Pertimbangan tergantung nilai –nilai yang dinyatakan oleh stakeholders Penggunaan data wajib untuk perbaikan program

EVALUASI DALAM PROMOSI KESEHATAN DI TEMPAT KERJA MENILAI “OBJECT INTEREST” (PROGRAM) terhadap PENCAPAIAN NILAI STANDAR Object Interest misalnya : Meningkatakan PENGETAHUAN Perubahan perilaku Penurunan risiko Nilai Standar misalnya 25% pekerja stop rokok 80% penderita taat program penurunan tensi 10% tiap bulan peserta fitnes Isu penting PKP meningkatkan kesehatan pekerja Cost efektif

TUJUAN EVALUASI Bisnis: Dana Program PKP efisien & Efektif? Accountability: Tujuan PKP tercapai? Ilmu & Aplikasi: Informasi bagi pengusaha & pekerja dalam menentukan kebijakan (mis perubahan gaya hidup & pemeliharaan kesehatan)

METODA EVALUASI Variasi: Tujuan Program, Mis : Sederhana & murah kompleks & Mahal, tergampang Tujuan Program, Mis : Meningkatkan Kesadaran Perubahan Perilaku Penurunan risiko

METODA EVALUASI...lanjut Dasar perbandingan, Mis : Perubahan dalam jangka waktu tertentu. Perubahan antar kelompok Perubahan berdasarkan STD/target Sumber Daya yang ada, Mis : Pencatatan Sederhana Statistik Epidemiologi

TINGKAT EVALUASI Berdasarkan level/tingkat (tradisional) Evaluasi Proses/formatif Fokus :- cara melaksanakan program cara menilai kualitas & kelayakan praktis, Mis: Jumlah brosur yang didistribusi Kualitas informasi mis. Tentang program fitness Level instruktur dan atau cara mengajar

TINGKAT EVALUASI EVALUASI PENCAPAIAN/OUTPUT Fokus : menilai efek kegiatan program, Mis Perubahan pengetahuan, sikap, perilaku Profil faktor risiko penurunan morbiditas & mortalitas muda

TINGKAT EVALUASI…lanjut Berdasarkan basis pengukuran Efek jangka pendek Jumlah kursus yang diminta Jumlah sesi yang diikuti Peningkatan pengetahuan factor risiko PJK Peningkatan keyakinan atas pencegahan penyakit kronik Peningkatan disiplin pengendalian tensi Peningkatan peserta senam aerobik Penurunan pencegahan rokok Penurunan konsumsi lemak

TINGKAT EVALUASI…lanjut Efek jangka panjang (tidak langsung) Produktifitas Absenteisme (Absence Rate) Claim biaya asuransi Incidence Rate & Severity Rate Morbiditas & Mortalitas PJK

Contoh Standar Pengukuran dari Bureau of Labor Statistics (BLS) Incidence Rate Measures the number of absences per 100 employees during a given time period Absence Rate Measures the percent of time lost due to absenteisme per 100 employees Severity Rate Measures of the average time that an absent employee loses during a given periode

Incidence Rate Number of workers absent ----------------------------------- X 100 Total employees Hitunglah, suatu perusahaan mempunyai jumlah karyawan 250 orang, jika dalam satu minggu ada 15 karyawan yg tidak masuk (absent) berapakah Incidence rate-nya?

Intepretasi: Incidence rate: 15 x 100 = 6% 250 Setiap 100 karyawan pada perusahaan ini, dalam seminggu ada 6 orang yang absent

Absence Rate: Number of hours absent --------------------------------------------- X 100 Number of hours usually worked Jika ke 250 karyawan pada perusahaan tsb. Bekerja selama 40 jam setiap minggunya, sementara ke15 karyawan masing2 tidak masuk selama 3 hari, hitunglah berapa absence rate perusahaan tsb!

15 (3 x 8 jam) Absence rate = ----------------------- X 100 240 x 40 jam = 3,6% INTEPRETASI Menjelaskan; ada sekitar 3,6% dari jam kerja hilang karena karyawan absen/tdk masuk

Severity rate: Average number of hours lost by absent employee -------------------------------------------------------------------- X 100 Average number of hours usually worked Jika 3 karyawan di atas sakit selama 8 jam, maka berapa severity rate-nya?

Severity rate: 3 x 8 24 ----------- X 100 = -------- X 100 = 20% INTEPRETASI 20% of the scheduled time was lost!

STANDAR OF ACCEPTABILITY Standar Normatif Pencapaian pengalaman industri lain. Misalnya : tiap 6 bulan peserta fitness meningkat 10% (setelah program PKP) Standar Historical Pencapaian intern periode lalu Misalnya : Tahun lalu perokok menurun 10% Standar tahun ini/nilai standar: 10%

STANDAR OF ACCEPTABILITY lanjutan… Standar teoritis Pencapaian penelitian dengan intrervensi di lab/klinis Misalnya : di UI di LKKK strategi pendidikan untuk meningkatkan program fitness partisipasi fitness mahasiswa 40 % Standar pembanding : 40 % Peningkatan perbedaan setting, mahasiswa tidak sama pekerja

STANDAR OF ACCEPTABILITY lanjutan… Standar Absolut Level tertinggi yang dapat dicapai Tidak realistis. Misalnya perokok menurun 100% Standar Kompromi Pertimbangan atas kombinasi nilai standar lain Misalnya : standar kompromi penurunan jumlah perokok : 35% Atas dasar : - Standar normative 30% - Standar historical 20% - Standar teoritis 40% - Standar absolut 100%

DISAIN EVALUASI Keterbatasan disain PKP yang ada : Disain penelitian: logis /akurat (kerangka konsep) Populasi kontrol / pembanding sulit didapat Gagal menilai perubahan perilaku (hanya pengetahuan/sikap) Jangka pendek  sulit mendapatkan jawaban pasti Lain-lain : praktis/aplikasi,etika, dana Misalnya : sulit mendapatkan populasi secara random/acak karena isu informed consent & atas dasar sukarela hampir tidak ada kelompok kontrol yang ideal

DISAIN EVALUASI lanjutan… Kompromi pemilihan disain: Pertimbangkan keterbatasan disain Pertimbangkan keterbatasan organisasi (ekonomis) Sesuaikan level penilaian dengan tujuan program, S.D yang ada Memilih dari bab contoh disain Relasi perusahaan & pekerja Benefit pekerja Pajak (potongan) Investasi kesehatan Pekerja

DISAIN EVALUASI lanjutan… THE HISTORICAL, RECORD KEEPING APPROACH THE INVENTORY APPROACH COMPARATIVE APPROACH THE CONTROLLED COMPARISON (QUASI-EXPERIMENTAL APPROACH) THE CONTROLLED EXPERIMENTAL APPROACH THE FULL BLOWN EVALUATIVE RESEARCH PROJECT

Types of Evaluation Design in Workers’ Health Promotion Program . v

The Historical, Record Keeping Approach Membuat prosedur pencatatan data akumulatif Data dalam tabel / grafik kumulatif Memperlihatkan program pelaksanaan program

THE INVENTORY APPROACH Tentukan : - Waktu penilaian berkala - Target pencapaian - Cara survai / Observasi Contoh 1 Program Kontrol Hipertensi di Gimbels & Bloomingdale, tahun 1973 3000 pekerja hipertensi , 2220 diikutkan dalam program Tim a perawat protocol penanganan biaya konsultasi, lab, obat  beban perusahaan  data ekonomis : Biaya pengobatan & perawatan, absenteisme menurun tiap tahun data medis : - status tensi menurun tiap bulan - kasus rawat inap menurun tiap trahun - mortalitas 5 tahun menurun tiap 5 tahun

THE INVENTORY APPROACH Contoh 2 Program penurunan BB di perusahaan minyak Texas Pendidikan 8 sesi @ 1 jam/mg oleh ahli gizi yang ahli prilaku  kuesioner data awal - Diet & prilaku BB, TB, trisep skin fold Contoh 3 Program stop rokok the Campbell soup company Klas stop rokok oleh P.T.  Data periodic 1.5, 3, 6,12 bulan dicatat oleh S.D.M internal - evaluasi oleh Perusahaan F.U. 6 bulan  25% masih patuh

COMPARATIVE APPROACH Menggunakan data & format eks sebagai pembanding/standar evaluasi. Dari perusahaan lain. Misalnya : Bell System menggunakan AT & T program stop rokok Evaluasi - pada bulan ke 3-6. 12. - 70& perokok akan kambuh Standar Nasional Standar Regional Standar Internasional

THE CONTROLLED COMPARISON (QUASI-EXPERIMENTAL APPROACH) Membandingkan kelompok intervensi dengan kelompok pembanding K. pembanding dari perusahaan lain yang mirip settingnya Kelompok 1. diberi pendidikan elemen PKP yang intensif, all out 2. Tidak diberi pendidikan ttg PKP masing-masing kelompok dibagi subkelompok berdasarkan karakteristik tertentu : umur sex pendidikan dll Contoh. Untuk hipertensi Kelompok 1. Deteksi & dirujuk untuk terapi di luar 2. penanganan di tempat kerja dengan obat 3. tidak di intervensi

STRUCTURAL MODEL 1.Combined risk reduction LDL Cholesterol & Triglyceride reduction ; HDL Cholesterol increase High nutrients balanced calories Atherosclerosis reduction Cardiovascular events reduction (and other chronic degenerative diseases) - Hypertension reduction Dynamic Physical Move Diabetes Mellitus reduction Obesity reduction Fresh air without smoke 1.Combined risk reduction 2. Work Capacity increase 3. Health status increase Other risk factors (minor) reduction, except age,sex, genetic

Logical Model for Evaluation of Implementation Stage of Workplace Health Promotion INPUT ACTIVITY Number of workers who attend the group training (% total) Curriculum available Policy & regulation Exercise facilities’ adding and the access to those facilities is easier than before OUTPUT1 OUTPUT2 EDUCATION Curriculum development Group training Questionnaire with feedback Appreciative consultation Social marketing Contest Increase proportion of workers who believe that the threat of CVD is serious; that it can happen to them with probability depends on their position in combined risk category; that the recommended actions are effective to avert the danger, that they are capable to perform the recommended action s including overcoming barriers (e.g time, cost, etc) Resources: Staffs Money Materials Time ORGANIZATION Advisory Committee for Leadership & partnership since planning stage Local policy & regulation Social support Standards selection ENVIRONMENT Smoke free zone/segregated ventilation planning Supply of heart healthy nutrition (high nutrition). New catering contract & caterer Exercise facilities & access INFLUENTIAL FACTORS Management commitment, funding, socioeconomic factors, government support, community facilities, mass media & advertisement

INPUT ACTIVITY OUTPUT INITIAL OUTCOME Increase p roportion of workers whose biological indices (indirect indicators) are normal: 1. Body Mass Index: 18.5 – 22.9 2. Physical Work Capacity: Male > 9.75 METs Female > 8.63 METs 3. LDL Chol. <130 mg/dl HDL Chol. >45 mg/dl Triglyceride < 200 mg/dl 4. Blood pressure < 120/80 5. Blood glucose 70 - 110 6. Waist circumference: Male < 90 cm; female <80 cm *Increase proportion of green card holders (low combined risk category) among workers *Increase proportion of workers with adequate PWC Reduction of morbidity and mortality of CVD and other chronic diseases Reduction of sickness absenteeism (LWDC) 1. Reduction of medical cost Reduce morbidity & mortality due to CVD and other chronic diseases sickness absenteeism medical cost Increase proportion of workers who practice recommen ded actions as routine life style: Eat high nutrient pyramid 1.1. Vegetables 4 5 X/d 1.2. Fruits 4 1.3. Whole grains 3 4 X/d 1.4. Beans, tahu, tempe 1 3 X/d 1.5. Fish, poultry,eggs, 1 2 X/d 1.6. Red meat sparingly (1 2 X/w) 1.7. Plant oils, e.g. canola, soy corn, olive, sunflower (1 1.8 Calories according to body weight in BMI 18.5 1.9. Drink water/liquid approx. 8 glasses /d 2. Relax by Dynamic Body Move 2.1. Cardio fitness move: at least 30 min ea.( 3000 steps) ; 3 X/w 2.2. Muscular streng th move: 20 30 min ea; 2X/w 2. 3. Flexibility move (warm up & cool down): 10 min before and after 2.1. and 2.2. Breathe in fresh air without smoke (Increase proportion of workers who do not smoke) Healthy workers in healthy company . Increase dynamism, innovation, creativity, togetherness, accomplishment, work performance, productivity, competitiveness, survival , well fare GOAL Advisory Co mmittee leads implementation of local policy and regulations, social support, and acceptable standards Supply of high nutrient pyramid is implemented. Exercise facilities and accessibility are available. Segregated ventilation for smokers and smoke free zone for all are implemented. INFLUENTIAL FACTO R: management commitment, funding, socioeconomic factors, community facilities, government support, mass media & advertisement INPUT ACTIVITY OUTPUT INITIAL OUTCOME

Evaluation design of Quasi-experimental approach

THE CONTROLLED EXPERIMENTAL APPROACH Prosedur seperti uji klinik Seleksi acak : kelompok intervensi/tidak Masing-masing ada subkelompok Contoh : 4 Sub kelompok diberi pendidikan anti ca. payudara dengan metoda pendidikan yang berbeda 2 sub kelompok tanpa intervensi (pendidikan setelah program selesai)

THE FULL BLOWN EVALUATIVE RESEARCH PROJECT Kelompok tidak layak pada kebanyakan program PKP Model Evaluasi dikombinasi elemen program campuran Misalnya Kelompok 1 : rokok 2 : rokok & fitnes 3 : fitnes 4 : intervensi / program - 5 : rokok, fitness, cholesterol, tensi Masing-masing kelompok ada sub kelompok berdasarkan umur, sex, etnis dll.