Item Development and Review Workshop

Presentasi berjudul: "Item Development and Review Workshop"— Transcript presentasi:

1 Item Development and Review Workshop
Health Professional Education Quality Project (HPEQ-Nurse)

2 Heru Supriyatno, MN Pendidikan: Akper Karya Husada Semarang, 1987
MN: Univ. of Melbourne Australia, 2003 Pekerjaan (saat ini): Dosen Jurusan Keperawatan Poltekkes Kemenkes Semarang Organisasi (saat ini): Sekretaris Forkom Jurusan Keperawatan Poltekkes Kemenkes RI Anggota Bidang Diklat AIPDiKI Anggota HIPMEBI Jawa Tengah

3 Objektif Memahami prinsip: Dasar-dasar ujian regional/nasional
Dasar prinsip assesment Standar kualitas soal MCQ (type A) Prinsip-prinsip proses review Mampu melakukan Self review Review soal orang lain

4 LATAR BELAKANG Era perdagangan bebas barang & jasa
Dampak ganda: kesempatan kerja yang luas dan persaingan yang semakin ketat TANTANGAN MENINGKATKAN DAYA SAING & KEUNGGULAN KOMPETETITIF YANG MEMENUHI STANDARD KEBUTUHAN GLOBAL

5 Urgensi ujian nasional
Uji nasional adalah proses standarisasi penilaian kemampuan Menegakan akuntabilitas profesional Menegakan standard dan ethik profesi Melindungi kepercayaan publik Melindungi pemberi jasa

6 Tahapan uji nasional Pembentukan dan validasi standar kompetensi oleh stakeholders Menentukan kompetensi dasar yang diujikan Pembuatan blue print sesuai objektif dari pendidikan (kriteria lulusan  Perawat) Menentukan model test yang efektif dan efisien Membuat instrument test yang valid/reliable (psychometric principles) Membuat standard setting dan proses pengambilan putusan

7 MEKANISME PEMBUATAN SOAL UJI PROFESI
Pelatihan Pembuatan soal Perwakilan di bidang keilmuan Pembuatan soal Sesuai keilmuan Kumpulan soal Narasumber Pengembang Soal Set Booklet Soal Ujian Edit Bank soal Sementara Revisi soal Sub.Bid. PS Uji coba soal Merakit Soal Bank soal Item Review Oleh Dewan Profesi

8 Mekanisme Soal Institusi?
Kisi-kisi untuk mecapai ‘graduate attribute’ Standarisasi pengetahuan ‘pembuatan soal’ Pembuatan soal  peer review Telaah soal setelah diujikan  perbaikan ASSESMENT UNIT

9 Langkah Pengembangan Soal Tes
menyusun spesifikasi tes, menulis soal, menelaah soal tes, melakukan uji coba tes, menganalisis butir soal, memperbaiki tes, marakit tes, melaksanakan tes, menafsirkan hasil tes

10 Pilihan assessment Menentukan level kompetensi lulusan baru
Menentukan kompetensi mana yang paling penting dalam perspektif public safety Menetukan apa yang bisa di tes dengan alat ukur yang telah ditetapkan

11

12 Blue Print Assessment Program Study (contoh)
Kompetensi Tahun I Tahun II Tahun III Komunikasi MCQ/OSCE OSCE KetrampilanKlinis Mini CEX, Direct observation Manajemen kasus MCQ MCQ, MINI CEX, log book MCQ,, MINI CEX, log book, portfolio, Clinical rating form Pengembangan prof. PBL/tutor/peer rating Masfuri 12

13 Blue print: Manajemen Kasus (contoh MCQ)
Kompetensi Level Kognitif Pengetahuan Kompre. Aplikasi Berpikir Kritis AnFisPatkon 4 Farmakologi 5 3 Pengkajian 8 10 Rencana Implemen 14 Evaluasi

14 Kompetensi Lulusan Apa yang akan diujikan ?
Kompetensi Perawat Berpengalaman Kompetensi Lulusan Kompetensi Transisi (menengah) Kompetensi awal (masuk)

15 Kedalaman (kompleksitas) Soal
No. Level Kompetensi Contoh Kedalam Kajian 1 Kompetensi perawat profesional berpengalaman Mampu melakukan setting ventilator berdasarkan hasil analisa gasa darah dan tanda-tanda vital pasien 2 Kompetensi lulusan perawat (diujikan) Mampu melakukan monitoring tanda- tanda vital non invasive pada pasien syok dan melakukan tindakan awal yang Diperlukan 3 Kompetensi transisi (mahasiswa perawat) Mampu melakukan berbagai cara pengukuran tanda-tanda vital 4 Kompetensi awal (saat masuk kuliah) Mampu menjelaskan anatomi dasar tubuh manusia.

16 Kenapa MCQ A type ? Paling umum digunakan ujian lisensi oleh profesi-profesi (standardized test) Sejarah panjang riset tentang psychometric Cost effective untuk skala besar Paling objektif & reliable (tanpa halo effect) Memungkinkan berbagai variasi dan topik Sulit & memakan waktu untuk dibuat

17 Evidence… Health Education Institution Exit exam (HESI E2)  predictor of NCLEX RN  employment success (Reiter, 2005; Joho, 2007) HESI Exit Exam (E2) was 96.30% to 98.30% accurate in predicting NCLEX-RN success (Britt, 2007) E2 scores are potentially useful determinants of the new graduate nurses’ ability to assume entry-level positions within the practice setting (Pine, 2007)

18 Masalah Ujian Isi yang diujikan kurang relevan Dominasi soal recalling
Proporsi tidak konsisten Soal ada yg terlalu mudah/sulit Soal yang tidak layak masih sering keluar Tidak ada review thd soal yang digunakan

19 Tahap Penjaminan Mutu Input Process Output Review Process Try-out
Examination guideline Report on Examination Feedback process. Item Bank Output Criterion-reference. Standard setting exercise Blueprinting Item Writer Standard Item Reviewer Standard ICT support

20 Kompetensi Esensial Terujikan
Ujian diharapkan memenuhi tingkat safety Bagi Perawat baru lulus: Penciri Perawat (Kompetensi Inti) Sangat penting dan prinsip untuk dikuasai Sangat sering dilakukan SEBUTKAN KOMPETENSINYA?

21 Materi uji dan Kompetensi
KOMPETENSI PERAWAT KOMPETENSI LULUSAN BARU MATERI Ter U J I A N kan

22 Ujian Tulis Multiple Choice Question One Best Answer

23 Why… One Best Answer Jenis soal 1-2-3-4 lebih mudah ditebak
Soal sebab akibat sering membingungkan, aspek bahasanya terlalu rumit Satu pilihan terbaik, mencerminkan peran profesional yang harus mencari alternatif terbaik bagi klien

24 Membuat Soal MCQ Tidak semudah yang dibayangkan
UNTUK LEVEL TINGGI (PROVINSI/NASIONAL) Tidak semudah yang dibayangkan Kedalam, aplikasi, berpikir kritis sesuai kompetensi Perlu sounding multidiscipline team Perlu ketetapan istilah bersama Perlu Standarisasi bahasa Perlu Standarisasi struktur

25 Ciri Soal Uji Nasional

26 Taxonomy Cognitive Bloom:
Mengetahui (menyebutkan) Pengethuan umum, konsep umum, nilai/fakta C2 Memahami (menjelaskan) Interprestasi chart, grafik, nilai, justifikasi Urutan prosedur C3 Menerapkan (menghubungkan) Aplikasi konsep dlm situasi baru, aplikasi prosedur, memecahkan hitungan matematika X C1. C2 C. 3

27 C4 C5 C6 Bloom … Menganalisa (membandingkan)
Menggunakan logika untuk pemecahan masalah, mengevaluasi relevansi data C5 Mensintesa (menyimpulkan, menyusun) mengungkap sebuah konsepsi dengan baik, merumuskan konsepsi baru, C6 Mengevaluasi (mengkritik, SOAP) Menyesuaikan, menjustifikasi suatu pekerjaan

28 RANAH KOGNITIF dlm UJIAN
Penggabungan: Pengetahuan komprehensif (C1-C2) (nilai normal, definisi, konsep, dasar patofisiologi, dll) Aplikasi klinis (C3) (ketrampilan prosedural, diagram masalah, tetesan, dosis) Berpikir kritis (C4-C6) (menegakan masalah, prioritas, analisa hubungan, prediksi, evaluasi perkembangan, dll) Afektif (A1-A5) (sikap dalam bekerja bersama klien/keluarga, tim kes)

29 Langkah pengembangan soal
Lihat blue print (kisi-kisi) Gunakan tinjauan2 dlm blue print dalam mengkonstruksikan soal Buat soal sesuai panduan no 1 dan 2 diatas Kasus/vignet Pertanyaan Pilihan jawaban Review soal sendiri, review soal oleh orang lain (tim)

30 Tinjauan dalam Blue Print
Domain kompetensi Domain kognitif Sistem tubuh Kebutuhan dasar Jenis upaya kesehatan Proses keperawatan Keilmuan Etik/legal, askep, prof Kritis, prosedur, afek Cardio, respirasi, dll Rasa nyaman, oksi, dll Promotive, kuratif, dll Pengkajian, diag., dll Anak, dewasa, dll

31 Setiap soal harus memiliki semua tinjauan Blue Print
Domain Kompetensi Level Kognitif Upaya Kebutuhan Etik/legal/bud Praktek/mng keperawatan Pengembangan profesional Kognitif Konatif procedural Promotiv Preventif Kuratif rehabilitatif Oksigenasi Cairan dan el Nutrisi Mobilisasi dll Setiap soal harus memiliki semua tinjauan Blue Print

32 Contoh penggunaan tinjauan: KMB
Managemen Keperawatan Berpikir Kritis Kuratif Pengkajian Oksigenasi Seorang pria berusia 45 tahun, dirawat dengan keluhan sesak dan batuk darah. Klien terlihat kurus, kelelahan, dan terlihat retraksi dada saat bernafas. Manakah data penting yang harus dicari untuk bisa menegakan masalah prioritas klien diatas?

33 Tahap Pengembangan Soal
Pikirkan sesuatu yg Essensial dlm pekerjaan perawat baru lulus Buat Vignet yang runtut dan logis Buat Pertanyaan yang fokus Buat pilihan jawaban yang HOMOGEN

34 I S I Apakah secara isi, topik soal yang ditanyakan esensial dalam menjalankan pekerjaan ? Rujukan: Standard Kompetensi

35 STOP: Baca Soal Anda … ! Apakah soal anda sangat penting untuk dapat menjalankan pekerjaan sehari-hari? Menanyakan hal yang bermanfaat untuk ditanyakan dalam pekerjaan?

36 Struktur Soal 1. Vignet/Kasus/Pernyataan 2. Pertanyaan soal
3. Pilihan jawaban

37 Jangan terlalu panjang / pendek
Vignete Bisa Berisi: Pernyataan Situasi Kasus pasien Ketentuan: Fokus Logis Sistematis Jangan terlalu panjang / pendek

38 Vignette / kasus / stem (klinis)
Jenis kelamin, Umur (e.g. laki-laki 25 tahun) Kasus spesifik wanita  kehamilan Kasus anak-anak, dewasa, geriatri? Tempat pelayanan/setting (IGD, poli, puskesmas) Keluhan Utama Lama atau derajat keluhan Gejala penyerta dan keterangan lainnya Pemeriksaan fisik Pemeriksaan penunjang

39 Kasus / vignete Seorang pasien datang ke puskesmas dengan keluhan anemia. Tekanan darah 110/80mmHg, Apakah ada pasien mengeluh anemia? Apakah ada hubunganya antara anemia dengan tekanan darah? Apakah ada arah yang jelas dari kasus? Kasus terlalu pendek, tidak lengkap

40 Ny TR, 46 tahun dirawat di Rumah Sakit Cepat Sehat dengan riwayat multiple trauma akibat kecelakaan lalulintas. Terdapat fraktur humerus dextra post ORIF (open reduction internal fixation), post amputasi jari manis dan saat ini (hari ke 50) terpasang external fixation untuk stabilisasi fraktur tibia fibula sinistra dengan bone loss dan fraktur terbuka. Keluhan saat ini adalah nyeri hebat, terutama pada tungkai kirinya. Mengatakan”para suster tidak mengerti betapa sakitnya saya.” Tungkai kiri terlihat mengecil, kondisi luka terbuka menembus tulang, infeksi minimal. Kesan Kasus Ini?: Kasus terlalu panjang dan terlalu kompleks Bahasa tidak efisien Hubungan antara diagnosa medik dan keluhan pasien terlalu kompleks Arah kasus menjadi tidak fokus

41 Lead in (pertanyaan) Kata tanya di depan (apakah, manakah, dll)
Diakhiri dengan tanda tanya (?) Terpisah satu baris dari kasus (vignette) agar jelas terlihat

42 Contoh Pertanyaan yang Kurang tepat
Penyebab klien tidak bisa BAB sejak masuk kemungkinan disebabkan oleh: Apakah penyebab klien tidak bisa BAB? Dari kasus diatas terdapat …….. masalah utama Manakah masalah utama pada kasus diatas?

43 Tip ! Vignette / kasus dianggap berfungsi jika tanpa vignete, pertanyaan tidak berfungsi dengan jelas Pertanyaan baik, terlihat bila peserta pintar bisa menebak jawaban tanpa melihat pilihan jawaban

44 Controh kasus tidak berfungsi
Seorang anak usia 13 bulan dengan berat badan 15 kg masuk rumah sakit untuk dirawat dengan diagnosa typhoid. Anak tidak mau makan dan minum. Suhu tubuh 38,8C. Sesuai order dokter, anak tersebut dipasang infus. Bagimanakah cara fiksasi infus yang tepat untuk anak diatas?

45 Pilihan Jawaban Homogen: topik, gramatikal, semantik, panjang-pendek.
Hindari absolutisme: selalu, tidak pernah. Hindari konvergensi. Hindari kesamaan istilah dengan vignette. Hindari urutan yang tidak sistematis  menyulitkan. Hindari kalimat: bukan salah satu di atas

46 Contoh pilihan kurang baik
End colostomy Simple colostomy Double barrel colostomy Loop colostomy Simple colostomy tidak ada dalam terminology

47 Contoh pilihan yang kurang baik
a. Pernah mengalami cedera kepala b. Adanya luka pada telinga tengah atau penyakit telinga lainnya. c. Sering mengalami ISPA d. Mungkin secara hematogen e. Benar semua Jawaban b panjang tidak homogen Benar semua, tidak diperkenankan

48 Seorang ibu, perempuan, 32 tahun, membawa anaknya ke Unit Rawat Jalan RS Jiwa Soeharto Heerdjan. Keluhan ibu bahwa anaknya sering menyendiri, mulut komat-kamit, dan pernah marah-marah sampai merusak diri. Apakah tindakan keperawatan yang bukan prioritas dilakukan perawat pada saat awal melakukan proses keperawatan? Melakukan pengkajian terhadap isi halusinasi Melakukan pengkajian terhadap frekwensi halusinasi Memberikan dukungan kepada keluarga karena teridentifikasi beban merawat pasien yang sangat berat Melakukan pengkajian terhadap terapi psikofarmaka sebelumnya

49 Cermati dan komentari! Kasus (vignette) Case Based 1
Ny. Ahmad umur 70 tahun masuk RS karena mempunyai tanda-tanda gagal ginjal akut. Saat ini dia dalam keadaan fase oligouri dan mengeluh mual (nausea) dan pusing. Pertanyaan soal Hasil pemeriksaan urine gravitas rendah dan data lab memperlihatkan hiponatremia dan hiperkalemia. Apa pengkajian yang dilakukan ners Pilihan jawaban a. mendengarkan bunyi paru-paru* b. memperhatikan tanda-tanda hipokalemia c. mengobservasi hipotensi postural d. mengkaji kekurangan volume cairan

50 Cermati dan komentari! Seorang perawat komunitas bekerja pada daerah pinggiran kota Jakarta. Selama ini anak-anak balitanya terbiasa melakukan aktivitas di gang perkampungan dan pinggiran sungai, tanpa alas kaki. Berdasarkan pengamatan tampak anak balita bermain tanpa alas kaki dan kuku tangan kotor dan panjang. Apa tindakan yang harus dilakukan perawat untuk menyelesaikan permasalahan di atas? a. Advokasi pentingnya sistem rujukan b. Surveilans epidemiologi c. Penyuluhan hygiene dan sanitasi d. Pengobatan diare secara massal e. Pemberdayaan kader kesehatan

51 Cermati dan komentari! Seorang pasien dirawat di Ruang ICU setelah dilakukan laparatomi. Pasien kemudian dilakukan pemasangan cateter vena central, perawat kemudian melakukan pengukuran tekanan vena sentral didapatkan nilai 15 cm H2O. Saat ini pasien terpasang Infus RL 20 tts/mnt. Apa tindakan yang anda lakukan sehubungan kasus tersebut ? Memasang infus tambahan Memonitor turgor kulit Melakukan auskultasi suara jantung Mengusulkan pemasangan NGT Memantau balance cairan secara ketat

52 Cermati dan modifikasi
Seorang anak usia 7 tahun menderita DBD, demam sejak 2 hari yang lalu. Tugor kulit turun, nadi 110/menit, pernafasan 24/menit, tekanan darah 90/70mmHg. Dokter merencakanan pemasangan infus. Apakah tindakan perawat untuk mengatasi dehidrasinya? Memberi minum oral Memberi oksigen per kanul Memonitor TTV klien Mengukur intake/output

53 Refleksi Berdasarkan diskusi sebelumnya, apakah yang bapak ibu pikirkan dan rasakan? Apa yang bapak/ibu inginkan hari ini?

54 KUK: Mampu menentukan prioritas diagnosa kep.
D Kompetensi : Askep Tingkat kognitif : Berpikir kritis Area keilmuan : Medikal-bedah Kompetensi : Diagnosa keperawatan KUK: Mampu menentukan prioritas diagnosa kep. Seorang wanita berusia 37 tahun di rawat di bansal bedah, 1 hari Paska operasi histerektomy selesai jam 12 siang. Jam 3 pagi ia Memanggil perawat mengeluh kesakitan dan tidak bisa tidur nyenyak. Ekpresi wajah tampak menahan nyeri dan kelelahan. Nyeri skala 6-7 di bagian abdomen. Saat diperiksa, klien takut untuk bergerak miring kiri/kanan. Balutan operasi kering, tanda vital stabil. Apakah masalah keperawatan utama klien di atas? a. Gangguan pola tidur b. Nyeri sedang-berat c. Cemas sedang-berat d. Gangguan mobilisasi

55 Seorang pria (44 thn) direncanakan dipasang Voley chat.
D Kompetensi : Asuhan dan manajemen keperawatan Tingkat kognitif : berpikir kritis Area keilmuan : KMB Kompetensi : Memasang Kateter Urine Pria KUK: Seorang pria (44 thn) direncanakan dipasang Voley chat. Anamnesa status urologi tidak ada abnormalitas . Ketika anda memasang kateter, saat selang kateter masuk ±10 cm terasa ada tahanan lunak. Apakah reaksi pertama anda sebaiknya? Menambahkan cylocain jelly diujung meatus urinarius Menekan dengan keras ujung kateter hingga masuk Menganjurkan klien menarik nafas dalam Sedikit menegakan penis sambil memasukan kateter

56 Checkpoint Bagaimanakah step mereview soal?

57 Apa saja yang perlu ditelaah ?
Materi : Relevansi dengan pekerjaan (esensial) Bahasa Tingkat kesulitan Tinjauan lengkap dan sesuai Klasifikasi : sesuai blue print

58 Apa saja yang perlu ditelaah ?
Struktur : Stem Lead in Option Kesimpulan Komentar umum dan saran Diterima/revisi/dikembalikan

59 kasus Ya Tdk Logika kasus linear sesuai konsep dan klinis
Bahasa sesuai EYD dan istilah baku Fokus pada masalah yang akan ditanyakan (tidak terlalu panjang dan kompleks)

60 Pertanyaan Ya Tdk Diawali dengan kalimat tanya dan diakhiri dengan tanda tanya Bahasa fokus dan tidak ambugue Menghubungkan kasus dan pilihan jawaban

61 Pilihan Ya Tdk Semua pilihan berpeluang di pilih mhs
Homogen dari sisi isi, gramatikal dan panjang pendek Urutan yang logis dan tidak membingungkan Tidak ada perulangan kata Tidak ada double negative atau BSSD atau jawaban diatas semua benar

62 Kesimpulan Hasil Review
Diterima tanpa perbaikan Diterima dengan perbaikan Perlu konfirmasi pembuat soal Tidak perlu konfirmasi (langsung edit) Dikembalikan kepada pembuat soal Berpotensi diterima dengan perbaikan

63 Komentar

64 Alasan penolakan Isi tidak esensial Isi terlalu spesialistis.
Isi tidak realistis, terlalu teoritis Tidak ada vignette. Vignette tidak berfungsi

65 Next step? Bekerja dalam kelompok untuk mereview soal-soal menggunakan formulir review yang ada.

66 Feedback terhadap pembuat soal?

67 Terima Kasih

68 mobile :