Dasar Pengolahan Video Digital

Presentasi berjudul: "Dasar Pengolahan Video Digital"— Transcript presentasi:

1 Dasar Pengolahan Video Digital
Prinsip Data Video Digital Motion Estimation

2 Prinsip Data Video Digital
Pada dasarnya, video terdiri atas rangkaian citra statis yang dijalankan secara sekuensial dalam waktu yang cepat Setiap satuan citra statis ini diistilahkan dengan frame

3 Motion Estimation

4 Gerakan 2D vs 3D

5 Ide Dasarnya

6 True Motion vs Optical Flow
True Motion = Gerakan benda Optical flow = Gerakan kamera, seperti zoom, tilt

7 Motion Estimation Motion (gerakan) merupakan aspek esensial di dalam video sequences Banyak pemrosesan dan kompresi video didasarkan pada estimasi dan analisa motion Motion Estimation adalah proses menganalisa frame-frame yang berurutan di dalam video untuk mengidentifikasi obyek yang bergerak di dalamnya Gerakan obyek biasa dinyatakan dalam motion vector 2 dimensi, yang mencakup panjang dan arah gerakan

8 Motion Estimation Salah satu manfaat motion estimation adalah untuk mengurangi jumlah frame yang disimpan atau dikomputasi, cukup disimpan motion vector-nya saja Perhatikan ilustrasi berikut.

9 Dua buah image yang berurutan di dalam video tampak sangat similar
Sangat boros resource jika semua data disimpan atau operasi komputasi dilakukan terhadap semua data yang similar Maka muncul ide motion estimation

10 Motion Representation
Secara umum, representasi motion terbagi menjadi 4 jenis: Global Motion Sebuah motion vector mewakili global motion (gerakan keseluruhan citra). Biasanya berlaku untuk perubahan citra yang disebabkan oleh operasi kamera seperti zoom, tilt. Pixel-Based Motion Sebuah motion vector mewakili gerakan setiap piksel Block-Based Motion Sebuah motion vector mewakili gerakan setiap blok piksel Object-Based Motion Sebuah motion vector mewakili gerakan object tertentu

11 Motion Representation

12 Motion Estimation Applications
Object Tracking Human Computer Interaction Temporal Interpolation Spatio-Temporal Filtering Compression

13 Object Tracking Ketik “viptrafficof_win” pada Matlab Simulasikan

14 Temporal Interpolation

15 Temporal Interpolation

16 Motion Compensated Temporal Filtering

17 Klasifikasi Metode untuk Motion Estimation
Metode Langsung Phase Correlation Block Matching Spatio-Temporal Gradient Optical Flow Pel-Recursive Metode tidak Langsung Feature Matching Pada kuliah ini kita mempelajari Block Matching Algorithm saja

18 Metode Dasar Motion Estimation
Estimasi dilakukan terhadap dua frame: Anchor frame, f(x, y, t1) Target frame, f(x, y, t2) Dapat berupa forward motion estimation jika t2 > t1, dapat juga backward motion estimation jika t2 < t1

19 Block Matching Algorithm
Prinsip dasar: mencari motion vector yang paling optimal untuk setiap block Mengapa block-based? Mengapa tidak pixel-based? Terlalu banyak data yang tidak diketahui yang harus diestimasi jika menggunakan piksel Terlalu banyak storage yang diperlukan jika menggunakan pixel-based Terlalu banyak data yang harus dikodekan jika menggunakan pixel-based

20 Block Matching Algorithm (Basic Steps)
Bagi image f(x,y,t) ke dalam blok-blok MxM piksel yang non-overlapping Contoh untuk M= 3

21 Block Matching Algorithm (Basic Steps)
Untuk setiap block, lakukan pencarian block yang match (mirip/cocok) pada image target (bisa frame sebelum atau sesudahnya)

22 Block Matching Algorithm (Basic Steps)
Tentukan motion vector (vx, vy) yang menghasilkan error terkecil

23 Block Matching Algorithm

24 Block Matching Algorithm

25 Menentukan Block yang Match
Dua metode yang paling populer untuk menentukan tingkat kecocokan (match) antara dua block adalah MSE (Mean Square Error) dan SAD (Sum of Absolute Difference) MAE (Mean Absolute Error) juga bisa digunakan.

26 Contoh Block Matching Illustration of block-matching for three different image fragments. The reference blocks are marked with 'R' and their matched ones are in transparent blue.

27 Contoh Block Matching Animated illustrations of block-matching for: Barbara (left), a fragment of House (top-right), and a fragment of Cameraman (bottom-right). The reference blocks appear in red and their matched ones in blue.

28 Metode Pencarian (Searching)
Block pada anchor frame yang paling mirip dengan block pada target frame perlu dicari. Beberapa metode searching di dalam BMA telah dikembangkan di antaranya: Full Search (Exhaustive Search) Three Step Search New Three Step Search Four Step Search Diamond Search Hierarchical Search Simple and Efficient Search Adaptive Rood Pattern Search

29 1. Exhaustive Search (Full Search)
Pencarian menggunakan algoritma Full Search mengevaluasi semua posisi pada search region di target frame Tingkat komputasi sangat tinggi Sederhana Menjamin akurasi tinggi untuk menentukan block yang paling match  Sebenarnya kita tentukan search regionnya, tidak semua bagian citra dicari block yang match.

30 1. Exhaustive Search – lanj.
Ditentukan search regionnya di awal, tidak semua bagian pixel citra dicari block yang match. Pencarian dilakukan di seluruh posisi pada search region. Search region dapat berukuran 3, 7, 15, 24 atau 31 pixels.

31 1. Contoh hasil EBMA

32 2. Three Step Search – Langkah 1
Pendekatan Three Step Search ditemukan pada pertengahan 1980an. Dimulai dengan search center dengan lokasi block referensi pada anchor frame. Tentukan step size = S = 4. Lalu cari best match dari delapan lokasi di sekitar search center dengan jarak step size.

33 2. Three Step Search – Langkah 2
Setelah ditemukan pusat blok yang match dari 8 lokasi pada Langkah 1, jadikan pusat blok tersebut sebagai best candidate. Lalu tentukan step size selanjutnya = S/2 = 2. Cari best match dari delapan lokasi di sekitar best candidate dengan jarak 2.

34 2. Three Step Search – Langkah 3
Iterasi dilakukan sampai step size = 1. Best candidate dari Langkah 2 . Lalu tentukan step size selanjutnya = 1. Cari best match dari delapan lokasi di sekitar best candidate dengan jarak 1.

35 2. Three Step Search – Best Matched
Best match dari delapan lokasi di sekitar best candidate dari Langkah 3 itulah yang dijadikan pusat blok yang paling cocok dengan blok dengan pusat search centre. Motion vector = (-1, -2)

36 2. Motion Vector dari Three Step Search
Pixel Coordinate System :

37 3. Four Step Search Langkah 1 Mirip dengan Three Step Search, dimulai dengan search center dengan lokasi block referensi pada anchor frame. Step size untuk langkah 1 dan langkah 2, adalah 2. Lalu cari best match dari delapan lokasi di sekitar search center dengan jarak 2, jadi best candidate untuk langkah pencarian selanjutnya. Langkah 2

38 3. Four Step Search – lanj. Langkah 3 Pada langkah 3, step size masih sama yaitu 2. Lalu cari best match dari delapan lokasi di sekitar search center dengan jarak 2, jadi best candidate untuk langkah pencarian selanjutnya. Pada langkah 4, step size menjadi 1. Langkah 4

39 3. Four Step Search – lanj. Best match dari delapan lokasi di sekitar best candidate dari Langkah 4 itulah yang dijadikan pusat blok yang paling cocok dengan blok dengan pusat search centre. Motion Vector = (-1, -3)

40 3. Motion Vector dari Four Step Search
Pixel Coordinate System :

41 4. Hierarchical Search Kedua citra (baik itu pada anchor frame dan target frame) difilter menggunakan LPF. Lalu didown-sampling dengan faktor 2. LPF dan down-sampling dilakukan lagi pada citra. Pada level terkecil, cari motion vektornya dengan full search. Motion vector pada level terkecil dikali 2 untuk mengestimasi motion vector pada level yang lebih tinggi. Setelah itu dikali 2 lagi untuk mendapat motion vector dengan kondisi awal.

42 4. Hierarchical Search – lanj.

43 4. Hierarchical Search – lanj.

44 4. Hierarchical Search – lanj.

45 Contoh Mencari Motion Vector dengan EBMA*)
Tentukan motion vector untuk block 1 pada Anchor Frame. Ukuran block 2x2. *)EBMA = Exhaustive Block Matching Algorithm

46 Contoh Mencari Motion Vector dengan EBMA – lanj.

47 Contoh Mencari Motion Vector dengan EBMA – lanj.
87

48 Contoh Mencari Motion Vector dengan EBMA – lanj.
MAE Terkecil: 181 Motion Vector : (0,1)

49 Anchor frame Target frame
Latihan Tentukan motion vector untuk block 4 dan block 5 pada dua buah image berurutan berikut ini. Ukuran block 2x2. f(t) f(t) f(t+1) Anchor frame Target frame

50 Reference For deeper understanding, please read :
A Comparison of Block-Matching Motion Estimation Algorithms, 7CCC 2012, Medellín –Colombia. Barjatya, Aroh. Block Matching Algorithms For Motion Estimation. K. Katsaggelos, Aggelos. Fundamental of Digital Image and Video Processing. ( Be Diligent 