Videolarda devinim ve ivme büyütme yöntemleri
Motion and acceleration magnification methods in videos
Yazar: REYHAN GÜRLEYEN
Danışman: PROF. DR. TAYFUN AKGÜL
İstanbul Teknik Üniversitesi / Fen Bilimleri Enstitüsü / Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı / Biyomedikal Mühendisliği Bilim Dalı
Derece: Yüksek Lisans, 2020
Konu: Mühendislik Bilimleri = Engineering Sciences
Dizin: Görüntü işleme = Image processing ; Görüntü sentezleme = Image synthesis ; Sayısal işaret işleme = Digital signal processing

Özet:
İnsan gözü, çevresinde meydana gelen çok küçük devinimleri anlamada ve yorumlamada yetersiz kalmaktadır. Video devinim büyütme ise algılanması zor veya imkansız hareketlerin uygun bir yöntemle büyütülüp videolarda gözle görülür hale getirilmesi işlemidir. Bir büyüteç görevi gören bu yöntemler; inşaat mühendisliğinde bina salınımları ve köprü titreşimlerini saptamada, suç biliminde yüz ifadelerini tanıma ve insan canlılık testinde; yapay zeka alanında kullanılan dokunma sensörlerinin hassasiyetini arttırmada ve sağlık hizmetleri alanında nabız tespiti, sesötesi (ultrasound) görüntülerinde küçük sapmaların algılanıp büyütülmesi veya insan vücut sıcaklığı belirleme gibi envai çeşit çalışmalarda kullanılmaktadır. Ayrıca saniyede 1 000 ile 20 000 arasında görüntü karesi alan yüksek hızlı kameraların gelişmesi ile birlikte herhangi bir nesneden ses geriçatımı da yapılabilir hale gelmiştir. Video çerçeveleri kullanılarak ses basıncının bir nesnede meydana getirdiği titreşimlerin büyütülmesi ile gerçekleştirilen bu çalışmalar görsel mikrofon olarak da adlandırılmaktadır.
Videolarda algılanamayan sinyalleri ortaya çıkarmak ve büyütmek için çeşitli yöntemler geliştirilmiştir. Bu çalışmada ise temel video devinim büyütme yöntemleri ayrıntılarıyla açıklanmış ve karşılaştırmaları yapılmıştır. Devinim büyütmenin yanı sıra ivme büyütme yöntemleri de ayrıntılarıyla özetlenmiş ve başarımları kontrollü deneyler yardımıyla sınanmıştır.
En bilinen ve sıkça kullanılan Euler temelli yaklaşım (Doğrusal devinim büyütme), video çerçevelerini hem uzamsal hem de zamansal alanda işleme tabi tutarak küçük devinim ve titreşimlerin büyütülüp videoya geri gömülmesi temeline dayanmaktadır. Bu yaklaşımda uzamsal alanda görüntü ayrıştırma, zamansal alanda ise süzgeçleme işlemi yapılmaktadır. Tez çalışmasında ise zamansal alanda süzgeçleme için alternatif sinyal işleme yöntemi Bölünmüş İzge İşleme kullanılmıştır.
Radar ve sesötesi gibi sinyal işleme alanlarında uygulanan ve sinyal-gürültü oranını arttıran Bölünmüş İzge İşleme yöntemi, doğrusal devinim büyütme yönteminin zamansal işleme katmanında başarıyla kullanılmıştır. Önerilen yöntem ve doğrusal devinim büyütme yöntemi, büyütme işlemi için kayda alınan nabız videosu ve kontrollü deney üzerinde uygulanmıştır. Değerlendirme yöntemlerinden yapısal benzerlik indeksi ile en büyük işaret gürültü oranı üzerinden sonuçlar karşılaştırılmış ve iyileştirmeler gösterilmiştir.

Abstract:
Human eye is inadequate in understanding and interpreting the subtle changes occurring around it. Video motion magnification is the process of making these changes, which are difficult or impossible to perceive, to be enlarged by a suitable method and made visible in videos. The techniques acting as a magnifying glasses have been using in many areas such as detecting oscillations of buildings and vibrations of bridges in civil engineering; testing human viability and recognition of facial expressions in crime science; increasing sensibility of touch sensors in the field of artificial intelligence; magnifiying small fluctuations in ultrasound images, the detection of respiratory rate from video frames, enlarging little variances on human wrist stemming from pumping blood to body. In addition, with the development of high speed cameras that take between 1 000 and 20 000 frames per second, sound reconstruction from any object could be done by using video frames. These studies which are performed by magnifying vibrations caused by the sound pressure on an object by using video frames are also named as a visual microphone.
Various methods have been developed to reveal and magnify undetectable signals in videos. In this study, basic video motion magnification methods were explained and compared at length. In addition to motion magnification, acceleration magnification methods are summarized in details and their performances have been examined with the help of controlled experiments.
The most known and widely used Eulerian approximation (Linear motion magnification) is based on the ground of magnification of small motion and vibrations by means of embedding them back into the video by processing video frames both in spatial and temporal space. In this approach, two separate operations are carried out as spatial decomposing and temporal processing, respectively. In this thesis, an alternative signal processing method called Split spectrum processing is used for filtering in temporal field.
Split spectrum processing method, which is used to increase the signal-to-noise ratio of returning signals in radar and ultrasound, is successfully employed on the temporal processing layer of linear motion magnification technique. The proposed method and linear motion magnification method have been applied on the recorded pulse video and a controlled experiment, for amplification. The results were compared on the structural similarity index and peak signal to noise ratio and improvements were shown.