title: Virtual reality multitracking interaction with 3D characters for immersive training applications
title: Πολλαπλή παρακολούθηση κινήσεων αλληλοεπιδρώντας με τρισδιάστατους χαρακτήρες για εμβυθισμένες εκπαιδευτικές εφαρμογές σε εικονική πραγματικότητα
Creators: name: Κιρακοσιαν Σαλβα
Publisher: name: Technical University of Crete
Year: 2017

description: Η παρούσα διπλωματική εργασία υλοποιεί Αλληλεπιδραστική Εκπαιδευτική Εφαρμογή Εκμάθησης Χορού σε Εικονική Πραγματικότητα με Πολλαπλή Παρακολούθηση Κινήσεων Χρήστη και Αλληλεπίδραση σε Πραγματικό Χρόνο με Τρισδιάστατο Χαρακτήρα. Ο χρήστης, ο οποίος βρίσκεται στην κύρια σκηνή, εκπαιδεύεται από τον τρισδιάστατο ανθρώπινο χαρακτήρα που έχει σαρωθεί με 3D White Light Scanner, σε πραγματκό χρόνο. Ρεαλιστικές κινήσεις αλληλεπίδρασης εφαρμόστηκαν στον τρισδιάστατο χαρακτήρα χρησιμοποιώντας μεθοδολογίες Αντίστροφης Κινηματικής (Inverse Kinematics), οι οποίες ενεργοποιούνται ανάλογα με τις χορευτικές κινήσεις του χρήστη. Για την μοντελοποίηση των χαρακτήρων προστέθηκαν "οστά". Με την διαδικασία Αποτύπωσης Κινήσεων (Motion Capture) επαναπροσδιορίστηκαν οι κινήσεις του τρισδιάστατου χαρακτήρα. Για να μειωθεί ο υπολογιστικός φόρτος της μονάδας επεξεργασίας γραφικών (GPU), εφαρμόστηκε η τεχνική "Baked GI" αυξάνοντας έτσι τα καρέ ανά δευτερόλεπτο (FPS) για βέλτιστη απόδοση εφαρμογών εικονική πραγματικότητας. Το τελικό σύστημα προσφέρει μία ολοκληρωμένη πλατφόρμα αλληλεπίδρασης μεταξύ ανθρώπου και τρισδιάστατου χαρακτήρα προσφέροντας πολλαπλές επιλογής εκμάθησης χορού υλοποιημένη με τη μηχανή ανάπτυξης εφαρμογών τρισδιάστατων γραφικών Unity. Η διαδικασία μάθησης ξεκινά με την πρώτη επιλογή "Βασικά Βήματα" του Λατινικού χορού Salsa που περιλαμβάνει το "Βασικά Α", "Πλαϊνά Βήματα" και "Δεξιά Στροφή". Οι χρήστες μπορούν να εξασκηθούν στην καθοδήγηση σε πραγματικό χρόνο του τρισδιάστατου μοντέλου για να εκτελέσουν τα "Πλαϊνά Βήματα" και τη "Δεξιά Στροφή". Τέλος, οι χρήστες μπορούν να επιλέξουν την τελευταία επιλογή "Χορός", όπου μπορούν να αυτοσχεδιάσουν και να χορέψουν, οδηγώντας τον τρισδιάστατο χαρακτήρα ενώ εκτελούν οι ίδιοι τα βασικά βήματα που έμαθαν κατά τη διάρκεια της εκμάθησης. Οι χρήστες αλληλεπιδρούν με το σύστημα με κινήσεις χεριών ενώ είναι εμβυθισμένοι σε οθόνη εικονικής πραγματικότητας. 
description: This thesis implements a Virtual Reality (VR) Multitracking interaction with 3D characters resulting in an immersive dance training application using the Occulus Rift HMD system and the Leap Motion hand tracking controller. The player, who is placed in the main scene, is trained by the 3D White Light scanned human character in a virtual environment which is designed and developed in Unity3D. Realistic animations were applied to the character using a complex Inverse Kinematics (IK) system applied to the rigged 3D human model. Characters are rigged with custom skeletons using 3D geometrical bones and IK solvers. Motion capture data were re-targetted so that animations of the 3D character are produced. The motion capture data, derived from the tracking device Kinect v2, were applied to the rigged 3D model to create realistic dance animations. Rendering optimization techniques such as Baked GI, were applied in the scene to reduce the GPU's rendering load and to increase the frame rate per second (FPS) of the VR application. The training process starts with the first option named "Basic Steps" of the Salsa Latin dance which includes the "Basic A", the "Side Steps" and the "Right Turn" dance routine. By selecting the "Interaction" option, the users can practice dance by leading the 3D model to execute the "Side Steps" and the "Turn" animation. Finally, the users can select the last "Dance" option, where they can improvise and dance, leading the 3D character while they execute the basic steps they have learned. This procedure allows the users to practice their actions by interacting with User Interface panels using gestures such as thumb and waving hands, combining touches and pinch actions.