title: Ensemble neural network methods for the sorting of recyclables
title: Συνεργατικές δομές νευρωνικών δικτύων για την ταξινόμηση ανακυκλώσιμων υλικών
Creators: name: Βογιατζης Αντωνιος
Publisher: name: Technical University of Crete
Year: 2022

description: The classification of recyclable materials, particularly the recovery of plastic, is critical not only for economic sustainability, but also for environmental sustainability. Deep learning is a machine learning paradigm that employs artificial neural networks with multiple layers to progressively extract higher level features from raw input; a paradigm that in recent years has achieved extraordinary success in a wide variety of applications, including the classification of materials. This thesis introduces two novel ensemble neural network methods for image classification. Our methods build on the concept of “shared wisdom from data” in order to effectively classify recyclable materials. Specifically, in the first part of this thesis we introduce the so-called “Dual-branch Multi-output CNN” based on recent work in deep learning and waste classification. This is a custom convolutional neural network composed of two branches that aims to i) classify recyclables and ii) distinguish the type of plastic. The proposed architecture consists of two classifiers that have been trained on two distinct datasets in order to encode complementary characteristics of recyclable materials. Our approach allows the learning of disjoint label combinations, by making use of the datasets’ joint utilization—but without requiring their mingling. In the second part of this thesis, we propose a generic classification architecture based on independent parallel CNNs that explicitly exploits a “mutual exclusivity” or “classifiers’ mutually supported decisions” property that exists in many dataset domains of interest, namely that an image in a given dataset may almost unquestionably belong to only one class. Our framework incorporates several purpose-built opinion aggregation decision rules that are triggered when the mutual exclusivity property is satisfied or not; and it makes use of “weights” that intuitively reflect each CNN’s confidence in correctly identifying its corresponding class. Thus, our framework can (a) take advantage of clearly defined class boundaries when they exist, and (b) successfully assign items to classes when clearly defined class boundaries do not exist. Our experiments, with two well-known problem-specific image datasets, confirm the effectiveness of our ensemble neural network methods in the classification of recyclables.
description: Η ταξινόμηση των ανακυκλώσιμων υλικών, ιδιαίτερα η ανάκτηση του πλαστικού, είναι πολύ σημαντική όχι μόνο για την οικονομική βιωσιμότητα, αλλά και την οικολογική βιωσιμότητα. Η βαθιά μάθηση αποτελεί μια κατηγορία αλγορίθμων μηχανικής μάθησης που χρησιμοποιούν τεχνητά νευρωνικά δίκτυα με πολλαπλά επίπεδα για τη σταδιακή εξαγωγή χαρακτηριστικών υψηλότερου επιπέδου από την ακατέργαστη είσοδο. Πρόκειται για μια προσέγγιση που τα τελευταία χρόνια έχει χρησιμοποιηθεί με εξαιρετική επιτυχία σε μια μεγάλη ποικιλία εφαρμογών, συμπεριλαμβανομένης της ταξινόμησης υλικών. Η παρούσα μεταπτυχιακή διατριβή εισάγει δύο καινοτόμες μεθόδους ταξινόμησης εικόνων βασισμένες σε συνεργατικές δομές νευρωνικών δικτύων τις οποίες προτείνουμε. Οι μέθοδοι μας βασίζονται στην έννοια της λεγόμενης “διαμοιραζόμενης σοφίας από δεδομένα”, ώστε να ταξινομούν αποτελεσματικά τα ανακυκλώσιμα υλικά. Συγκεκριμένα, στο πρώτο μέρος της παρούσας μεταπτυχιακής εργασίας παρουσιάζουμε το αποκαλούμενο « Dual-branch Multi-output CNN» βασιζόμενοι σε σύγχρονες έρευνες στη βαθιά μάθηση και στην ταξινόμηση αποβλήτων. Αυτό είναι ένα προσαρμοσμένο συνελικτικό νευρωνικό δίκτυο που αποτελείται από δύο κλάδους και αποσκοπεί i) στο να ταξινομήσει τα ανακυκλώσιμα υλικά και ii) στο να διακρίνει τον τύπο του πλαστικού. Η προτεινόμενη αρχιτεκτονική αποτελείται από δύο ταξινομητές που έχουν εκπαιδευτεί σε δύο ξεχωριστά σύνολα δεδομένων, προκειμένου να αξιοποιήσουν παραπλήσια χαρακτηριστικά από τα ανακυκλώσιμα υλικά. Η προσέγγισή μας επιτρέπει την εκμάθηση διαφορετικών συνδυασμών χαρακτηριστικών με ταυτόχρονη αξιοποίηση των διαφορετικών συνόλων δεδομένων, χωρίς να απαιτεί την ανάμειξή τους. Στο δεύτερο μέρος της εργασίας μας, προτείνουμε μια γενική αρχιτεκτονική ταξινόμησης βασισμένη σε ανεξάρτητα παράλληλα συνελικτικά νευρωνικά δίκτυα (CNNs), η οποία αξιοποιεί την ιδιότητα της «αμοιβαίας αποκλειστικότητας» ή αλλιώς των «αμοιβαία υποστηριζόμενων αποφάσεων ταξινομητών» που χαρακτηρίζει πολλά σύνολα δεδομένων από τομείς ενδιαφέροντος: εν συντομία, συχνά μια εικόνα που περιλαμβάνεται σε ένα σύνολο δεδομένων ανήκει, κατά κοινή παραδοχή των ταξινομητών, σχεδόν αποκλειστικά σε μία μόνο κλάση. Παρέχουμε με άλλα λόγια ένα πλαίσιο λήψης αποφάσεων ταξινόμησης, το οποίο ενσωματώνει διάφορους προτεινόμενους κανόνες απόφασης, που ενεργοποιούνται όταν η ιδιότητα αμοιβαίας αποκλειστικότητας ικανοποιείται ή όχι. Ταυτόχρονα, χρησιμοποιεί «βάρη» που αντικατοπτρίζουν διαισθητικά το ποσοστό εμπιστοσύνης του κάθε CNN όσον αφορά την ταξινόμηση ενός υλικού στην κλάση στην οποία το δίκτυο είναι εξειδικευμένο. Έτσι, η προσέγγιση μας μπορεί (α) να εκμεταλλευτεί τα σαφώς καθορισμένα όρια κλάσεων, όταν τέτοια υπάρχουν, και (β) να αναθέτει στοιχεία επιτυχώς σε κλάσεις, ακόμα κι όταν δεν υπάρχουν σαφώς καθορισμένα όρια κλάσεων. Τα πειράματά μας με δύο γνωστά σύνολα δεδομένων εικόνων από τον συγκεκριμένο τομέα ενδιαφέροντος, επιβεβαιώνουν την αποτελεσματικότητα των προτεινόμενων μεθόδων και αρχιτεκτονικών συνεργατικών δομών νευρωνικών δικτύων στην ταξινόμηση των ανακυκλώσιμων υλικών.