Functional assessment of retinal models using machine learning techniques

Παπαδόπουλος, Νικόλας; Papadopoulos, Nikolas

dc.contributor.author	Παπαδόπουλος, Νικόλας	el
dc.contributor.author	Papadopoulos, Nikolas	en
dc.date.accessioned	2021-02-17T13:16:10Z
dc.date.available	2021-02-17T13:16:10Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/52893
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.20591
dc.rights	Αναφορά Δημιουργού 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by/3.0/gr/	*
dc.subject	Retinal models	en
dc.subject	Functional assessment	en
dc.subject	Retinal prosthesis	en
dc.subject	Machine learning	en
dc.subject	Object recognition	en
dc.subject	Μοντέλα αµφιβληστροειδούς	el
dc.subject	Λειτουργική αξιολόγηση	el
dc.subject	Προσθετική αµφιβληστροειδούς	el
dc.subject	Μηχανική µάθηση	el
dc.subject	Αναγνώριση αντικειµένων	el
dc.title	Functional assessment of retinal models using machine learning techniques	en
dc.title	Λειτουργική αξιολόγηση µοντέλων αµφιβληστροειδούς µε χρήση τεχνικών µηχανικής µάθησης	el
dc.contributor.department	Department of Information Transmission Systems and Material Technology - BioSim	el
heal.type	bachelorThesis
heal.classification	Retinal models, machine learning	en
heal.language	el
heal.language	en
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2021-01-20
heal.abstract	This diploma thesis proposes the functional assessment of retinal models, as an alternative to the currently common practice of comparing the similarity of model-generated and ground truth neural responses, as recorded by retinal implants. Functional assessment describes the concept of evaluating the performance of retinal models on image understanding tasks. In this work, we developed a pipeline for functional assessment using machine learning techniques, where we feed retinal models with images and we receive the neural responses of the model, with which we train classifiers on object and digit recognition tasks. In particular, we used CIFAR10, Fashion MNIST and Imagenette datasets for object recognition tasks and MNIST dataset for digit recognition tasks. We also trained common classifiers, such as Multilayer Perceptron (MLP), Support Vector Machine (SVM) and Random Forest. We examined a number of relevant questions: which classifiers perform better in such type of tasks, how the performance of a model differs depending on the task and how the number of available neurons affects the performance of the model. Given also that the Convolutional Neural Network (CNN) retinal model provides a limited number of available neurons (60 in our case), we investigated ways to artificially increase this number. For that, we split the images into different parts, we fed separately each part to the retinal model and we investigated how we can optimally combine the neural responses produced by the model for each part, in order to achieve high performance in image recognition tasks. We found that Random Forest classifier achieves the highest performance and that models perform better with datasets such as MNIST and Fashion MNIST, where we achieved up to 90% accuracy. In addition, simulations indicated that using more neurons improves the overall performance of the model, thus highlighting the need to design retinal prostheses with a larger number of available neurons. Finally, we applied functional assessment in order to compare the performance of two different retinal models. The results showed that there is an agreement between standard and functional assessment, as the two models had similar performance in both techniques. Thus, we conclude that functional assessment produces reliable results and it can be used as an alternative to the standard evaluation technique.	en
heal.abstract	Η παρούσα διπλωµατική εργασία προτείνει τη λειτουργική αξιολόγηση (functional assessment) µοντέλων αµφιβληστροειδούς (retinal models), ως εναλλακτική στην καθιερωµένη αξιολόγηση των µοντέλων, που ϐασίζεται στην πιστή αναπαραγωγή της νευρικής απόκρισης. Η λειτουργική αξιολόγηση περιγράφει την ιδέα της αξιολόγησης της απόδοσης ενός µοντέλου µέσα από δοκιµασίες κατανόησης της οπτικής πληροφορίας. Στην εργασία αυτή, αναπτύξαµε ένα σύστηµα λειτουργικής αξιολόγησης µοντέλων αµφιβληστροειδούς µε χρήση τεχνικών µηχανικής µάθησης, όπου εισάγουµε εικόνες σε ένα µοντέλο αµφιβληστροειδούς, λαµβάνουµε τις νευρικές αποκρίσεις του µοντέλου, µε τις οποίες µετά εκπαιδεύουµε ταξινοµητές πάνω σε πειϱάµατα αναγνώρισης αντικειµένου και αναγνώρισης ψηφίων. Συγκεκριµένα, χρησιµοποιήσαµε για αναγνώριση αντικειµένων τα σύνολα δεδοµένων CIFAR10, Fashion MNIST και Imagenette και για αναγνώριση ψηφίων το MNIST, ενώ εκπαιδεύσαµε διάφορους ταξινοµητές µηχανικής µάθησης, όπως Multilayer Perceptron (MLP), Support Vector Machine (SVM) και Random Forest. Εξετάσαµε µια σειρά σχετικών ερωτηµάτων : ποιοι ταξινοµητές αποδίδουν καλύτερα σε τέτοιου είδους πειράµατα, πώς διαφέρει η επίδοση ενός µοντέλου ανάλογα µε την δοκιµασία (dataset) και πώς επηρεάζει ο αριθµός των παραγόµενων νευρικών αποκρίσεων την επίδοση των µοντέλων. ∆εδοµένου επίσης ότι το Convolutional Neural Network (CNN) µοντέλο αµφιβληστροειδούς που χρησιµοποιήσαµε παρέχει έναν περιορισµένο αριθµό νευρικών αποκρίσεων, µελετήσαµε τρόπους να αυξήσουµε τεχνητά αυτόν τον αριθµό. Για τον σκοπό αυτό, διαχωρίσαµε τις εικόνες σε διάφορα τµήµατα/µέρη, τροφοδοτήσαµε το µοντέλο αµφιβληστροειδούς µε κάθε τµήµα ξεχωριστά και διερευνήσαµε το πώς µπορούν να συνδυαστούν ϐέλτιστα οι νευρικές αποκρίσεις που δίνει το µοντέλο για κάθε κοµµάτι, έτσι ώστε να ϐελτιώσουµε την επίδοση στα πειράµατα αναγνώρισης εικόνας. Βρήκαµε ότι ο ταξινοµητής Random Forest επιτυγχάνει την καλύτερη επίδοση και ότι τα µοντέλα αποδίδουν καλύτερα σε δοκιµασίες µε σύνολα δεδοµένων όπως το MNIST και το Fashion MNIST, όπου πετύχαµε ακρίβεια µέχρι και 90%. Επιπλέον, τα πειράµατα έδειξαν ότι η χρήση περισσότερων νευρώνων ϐελτιώνει τη συνολική απόδοση των µοντέλων, αναδεικνύοντας έτσι την ανάγκη για κατασκευή εµφυτευµάτων αµφιβληστροειδούς που να διαθέτουν µεγαλύτερο αριθµό ηλεκτροδίων. Τέλος, εφαρµόσαµε την τεχνική της λειτουργικής αξιολόγησης σε δύο διαφοϱετικά µοντέλα αµφιβληστροειδούς. Τα αποτελέσµατα έδειξαν ότι υπάρχει συµφωνία µεταξύ της καθιερωµένης και της λειτουργικής αξιολόγησης, καθώς τα δύο µοντέλα είχαν παρόµοιες επιδόσεις στις δύο τεχνικές. Καταλήγουµε εποµένως ότι η λειτουργική αξιολόγηση µπορεί να δώσει αξιόπιστα αποτελέσµατα και να χρησιµοποιηθεί ως εναλλακτική στην καθιερωµένη τεχνική αξιολόγησης.	el
heal.sponsor	We gratefully acknowledge the support of NVIDIA Corporation with the donation of the Quadro P6000 GPU used for this research.	en
heal.advisorName	Nikita, Konstantina	en
heal.committeeMemberName	Stafylopatis, Andreas-Georgios	en
heal.committeeMemberName	Stamou, Giorgos	en
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών	el
heal.academicPublisherID	ntua
heal.numberOfPages	194 p	en
heal.fullTextAvailability	false