Επιθέσεις και Άμυνες σε Βαθιά Νευρωνικά Δίκτυα

Βαλή, Ελευθερία Άννα; Vali, Eleftheria Anna

dc.contributor.author	Βαλή, Ελευθερία Άννα	el
dc.contributor.author	Vali, Eleftheria Anna	en
dc.date.accessioned	2022-02-10T12:21:28Z
dc.date.available	2022-02-10T12:21:28Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/54692
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.22390
dc.rights	Default License
dc.subject	Βαθιά νευρωνικά δίκτυα	el
dc.subject	Deep neural networks	en
dc.subject	Επιθέσεις και Άμυνες	el
dc.subject	One-pixel επίθεση	el
dc.subject	PCA-whitening ανιχνευτής	el
dc.subject	Τεχνική μείωσης του βάθους του χρώματος των εικόνων	el
dc.subject	Adversarial Attacks and Defenses	en
dc.subject	One-pixel attack	en
dc.subject	PCA-whitening technique	en
dc.subject	Squeezing color bits	en
dc.title	Επιθέσεις και Άμυνες σε Βαθιά Νευρωνικά Δίκτυα	el
heal.type	bachelorThesis
heal.classification	Βαθιά νευρωνικά δίκτυα	el
heal.classification	Μηχανική μάθηση	el
heal.language	el
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2021-10-12
heal.abstract	Η πληθώρα δεδομένων που παρατηρείται στις μέρες μας καθώς και η εξέλιξη που έχει σημειωθεί τα τελευταία χρόνια στις κάρτες γραφικών δίνουν τη δυνατότητα ανάπτυξης ισχυρών δικτύων βαθιάς μηχανικής μάθησης. Τα βαθιά νευρωνικά δίκτυα, ως δίκτυα πολλαπλών κρυφών επιπέδων, αποτελούν υλοποιήσεις αλγορίθμων βαθιάς μηχανικής μάθησης που εφαρμόζονται σε διάφορους τομείς με κυριότερους την αναγνώριση εικόνας, κειμένου και ήχου. Συχνά, βαθιά νευρωνικά δίκτυα χρησιμοποιούνται και σε εφαρμογές υψηλού κινδύνου σε περίπτωση σφάλματος όπως στα συστήματα ανίχνευσης οικονομικών απατών ή στα αυτόνομα οχήματα. Παρά την αποτελεσματικότητα και την ευρεία χρήση αυτών των δικτύων, έχει αποδειχθεί ότι τα βαθιά νευρωνικά δίκτυα είναι ευάλωτα σε κακόβουλες επιθέσεις. Τα κίνητρα καθώς και οι γνώσεις γύρω από το μοντέλο που μπορεί να διαθέτει ένας εισβολέας έχουν απασχολήσει σε βάθος την επιστημονική κοινότητα. Συγχρόνως έχουν αναπτυχθεί διάφορες στρατηγικές άμυνας χωρίς όμως να υπάρχει κάποια καθολική λύση για την αντιμετώπιση των επιθέσεων. Οι έρευνες εστιάζουν στην ενδελεχή μελέτη πιθανών επιθέσεων καθώς και στις τεχνικές αντιμετώπισης τους με απώτερο σκοπό τη δημιουργία εύρωστων πολυεπίπεδων νευρωνικών δικτύων που θα είναι σε θέση να αναγνωρίζουν και να διαχειρίζονται τυχόν επιθέσεις. Στην παρούσα διπλωματική εργασία - εστιάζοντας στον τομέα της αναγνώρισης εικόνας - σε πρώτη φάση μελετήσαμε την one-pixel επίθεση σε συνδυασμό με την τεχνική ανίχνευσης αντιφατικών παραδειγμάτων PCA-whitening. Πιο συγκεκριμένα, εφαρμόζοντας την one-pixel επίθεση στα σύνολα δεδομένων MNIST και CIFAR10, δημιουργήσαμε αντιφατικά παραδείγματα με στόχο την παραπλάνηση του προεκπαιδευμένου VGG16 δικτύου. Στη συνέχεια, εφαρμόσαμε τον PCA-whitening ανιχνευτή στο σύνολο των καλοηθών και αντιφατικών παραδειγμάτων των δύο συνόλων δεδομένων, διεξάγοντας συμπεράσματα τόσο ως προς την ισχύ της one-pixel επίθεσης όσο και ως προς την αποτελεσματικότητα του δεδομένου ανιχνευτή. Σε δεύτερη φάση, επεκτείνοντας την παραπάνω έρευνα, εφαρμόσαμε την FGSM επίθεση συνδυαστικά με την one-pixel δημιουργώντας νέα αντιφατικά παραδείγματα. Εισάγοντας στη συνέχεια τα κακόβουλα αυτά παραδείγματα στον PCA-whitening ανιχνευτή, μελετήσαμε τη δική του απόδοση στη συνδυαστική αυτή επίθεση. Τέλος, πειραματιστήκαμε με μια δεύτερη τεχνική ανίχνευσης, την squeezing color bits, και με τον συνδυασμό της με την PCA-whitening, εφαρμόζοντάς τες στις παραπάνω επιθέσεις.	el
heal.abstract	Nowadays, powerful networks based on deep learning techniques are increasingly developed due to the abundance of data and the evolution of graphics cards. Deep neural networks, which contain multiple hidden layers, can be identified as deep learning algorithms with many applications in different scientific fields, including image, text and voice recognition. Deep neural networks are often applied to tasks critical to security, such as autonomous vehicles or financial fraud detection systems. Despite the widespread use of these networks and their proven effectiveness, deep neural networks have been shown to be vulnerable to malicious attacks. Scientists are trying to figure out what motivates an attack and what kind of information is available to the attacker. Although different defense strategies have been developed in recent years, there has not yet been a universal solution to the problem of attacks. Therefore, the scientific research focuses on the thorough study of possible attacks as well as on their defense techniques, with the ultimate goal of creating robust multilayer neural networks that will be able to recognize and manage any attacks. In this diploma dissertation we initially focused on the field of image recognition and studied the one-pixel attack in combination with the PCA-whitening detector of adversarial examples. In particular, by applying the one-pixel attack to the MNIST and CIFAR10 datasets, we created adversarial examples aimed at misleading the pre-trained VGG16 network. We then applied the PCA-whitening detector to all the benign and adversarial examples of the two datasets and we drew conclusions about the power of the one-pixel attack and the effectiveness of the given detector. In addition to the above research, we applied the FGSM attack in combination with the one-pixel and created new adversarial examples. Moreover, we used these new examples as input to the PCA-whitening algorithm in order to study the performance of the detector in the double attack. Finally, we experimented with a second detection technique, the squeezing color bits, combining it with PCA-whitening and applying this double-defense to the aforementioned attacks.	en
heal.advisorName	Σταφυλοπάτης, Ανδρέας-Γεώργιος	el
heal.committeeMemberName	Σταφυλοπάτης, Ανδρέας-Γεώργιος	el
heal.committeeMemberName	Κόλλιας, Στέφανος	el
heal.committeeMemberName	Στάμου, Γεώργιος	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών. Τομέας Τεχνολογίας Πληροφορικής και Υπολογιστών	el
heal.academicPublisherID	ntua
heal.numberOfPages	97 σ.	el
heal.fullTextAvailability	false