Καθαρισμός εισόδων με παραγωγικά μοντέλα για άμυνα σε εχθρικές επιθέσεις.

Τσάκωνας, Παναγιώτης; Tsakonas, Panagiotis

dc.contributor.author	Τσάκωνας, Παναγιώτης	el
dc.contributor.author	Tsakonas, Panagiotis	en
dc.date.accessioned	2026-09-01T07:34:04Z
dc.date.available	2026-09-01T07:34:04Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/65657
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.33351
dc.rights	Default License
dc.subject	Εχθρικές Επιθέσεις	el
dc.subject	Παραγωγικά Μοντέλα	el
dc.subject	Νευρωνικά Δίκτυα	el
dc.subject	Καθαρισμός Εισόδων	el
dc.subject	Ασφάλεια Μηχανικής Μάθησης	el
dc.subject	Adversarial Attacks	en
dc.subject	Generative Models	en
dc.subject	Neural Networks	en
dc.subject	Input Purification	en
dc.subject	Machine Learning Security	en
dc.title	Καθαρισμός εισόδων με παραγωγικά μοντέλα για άμυνα σε εχθρικές επιθέσεις.	el
dc.title	Generative input purification for defense against adversarial attacks.	en
heal.type	bachelorThesis
heal.classification	Επιστήμη Υπολογιστών	el
heal.classification	Μηχανική Μάθηση	el
heal.language	el
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2026-07-08
heal.abstract	Αντικείμενο της παρούσας διπλωματικής εργασίας είναι η αξιολόγηση και η μελέτη της δυνατότητας των Παραγωγικών Ανταγωνιστικών Δικτύων (GANs) να λειτουργήσουν ως μηχανισμός καθαρισμού των εισόδων απέναντι σε εχθρικές επιθέσεις (adversarial attacks). Υιοθετώντας την αρχιτεκτονική Defense-GAN, μελετάται μια προσέγγιση άμυνας η οποία εστιάζει στον "καθαρισμό" (purification) των εισόδων μέσω Παραγωγικών Ανταγωνιστικών Δικτύων (GANs), πριν την τελική διαδικασία της ταξινόμησης. Η πρόβλεψη της κατηγορίας μιας εικόνας με υψηλή ακρίβεια, παρά την ύπαρξη εχθρικού θορύβου, διασφαλίζει την αξιόπιστη λειτουργία των μοντέλων μηχανικής μάθησης σε κρίσιμα περιβάλλοντα εφαρμογής. Προκειμένου να καταστεί σαφής η πορεία διαχείρισης του προβλήματος, παρουσιάζεται αρχικά η τυπική ροή σχεδίασης και εκπαίδευσης τόσο των μοντέλων ταξινόμησης όσο και των παραγωγικών δικτύων σε διαφορετικά σύνολα δεδομένων (MNIST και CIFAR-10). Δίνεται έμφαση στον συλλογισμό με τον οποίο λαμβάνονται οι σχεδιαστικές αποφάσεις, καθώς και στην επαρκή θεωρητική τεκμηρίωση των επιθέσεων που εφαρμόζονται. Επιπλέον, αναλύεται με λεπτομέρεια η διαδικασία υλοποίησης προηγμένων αλγορίθμων παραγωγής εχθρικών παραδειγμάτων (AdvGAN), με στόχο τη δημιουργία επιθέσεων που τηρούν αυστηρά μαθηματικά όρια (L_∞ norm) και προσομοιώνουν ρεαλιστικές συνθήκες αδυναμίας των συστημάτων. Τα αποτελέσματα της μελέτης καταδεικνύουν ότι η αρχιτεκτονική Defense-GAN έχει τη δυνατότητα να επιτύχει ιδιαίτερα υψηλές επιδόσεις στην επαναφορά της ακρίβειας για δεδομένα χαμηλής πολυπλοκότητας (MNIST). Δίνοντας έμφαση, ωστόσο, στην ανάλυση πολύπλοκων φυσικών εικόνων (CIFAR-10), διαπιστώνεται ότι το εγγενές σφάλμα ανακατασκευής (reconstruction error) του παραγωγικού μοντέλου μπορεί να επιδράσει πιο καταστροφικά στον ταξινομητή από ό,τι η ίδια η επίθεση. Το γεγονός αυτό, καταγράφοντας τους περιορισμούς της προβολής στον λανθάνοντα χώρο (latent space projection), αποτελεί στοιχείο ιδιαίτερα σημαντικό, καθότι αναδεικνύει την ανάγκη για σχεδιασμό νέων, πιο προσαρμοστικών μεθόδων άμυνας στα νευρωνικά δίκτυα του μέλλοντος.	el
heal.abstract	The objective of this thesis is the evaluation and enhancement of the robustness of Deep Neural Networks against adversarial attacks. The proposed approach adopts the Defense-GAN architecture, implementing a defense mechanism focused on the purification of inputs using Generative Adversarial Networks (GANs) prior to the final classification phase. Accurate prediction of an image's class, despite the presence of adversarial noise, ensures the reliable operation of machine learning models in critical application environments. To clearly illustrate the problem-solving workflow, the standard design and training pipeline for both classification models and generative networks across different datasets (MNIST and CIFAR-10) is initially presented. Emphasis is placed on both the reasoning behind key design choices and on the sound theoretical justification of the applied adversarial attacks. Additionally, the thesis provides a detailed account of the implementation process for advanced noise generation algorithms (AdvGAN), aiming to create attacks that strictly adhere to mathematical boundaries (L_(∞ ) norm) and simulate realistic conditions of system vulnerability. The study's findings demonstrate that Defense-GAN architecture can achieve remarkably high performance in restoring accuracy for low-complexity data (MNIST). Particular attention is paid to the analysis of complex natural images (CIFAR-10), revealing that the inherent reconstruction error of the generative model can have a more detrimental effect on the classifier than the attack itself—a critical aspect, given that it documents the limitations of latent space projection. Moreover, the fact that these vulnerabilities are observed under strictly bounded perturbations highlights the need for designing novel, more adaptive defense methods for future neural networks.	en
heal.advisorName	Tserpes, Konstantinos	en
heal.committeeMemberName	Varvarigos, Emmanouel
heal.committeeMemberName	Varvarigou, Theodora	en
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών.	el
heal.academicPublisherID	ntua
heal.numberOfPages	83
heal.fullTextAvailability	false