Data Vulnerabilities and Adversarial Attacks against ML-Based Systems. The Adversarial Risk in the Healthcare Domain.

Παπατσίμπας, Δημήτριος; Papatsimpas, Dimitrios

dc.contributor.author	Παπατσίμπας, Δημήτριος	el
dc.contributor.author	Papatsimpas, Dimitrios	en
dc.date.accessioned	2024-02-06T08:10:02Z
dc.date.available	2024-02-06T08:10:02Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/58781
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.26477
dc.description	Εθνικό Μετσόβιο Πολυτεχνείο--Μεταπτυχιακή Εργασία. Διεπιστημονικό-Διατμηματικό Πρόγραμμα Μεταπτυχιακών Σπουδών (Δ.Π.Μ.Σ.) “Τεχνο-Οικονομικά Συστήματα (ΜΒΑ)”	el
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/3.0/gr/	*
dc.subject	Adversarial Examples	en
dc.subject	Poisonous Attacks	en
dc.subject	Backdoor Attacks	en
dc.subject	Defense Mechanisms	en
dc.subject	Healthcare Systems	en
dc.title	Data Vulnerabilities and Adversarial Attacks against ML-Based Systems. The Adversarial Risk in the Healthcare Domain.	en
dc.title	Ευπάθεια Δεδομένων και Αντιπαραθετικές Επιθέσεις ενάντια σε συστήματα Μηχανικής Μάθησης. Ο Αντιπαραθετικός Κίνδυνος στην περίπτωση του Τομέα Υγείας.	el
heal.type	masterThesis
heal.classification	Adversarial Attacks	en
heal.classification	Machine Learning	en
heal.classification	Deep Learning	en
heal.language	en
heal.access	campus
heal.recordProvider	ntua	el
heal.publicationDate	2023-10-19
heal.abstract	Η Τεχνητή Νοημοσύνη (ΤΝ) αν και έχει παρουσιαστεί ως πεδίο το 1958 από τον John McCarthy, ήταν μόλις το 2006 όταν σε συνδυασμό με την αύξηση της υπολογιστικής ισχύος εμφανίστηκαν νέες εφαρμογές στο πεδίο της Μηχανικής Μάθησης (ΜΜ). Ωστόσο, η άνθιση αυτή πραγματώθηκε αντίστοιχα και στο πεδίο των επιθέσεων, καθιστώντας την ανάπτυξη συστημάτων που βασίζονται στο πεδίο της ΤΝ επισφαλή για την εφαρμογή τους σε κρίσιμες δημόσιες υποδομές, χωρίς τη λήψη αυστηρών μέτρων ασφάλειας. Η ευπάθεια των δεδομένων και οι απειλές ενάντια σε αυτά, συνιστούν ένα επιστημονικό πεδίο ανοικτό για περαιτέρω εξερεύνηση. Ειδικότερα, από τη σε βάθος μελέτη επιθέσεων οι οποίες αναπτύσσονται σε όλο τον κύκλο ζωής των συστημάτων Τεχνητής Νοημοσύνης (εκπαίδευση, εξαγωγή συμπερασμάτων), όπως οι κακόβουλες επιθέσεις, οι «αντιπαραθετικές» οι οποίες υλοποιούνται με ανεπαίσθητες τροποποιήσεις των δεδομένων εισόδου, καθώς και άλλες σύγχρονες, θα ήταν δυνατό να προκύψει μία νέα οπτική στον τομέα αυτό. Επιπλέον, οι επιθέσεις αυτές είναι άρρηκτα συνδεδεμένες με την ανάπτυξη αντίστοιχων μέτρων άμβλυνσης των επιπτώσεών τους, με αποτέλεσμα αυτός ο συνεχής ανταγωνισμός να δημιουργεί ένα γόνιμο και ταυτόχρονα «αντιπαραθετικό» περιβάλλον. Για το λόγο αυτό κρίνεται σκόπιμο να αναφερθούν διάφοροι αντιπροσωπευτικοί μηχανισμοί άμυνας, ώστε να επισημανθεί η ροή που έχει ακολουθήσει η επιστημονική κοινότητα και να δημιουργήσει στέρεες βάσεις για μελλοντικές κατευθύνσεις. Κρίσιμες περιοχές όπως της υγείας, της αυτόνομης οδήγησης, της ταξινόμησης, της αναγνώρισης φωνής, της ασφάλειας δικτύων, οι οποίες έχουν στον πυρήνα τους την ανθρώπινη ζωή, αντιμετωπίζουν αντίστοιχα προβλήματα. Στην παρούσα εργασία, αν και θα δοθεί ιδιαίτερη έμφαση στον τομέα της υγείας, αυτό δεν συνεπάγεται ότι θα αποκλίνει σημαντικά και από τα υπόλοιπα πεδία ενδιαφέροντος.	el
heal.abstract	Although Artificial Intelligence (AI) was introduced as a new discipline by John McCarthy in 1958, it was not until 2006 along with computational power that new applications ushered in the Machine Learning (ML) domain. This flourish went along with counterpart attacks producing eventually uncertainties that set AI-related systems precarious to deploy in crucial public infrastructure, without taking strict security measures against them. Data vulnerabilities and threats comprise a scientific area viable to further scrutiny in terms of attacks deploying in all the gamut of the Artificial Intelligence systems pipeline (training, inference, ai integration), such as poisonous attacks, imperceptible perturbations namely adversarial examples as well as other contemporary ones, and thus studying the latest topics could highlight a new insight. Besides, these attacks are tightly coupled with corresponding mitigation measures, continuously going back-and-forth creating an “adversarial” environment. Thus, latest representative defense mechanisms will be presented in order to enlighten the roadmap that research community follows, grasping the rhythm for future exploration. Critical areas such as healthcare, autonomous driving, classification, speech recognition, network security, where human life is of utmost importance, raise such security issues. Though, special consideration is to be taken to the healthcare domain in this thesis, it will still be attached no further than the other fields.	en
heal.advisorName	Δουλάμης, Αναστάσιος	el
heal.advisorName	Doulamis, Nikolaos	en
heal.committeeMemberName	Δουλάμης, Αναστάσιος
heal.committeeMemberName	Βαρβαρίγου, Θεοδώρα
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών	el
heal.academicPublisherID	ntua
heal.numberOfPages	83 σ.	el
heal.fullTextAvailability	false