Μελέτη της Επεξηγηματικής Τεχνητής Νοημοσύνης

Λυμπερόπουλος, Θεόδωρος; Lymperopoulos, Theodoros

dc.contributor.author	Λυμπερόπουλος, Θεόδωρος	el
dc.contributor.author	Lymperopoulos, Theodoros	en
dc.date.accessioned	2024-06-06T07:17:18Z
dc.date.available	2024-06-06T07:17:18Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/59653
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.27349
dc.description		el
dc.rights	Αναφορά Δημιουργού - Μη Εμπορική Χρήση - Παρόμοια Διανομή 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-sa/3.0/gr/	*
dc.subject	Explainable AI	en
dc.subject	Attribution methods	en
dc.subject	Occlusion methods	en
dc.subject	Zero Information	en
dc.subject	Evaluation metrics	en
dc.subject	Επεξηγηματική Τεχνητή Νοημοσύνη	el
dc.subject	Μέθοδοι Απόδοσης	el
dc.subject	Μετρικές Αξιολόγησης	el
dc.subject	Τεχνικές Απόκρυψης	el
dc.subject	Μηδενική Πληροφορία	el
dc.title	Μελέτη της Επεξηγηματικής Τεχνητής Νοημοσύνης	el
dc.title	A Study of Explainable AI	en
dc.contributor.department	AILS	el
heal.type	masterThesis
heal.secondaryTitle	Η έννοια της μηδενικής πληροφορίας	el
heal.secondaryTitle	The Concept of Zero Information	el
heal.classification	Artificial Intelligence	en
heal.classification	Τεχνητή Νοημοσύνη	el
heal.language	el
heal.language	en
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2023-10-26
heal.abstract	Η ταχεία ανάπτυξη σύνθετων μοντέλων βαθιάς μάθησης οδήγησε σε μεγάλα και σημαντικά επιτεύγματα, σε μια πληθώρα εφαρμογών, υποδεικνύοντας την ικανότητά τους στην αναγνώριση σημαντικών προτύπων στα δεδομένα. Ωστόσο, αυτή η επιτυχία συνοδεύτηκε από τη μείωση της ερμηνευσιμότητας των μοντέλων. Αυτές οι περίπλοκες αρχιτεκτονικές θεωρούνται "μαύρα κουτιά", διότι πραγματοποιούν πολλούς χαμηλού επιπέδου, μη γραμμικούς υπολογισμούς. Παρόμοια με τον ανθρώπινο εγκέφαλο, κατανοούμε τον εκάστοτε αλληλεπίδραση των νευρώνων, αλλά δυσκολευόμαστε να κατανοήσουμε πώς το μοντέλο συνδυάζει πληροφορίες για τη δημιουργία υψηλότερων έννοιων. Αυτό το κενό γνώσης οδήγησε στον τομέα της Επεξηγηματικής Τεχνητής Νοημοσύνης (ΕΤΝ). Η Επεξηγηματική Τεχνητή Νοημοσύνη (ΕΤΝ) βρίσκεται στο στάδιο της ανάπτυξης, και μια σειρά ερωτημάτων για την κατανόηση της λειτουργίας του μοντέλου δεν έχει ακόμα διατυπωθεί. Ωστόσο, η έρευνα ξεκίνησε με ένα θεμελιώδες ερώτημα: "ποιοι παράγοντες επηρεάζουν την απόφαση ενός μοντέλου για ένα δεδομένο είσοδο", οδηγώντας στην ανάπτυξη των "μεθόδων Ανάθεσης". Αυτές οι μέθοδοι στοχέυουν στην απόδοση της απόφασης ενός μοντέλου πίσω στα χαρακτηριστικά εισόδου, με την ανάθεση σημασίας σε κάθε χαρακτηριστικό. Για να επιτευχθεί αυτό, χρησιμοποιούν διάφορα μαθηματικά εργαλεία, στενά σχετιζόμενα με την έννοια της σημασίας. Η εξάπλωση τέτοιων μεθόδων απαίτησε τη δημιουργία "μετρικών Αξιολόγησης" για να μετρήσουν την αποτελεσματικότητά τους. Ωστόσο, τέτοιες μετρικές εμφάνισαν περιορισμούς, οδηγώντας μερικούς ερευνητές στην ανάπτυξη συνόλων "Αξιωμάτων και Κριτηρίων" που θεωρούνταν απαραίτητα για την αξιόπιστη ανάθεση. Αν και αντιμετωπίζουν παρόμοιους περιορισμούς, παρέχουν μια πιο έννοιολογικά ορθή προσέγγιση για αξιόπιστες αναθέσεις. Σε απάντηση σε αυτές τις προκλήσεις, αυτή η διατριβή εξερευνά το έννοια της "Μηδενικής Πληροφορίας", καθώς μπορεί να προσφέρει σημαντική βοήθεια σε αυτές τις ερωτήσεις. Αυτή η έννοια αποσκοπεί στο να κρύψει όλες τις πληροφορίες που περιέχονται σε τμήματα μιας εικόνας για ένα συγκεκριμένο μοντέλο, αποκαλύπτοντας τη συμβολή τους στη απόφαση του μοντέλου. Αυτή η διατριβή αναπτύσσει μια νέα προσέγγιση στο πρόβλημα, σχεδιάζοντας κριτήρια που σχετίζονται με την απόκρυψη της πληροφορίας. Πρώτον, σχεδιάζουμε ένα αλγόριθμο για την απόκρυψη της πληροφορίας από ολόκληρη την εικόνα. Μεταφράζοντας τα κριτήρια σε συναρτήσεις κόστους, ο αλγόριθμος εντοπίζει τα πιο επιδραστικά σημεία που οδηγούν στη μείωση της βεβαιότητας του μοντέλου και τα χρησιμοποιεί για να ορίσει μια μέθοδο Ανάθεσης. Στη συνέχεια, για την απόκρυψη πληροφορίας από μέρη της εικόνας, τα κριτήρια πρέπει να επεκταθούν για να περιέχουν τις αλληλεπιδράσεις χαρακτηριστικών. ΄Ενας αλγόριθμος βελτιστοποίησης εκπαιδεύεται για να πληροί αυτά τα κριτήρια, ενώ χρησιμοποιεί γεννητικά μοντέλα για την ανακατασκευή των απόκρυμμένων τμημάτων με "φυσική" συμπλήρωση. Η μέθοδος δοκιμάζεται με βάση πολλές μετρικές, εμφανίζοντας ισχυρή απόδοση έναντι άλλων τεχνικών. Στη συνέχεια, μπορεί να χρησιμοποιηθεί από διάφορες μεθόδους Ανάθεσης και μετρικές Αξιολόγησης που βασίζονται στην απόκρυψη πληροφορίας, προσφέροντας καλύτερα αποτελέσματα. Συνολικά, αυτή η διατριβή προσπαθεί να αναπτύξει μια μεθοδολογία για αξιόπιστες τεχνικές συμπλήρωσης για τη Μηδενική Πληροφορία. Δεν παρέχει ορι στικές απαντήσεις στο πρόβλημα, δεδομένη την πολυπλοκότητά του. Αντίθετα, ανοίγει το δρόμο για την ανάπτυξη καλύτερων κριτηρίων ως μια μελλοντική κατεύθυνση, προσφέροντας απαντήσεις σε θεμελιώδεις ερωτήσεις της ΤΝ.	el
heal.advisorName	Κόλλιας, Στέφανος	el
heal.advisorName	Kollias, Stefanos	en
heal.committeeMemberName	Βουλοδήμος, Αθανάσιος	el
heal.committeeMemberName	Κόλλιας, Στέφανος	el
heal.committeeMemberName	Αβρίθης, Ιωάννης	el
heal.committeeMemberName	Kollias, Stefanos	en
heal.committeeMemberName	Avrithis, Ioannis	en
heal.committeeMemberName	Voulodimos, Athanasios	en
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών.	el
heal.academicPublisherID	ntua
heal.numberOfPages	105 σ.	el
heal.fullTextAvailability	false