Compressed sensing MRI using score-based implicit model

Δήμος, Δημήτριος; Dimos, Dimitrios

dc.contributor.author	Δήμος, Δημήτριος	el
dc.contributor.author	Dimos, Dimitrios	en
dc.date.accessioned	2023-02-06T17:39:54Z
dc.date.available	2023-02-06T17:39:54Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/57094
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.24792
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/3.0/gr/	*
dc.subject	Generative model	en
dc.subject	Diffusion model	en
dc.subject	Score-based model	en
dc.subject	Stochastic differential equation	en
dc.subject	Γενετικό μοντέλο	el
dc.subject	Μοντέλο διάχυσης	el
dc.subject	Μοντέλο score-based	el
dc.subject	Στοχαστική διαφορική εξίσωση	el
dc.subject	Compressed sensing	en
dc.subject	Μαγνητική τομογραφία	el
dc.title	Compressed sensing MRI using score-based implicit model	en
heal.type	bachelorThesis
heal.classification	Machine Learning	en
heal.classification	Computer Vision	en
heal.classification	Mathematics	en
heal.language	el
heal.language	en
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2022-10-20
heal.abstract	In this thesis we study a newly emerged family of generative models; diffusion-based models, and propose a new method for solving inverse problems with significantly reduced computational cost. During the last three years, generative diffusion models constitute an important pole of interest for research that focuses on data generation and have con- tributed in the rapid evolution of domains among which are image generation (text-guided or not), shape and music generation. These models have achieved state-of-the-art per- formance regarding image synthesis quality, even beating GANs. In addition, multiple research works have utilized the generative capabilities of diffusion models to approach preexisting problems and have produced results that undermine previous techniques. More specifically, score-based models have been incorporated in a unified framework that approaches linear inverse problems, but suffers from high computational cost that prohibits its real-world deployment. In this thesis, we employ the equivalence between dif- fusion and score-based models and propose Score-based Implicit Model (SBIM) algorithm. SBIM is a reparameterization of DDIM algorithm - which uses diffusion models by default to produce samples - to incorporate score-based models. This way, we take advantage of DDIM’s innate speed in order to extend the score-based framework by proposing an algorithm with significantly lower computational cost. In this work, we demonstrate the mathematical derivation of SBIM and successfully apply it to perform Compressed Sens- ing in MRI. The results, based on SSIM, PSNR and time evaluation metrics, confirm that SBIM can compete against previous methods and comprises a new tactic for accelerating inverse problem solutions using diffusion models.	en
heal.abstract	Σε αυτή την εργασία μελετάμε μια πρόσφατα αναδυθείσα οικογένεια παραγωγικών μοντέλων: μοντέλα diffusion-based, και προτείνουμε μία νέα μέθοδο αξιοποίησής τους για την επίλυση προβλημάτων αντιστροφής με σημαντικά μειωμένο υπολογιστικό κόστος. Την τελευταία τριετία, τα παραγωγικά μοντέλα diffusion αποτελούν σημαντικό κέντρο της έρε- υνας που ασχολείται με την παραγωγή δεδομένων και έχουν σημειώσει ιλιγγιώδη πρόοδο σε τομείς όπως η παραγωγή εικόνας (καθοδηγούμενη από κείμενο και μη), σχήματος και μουσικής, μεταξύ άλλων. Τα εν λόγω μοντέλα έχουν επιτύχει state-of-the-art επίδοση αναφορικά με την ποιότητα σύνθεσης εικόνων, υπερβαίνοντας μέχρι και αυτή των GANs. Ταυτόχρονα, πολλαπλά ερευνητικά έργα έχουν αξιοποιήσει τις παραγωγικές ικανότητες των μοντέλων diffusion για την προσέγγιση προϋπαρχόντων προβλημάτων και παράξει αποτέλεσ- ματα που υποσκελίζουν προηγούμενες τεχνικές. Πιο ειδικά, τα μοντέλα score-based έχουν χρησιμοποιηθεί σε ένα ενιαίο framework προσέγγισης γραμμικών προβλημάτων αντιστροφής (linear inverse problems), το οποίο, ωστόσο, πάσχει από υψηλό υπολογιστικό κόστος που απαγορεύει την χρήση του σε προβλήματα πραγματικού κόσμου. Στα πλαίσια αυτής της διπλωματικής, εκμεταλλευόμαστε την ισοδυναμία των μοντέλων score-based και diffusion, και προτείνουμε τον αλγόριθμο Score-based Implicit Model (SBIM). Ο αλγόριθμος SBIM αποτελεί επαναπαραμετροποίηση του αλγορίθμου DDIM - ο οποίος χρησιμοποιεί diffusion μοντέλα για να παράγει δείγματα - ώστε να χρησιμοποιεί score-based μοντέλα. Με αυτόν τον τρόπο, εκμεταλλευόμαστε την εγγενή ταχύτητα του DDIM για να επεκτείνουμε το γενικό framework προσέγγισης αντίστροφων προβλημάτων με μοντέλα score-based, προτείνοντας έναν αλγόριθμο με σημαντικά χαμηλότερο υπολογιστικό κόστος. Στην εργασία παρουσιά- Σουμε εκτένως την μαθηματική προέλευση του αλγορίθμου SBIM και τον εφαρμόζουμε με επιτυχία στην πραγματοποίηση Compressed Sensing σε μαγνητικές τομογραφίες (MRI). Τα αποτελέσματα, βάσει των μετρικών αξιολόγησης SSIM, PSNR και χρόνου, επιβεβαιώνουν την ανταγωνιστικότητα του αλγορίθμου SBIM έναντι των προηγούμενων μεθόδων και συνιστούν μια εναλλακτική τακτική για την επιτάχυνση της επίλυσης προβλημάτων αντιστροφής με μοντέλα diffusion.	el
heal.advisorName	Στάμου, Γεώργιος	el
heal.advisorName	Δημάκης, Αλέξανδρος	el
heal.committeeMemberName	Στάμου, Γεώργιος	el
heal.committeeMemberName	Δημάκης, Αλέξανδρος	el
heal.committeeMemberName	Βουλόδημος, Αθανάσιος	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Πολιτικών Μηχανικών. Τομέας Υδατικών Πόρων και Περιβάλλοντος	el
heal.academicPublisherID	ntua
heal.numberOfPages	113 σ.	el
heal.fullTextAvailability	false