Application of physics informed neural networks in the development of physiologically based knetic models

Μηναδάκης, Βασίλειος; Minadakis, Vasileios

dc.contributor.author	Μηναδάκης, Βασίλειος	el
dc.contributor.author	Minadakis, Vasileios	en
dc.date.accessioned	2024-03-27T09:07:10Z
dc.date.available	2024-03-27T09:07:10Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/59058
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.26754
dc.description	Εθνικό Μετσόβιο Πολυτεχνείο--Μεταπτυχιακή Εργασία. Διεπιστημονικό-Διατμηματικό Πρόγραμμα Μεταπτυχιακών Σπουδών (Δ.Π.Μ.Σ.) "Επιστήμη Δεδομένων και Μηχανική Μάθηση"	el
dc.rights	Default License
dc.subject	PINN	en
dc.subject	PBK	en
dc.subject	PFAS	en
dc.subject	Machine learning	en
dc.subject	Identifiability analysis	en
dc.subject	Μηχανική μάθηση	el
dc.subject	Κινητικά μοντέλα	el
dc.subject	Υπερφθοριωμένες ουσίες	el
dc.subject	Ταυτοποιησιμότητα	el
dc.subject	Νευρωνικά δίκτυα	el
dc.title	Application of physics informed neural networks in the development of physiologically based knetic models	el
heal.type	masterThesis
heal.classification	Machine Learning	el
heal.language	el
heal.language	en
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2023-10-31
heal.abstract	Physiologically Based Kinetic models are mathematical models of differential equations and are used to predict the processes of administration, distribution, metabolism and excretion (ADME) of pharmaceutical or toxic substances to which organisms are exposed. PBK models incorporate details from the physiology of the examined organisms, such as the mass of the organs and tissues, the blood flow rates of the organs etc. Therefore, PBK models are often used along with biodistribution experimental data to estimate the value of kinetic parameters that are difficult, or even infeasible to estimate experimentally. Consequently, the estimation of these parameters using experimental data is an optimization problem. This optimization process may present various obstacles, among which the most common is overparameterization of the model. The redundant parameters usually provoke identifiability issues to the model, meaning that the values of the estimated parameters have no physical significance. There are various approaches on how to estimate the parameters of a PBK model. A recently proposed approach in optimization problems of dynamic systems involves the use of Physics Informed Neural Networks (PINNs). This approach exploits the ability of the artificial neural networks to perform very well as function approximators and combines that with information directly derived from the differential equations that describe the examined dynamic system. PINNs have been applied in two types of problems. In forward problems, they are trained to predict the solution of the differential equations, and they have proven to be very efficient in cases where the equations are difficult to solve using numerical solvers. The second type of problems is the inverse problems where PINNs are employed to estimate the unknown parameters of dynamic systems, using available data. This diploma thesis will focus on the development of a PBK model that predicts the biodistribution of five perfluoroalkyl substances (PFAS) in rainbow trout fish, which consume food rich in PFAS. These chemicals consist a large class of synthetic chemicals that contain carbon-fluorine bonds, which are one of the strongest chemical bonds and that makes PFAS very resistant to degradation. To estimate the values of the model’s unknown parameters, two different approaches will be tested. In the first approach, the unknown parameters will be estimated by implementing an optimization workflow, aimed at minimizing the value of an objective function that quantifies the agreement between the model's predictions and experimental data. The second approach will implement a PINN to estimate the unknown parameters of the model. Moreover, identifiability analysis will be performed using a workflow that exploits the profile likelihood method, to improve the robustness of the development process. Finally, a comparison of the two approaches will be provided, highlighting the advantages of each method. The efficiency of PINN workflows in the development of PBK models will be particularly discussed.	en
heal.abstract	Τα κινητικά μοντέλα που βασίζονται στη φυσιολογία των οργανισμών είναι μαθηματικά μοντέλα διαφορικών εξισώσεων που χρησιμοποιούνται για την πρόβλεψη και περιγραφή της απορρόφησης, βιοκατανομής, μεταβολισμού και απέκκρισης φαρμακευτικών ή τοξικών ουσιών, στις οποίες οι οργανισμοί εκτίθενται. Τα κινητικά μoντέλα φυσιολογίας εμπεριέχουν πληροφορία και λεπτομέρειες από την φυσιολογία των οργανισμών, όπως οι μάζα των οργάνων και των ιστών, οι ρυθμοί ροής αίματος στα όργανα κ.ά. Επομένως, τα κινητικά μοντέλα φυσιολογίας χρησιμοποιούνται συχνά σε συνδυασμό με πειραματικά δεδομένα βιοκατανομής μίας ουσίας στους ιστούς ενός οργανισμού, προκειμένου να εκτιμηθούν κινητικές παράμετροι, των οποίων ο πειραματικός υπολογισμός είναι δύσκολος ή και ανέφικτος. Επομένως, η διαδικασία εκτίμησης αυτών των παραμέτρων ανάγεται σε ένα κλασικό πρόβλημα βελτιστοποίησης. Η διαδικασία βελτιστοποίησης μπορεί να παρουσιάσει πολλαπλά εμπόδια, με το συχνότερο από αυτά να είναι η υπερ-παραμετροποίηση του μοντέλου. Οι πλεονάζουσες παράμετροι συχνά προκαλούν προβλήματα ταυτοποιησιμότητας στο μοντέλο, που σημαίνει ότι οι εκτιμηθείσες παράμετροι δεν έχουν καμία φυσική σημασία. Για την εκτίμηση των παραμέτρων ενός μοντέλου υπάρχουν διάφορες προσεγγίσεις. Μία μεθοδολογία που έχει προταθεί τα τελευταία χρόνια είναι η χρήση νευρωνικών δικτύων που βασίζονται στη φυσική του συστήματος που μελετάται. Αυτή η μεθοδολογία εκμεταλλεύεται την ικανότητα των τεχνητών νευρωνικών δικτύων να προσεγγίσουν οποιαδήποτε άγνωστη συνάρτηση και τη συνδυάζει με πληροφορία που προέρχεται απευθείας από τις διαφορικές εξισώσεις, που περιγράφουν τη δυναμική του εκάστοτε συστήματος. Η μεθοδολογία αυτή έχει χρησιμοποιηθεί σε δύο ειδών προβλήματα. Η πρώτη κατηγορία αφορά προβλήματα στα οποία τα νευρωνικά δίκτυα εκπαιδεύονται ώστε να μάθουν να προβλέπουν τη λύση των διαφορικών εξισώσεων κι εν τέλει να λειτουργήσουν ως εναλλακτική μέθοδος επίλυσης διαφορικών εξισώσεων. Η δεύτερη κατηγορία προβλημάτων είναι εκείνη στην οποία αυτές οι αρχιτεκτονικές νευρωνικών δικτύων χρησιμοποιούνται για την εκτίμηση των άγνωστων παραμέτρων των διαφορικών εξισώσεων ενός δυναμικού συστήματος, χρησιμοποιώντας διαθέσιμα πειραματικά δεδομένα. Η παρούσα διπλωματική εργασία πρόκειται να εστιάσει στην ανάπτυξη ενός κινητικού μοντέλου φυσιολογίας που προβλέπει τη βιοκατανομή πέντε διαφορετικών υπερφθοριωμένων αλκυλιωμένων ουσιών στο είδος ψαριού που ονομάζεται ιριδίζουσα πέστροφα, το οποίο έχει εκτεθεί σε αυτές τις ουσίες μέσω της διατροφής. Ως υπερφθοριωμένες αλκυλιωμένες ουσίες θεωρείται μία μεγάλη κατηγορία συνθετικών χημικών, τα οποία περιέχουν δεσμούς άνθρακα-φθορίου, που τα καθιστούν ιδιαίτερα ανθεκτικά σε αποσύνθεση. Για την εκτίμηση των αγνώ-\\στων παραμέτρων του μοντέλου θα χρησιμοποιηθούν δύο διαφορετικές προσεγγίσεις. Στην πρώτη προσέγγιση, οι άγνωστες παράμετροι θα εκτιμηθούν υλοποιώντας έναν αλγόριθμο βελτιστοποίησης, ο οποίος θα ελαχιστοποιεί την τιμή μίας αντικειμενικής συνάρτησης, η οποία θα υπολογίζει το πόσο καλά προβλέπει το μοντέλο τα πειραματικά δεδομένα. Η δεύτερη προσέγγιση θα αφορά την υλοποίηση ενός τεχνητού νευρωνικού δικτύου ενισχυόμενο με πληροφορία από τις διαφορικές εξισώσεις του μοντέλου, με σκοπό την εκτίμηση των αγνώστων παραμέτρων. Επιπλέον, το ζήτημα της ταυτοποιησιμότητας των παραμέτρων θα προσεγγιστεί αξιοποιώντας την μέθοδος υπολογισμού του προφίλ της πιθανοφάνειας των παραμέτρων, ενισχύοντας έτσι την ευρωστία του μοντέλου. Καταλήγοντας, θα γίνει μία σύγκριση μεταξύ των δύο μεθοδολογιών και θα παρουσιαστούν τα προτερήματα της καθεμιάς σε σχέση με την άλλη.	el
heal.advisorName	Νικήτα, Κωνσταντίνα	el
heal.advisorName	Σαρίμβεης, Χαράλαμπος	el
heal.advisorName	Sarimveis, Haralambos	en
heal.advisorName	Nikita, Konstantina	en
heal.committeeMemberName	Νικήτα, Κωνσταντίνα	el
heal.committeeMemberName	Σαρίμβεης, Χαράλαμπος	el
heal.committeeMemberName	Βουλόδημος, Αθανάσιος	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Χημικών Μηχανικών	el
heal.academicPublisherID	ntua
heal.numberOfPages	88 σ.	el
heal.fullTextAvailability	false