Entropy: Uncertainty in Hydrology and Nature

Abstract

Η παρούσα διπλωματική εργασία παρουσιάζει μια επισκόπηση της βιβλιογραφίας σχετικά με την έννοια της εντροπίας. Σκοπός της είναι να προσφέρει μια εισαγωγή της σημασίας και των εφαρμογών της εντροπίας σε υδρολόγους μηχανικούς. Παράλληλα πραγματεύεται διάφορες συνήθεις εσφαλμένες αντιλήψεις σχετικά με την έννοια της εντροπίας, η σημαντικοτέρη εκ των οποίων είναι η ταύτιση της εντροπίας με την «αταξία». Ορίζονται η εντροπία και σχετικές έννοιες από τη θεωρία των πιθανοτήτων, τη θεωρία της πληροφορίας και τη θερμοδυναμική. Παράλληλα με τους ορισμούς παρουσιάζονται το ιστορικό της ανάπτυξης των εξεταζόμενων εννοιών καθώς και τα τεχνολογικά, επιστημονικά και φιλοσοφικά κίνητρα για την ανάπτυξη αυτή. Οι κύριες έννοιες που εξετάζονται είναι ο δεύτερος νόμος της θερμοδυναμικής, η θερμοδυναμική και πληροφοριοθεωρητική εντροπία, ο ρυθμός παραγωγής εντροπίας και η μεγιστοποίησηή του, και η μέθοδος στατιστικής επαγωγής με βάση την αρχή μεγιστοποίησης της εντροπίας. Η εργασία παρουσιάζει παραδείγματα εφαρμογής της εντροπίας στην Υδρολογία, συγκεκριμένα απο την Υδρομετεωρολογία και τη Στοχαστική Υδρολογία, σε άλλες φυσικές επιστήμες, συγκεκριμένα από τη θεωρία συστημάτων αυτο-οργάνωσης με παραδείγματα τέτοιων συστημάτων, και την Επιστήμη του Γεωσυστήματος, και στην τεχνολογία, συγκεκριμένα μία εφαρμογή βελτιστοποίησης της διάταξης μετρητικών συστημάτων. Η εργασία καταλήγει με την παρουσιάση φιλοσοφικών συζητήσεων σχετικά με την έννοια της εντροπίας και προεκτάσεων της αρχής μεγστοποίησης της εντροπίας.

This thesis presents a review of literature related to the concept of entropy. Its aim is to offer an introduction of the meaning and applications of entropy to a hydrological engineering audience. Furthermore, it discusses some common misconceptions surrounding the concept of entropy, the most important being the identification of entropy with “disorder”. Entropy and related concepts from probability theory, information theory and thermodynamics are defined. In parallel with the definitions, the history of and the technological, scientific and philosophical motivations for the concepts of interest are presented. The main concepts in focus are the second law of thermodynamics; thermodynamic and information-theoretic entropy; entropy production rate and the maximization thereof; statistical inference based on the principle of maximum entropy. The thesis presents example of applications of entropy from the area of hydrology, specifically from hydrometeorology and stochastic hydrology; from other natural sciences, specifically from the theory of self-organizing systems with examples of such systems, and from the Earth-System science; and from engineering, specifically an application of measurement system configuration optimization. The thesis concludes by presenting philosophical discussions regarding the concept of entropy and implications of the principle of maximum entropy.