Πολυκριτηριακή ανάλυση παλινδρόμησης & επιλογή μεταβλητών

Abstract

Σκοπός αυτής της διπλωματικής είναι να χρησιμοποιήσουμε τον μαθηματικό προγραμματισμό στην ανάλυση παλινδρόμησης. Για το λόγο αυτό χρησιμοποιούμε περισσότερα από ένα κριτήρια βελτιστοποίησης και επιχειρούμε να πραγματοποιήσουμε συγχρόνως κι επιλογή μεταβλητών δηλαδή να επιλέξουμε από τις ανεξάρτητες μεταβλητές εκείνες που είναι απαραίτητες. Για τον σκοπό της διπλωματικής βασιστήκαμε σε ένα σετ δεδομένων το οποίο το βρήκαμε στη βιβλιογραφία. Στη συνέχεια από το σετ αυτό, δημιουργήσαμε 10 διαφορετικά σετ δεδομένων με λιγότερες παρατηρήσεις με τη μέθοδο bootstrapping. Δηλαδή κρατήσαμε το 10% των παρατηρήσεων εκτός δείγματος (out of sample) δηλαδή δε το λάβαμε υπ’ όψιν μας στη κατασκευή του μοντέλου πρόβλεψης, ώστε να εφαρμόσουμε το μοντέλο που προέκυπτε και να δούμε κατά πόσο προσαρμόζεται αυτό στις παρατηρήσεις που έμειναν «εκτός δείγματος». Τις υπόλοιπες παρατηρήσεις (90%), τις χρησιμοποιήσαμε για να κατασκευάσουμε αυτό το μοντέλο. Με τον τρόπο αυτό κατασκευάστηκαν μοντέλα παλινδρόμησης με διαφορετικά χαρακτηριστικά για να μπορούμε στη συνέχεια να τα συγκρινουμε μεταξύ τους. Για τη δημιουργία κι επίλυση των μοντέλων χρησιμοποιήσαμε τη γλώσσα μοντελοποίησης GAMS. Τα μοντέλα αυτά είχαν ως αντικειμενικές συναρτήσεις (1) την ελαχιστοποίηση του αθροίσματος των απόλυτων σφαλμάτων και (2) την ελαχιστοποίηση του μέγιστου σφάλματος. Συγχρόνως μελετήσαμε και την ταυτόχρονη εφαρμογή των δύο κριτηρίων δημιουργώντας ένα μοντελο πολυκριτηριακής ανάλυσης παλινδρόμησης. Επιχειρήσαμε επίσης να μελετήσουμε το πρόβλημα της επιλογής των κατάλληλων μεταβλητών κάνοντας συγκρίσεις και με άλλες καθιερωμένες μεθόδους όπως η βηματική παλινδρόμηση (stepwise regression). Από την μελέτη των αποτελεσμάτων στην προσαρμογή των μοντέλων στα δεδομένα εκτός δείγματος βγήκαν χρήσιμα συμπεράσματα. Προέκυψε ότι ο μαθηματικός προγραμματισμός μπορεί πολύ ικανοποιητικά να χρησιμοποιηθεί στην ανάλυση παλινδρόμησης. Τα πολυκριτηριακά μοντέλα έδωσαν καλύτερα αποτελέσματα από τα μονοκριτηριακά. Το κριτήριο της ελαχιστοποίησης του απόλυτου μέγιστου σφάλματος έδωσε καλύτερα αποτελέσματα από το κριτήριο της ελαχιστοποίησης του αθροίσματος των απόλυτων σφαλμάτων. Η επιλογή μεταβλητών με τον μαθηματικό προγραμματισμό δεν δίνει τα ίδια αποτελέματα με την βηματική παλινδρόμηση.

The aim of this diploma is to use the mathematical programming to regression analysis. For this reason we use multiple criteria optimization and trying to hold together and selecting variables that can choose the independent variables that are necessary. For the purpose of diplomatic relied on a data set that we found in the literature. Then the set we built 10 different data sets with fewer observations by the method bootstrapping. That kept the 10% of the observations outside the sample (out of sample) and the words we have in mind to build the predictive model to implement the model result and see whether it adapts to the comments were "out of sample ' . Other observations (90%), use them to construct this model. Thus constructed regression models with different features can then be compared to each other. For creating and solving models used modeling language GAMS. These models have as objective functions (1) minimize the sum of absolute errors and (2) minimize the maximum error. At the same time studied and the simultaneous application of two criteria, creating a multicriteria model regression analysis. We attempted also to study the problem of selecting appropriate variables by making comparisons with other established methods such as stepwise regression (stepwise regression). From the study results in adapting the models to data outside the sample came useful conclusions. Showed that the mathematical programming could very well be used in regression analysis. The multicriteria models gave better results than the monokritiriaka. The criterion of minimizing the absolute maximum error gave better results than the criterion of minimizing the sum of absolute errors. The choice of variables in mathematical programming does not give the same RESULTS by stepwise regression.