Algorithms inspired by the Lovasz Local Lemma

Abstract

Σκοπός της διπλωματικής αυτής εργασίας είναι η μελέτη, η ανάλυση και η σχεδίαση πιθανοτικών αλγορίθμων τοπικής αναζήτησης για διακριτά προβλήματα περιορισμών με μεθόδους και τεχνικές που χρησιμοποιήθηκαν για την αλγοριθμική απόδειξη του "Lovasz Local Lemma". Συγκεκριμένα, θεωρούμε αλγορίθμους της εξής μορφής: - Άρχισε από μια τυχαία ανάθεση τιμών στις μεταβλητές του προβλήματος περιορισμών. - 'Οσο υπάρχουν διαψευδούμενοι περιορισμοί, χρησιμοποίησε μια τυχαιοκρατική διαδικασία για να διαλέξεις έναν διαψευδούμενο περιορισμό c καθώς και νέες τιμές για τις μεταβλητές του

Τόσο για την επιλογή του c όσο και για την επιλογή των τιμών στις μεταβλητές του, υπάρχει πληθώρα ευρεστικών, αλλά όχι πολλά για να τις διαφοροποιήσουν πέρα από πειράματα. Στο paper του R. Moser για την κατασκευαστίκη απόδειξη του Lovasz Local Lemma στο STOC 09 η επιλογή του c είναι αυθαίρετη ενώ η επιλογή ανάθεσης τιμών στις μεταβλητές γ'ινεται τυχαία και ομοιόμορφα. Ο τερματισμός αποδεικνύεται δείχοντας ότι μη τερματισμός θα σήμαινε καθολική κωδικοποίηση (universal compression). Τόσο στη δουλειά του Moser όσο και στις μετέπεια δουλειές, μια βασική απαίτηση είναι ότι θα πρέπει να υπάρχει ένα πιθανοτιό μέτρο-γινόμενο ( product measure) επί των μεταβλητών του προβλήματος έτσι ώστε κάθε φορά που επαναδειγματοληπτούμε τις μεταβλτές ενός περιορισμού, οι τιμές που θα τις αναθέσουμε θα πρέπει να προκύπτουν μέσω (της προβολής του) πιθανοτικού μέτρου (στις μεταβλητές του περιορισμού). Αυτό έρχεται σε έντονη αντίθεση με τους αλγορίθμους της πράξης στους οποίους οι τιμές που δίνουμε στις μεταβλητές εξαρτώνται από το πώς ο περιορισμός για τις μεταβλητές εξαρτώνται από το πώς ο περιορισμός για τις μεταβλητές του οποίου διαλέγουμε τιμές συσχετίζεται με τους γείτονές του, τόσο στατικά ( στις μεταβλητές που μοιράζονται), όσο και "δυναμικά", δηλαδή απο την τωρινή "κατάσταση" αυτών των περιορισμών.

Στην παρούσα διπλωματική δείχνουμε μια μέθοδο για να απαλλαχθεί κανείς από αυτή την απαίτηση. Συγκεκριμένα, δείχνουμε ότι η μέθοδος του Moser, δηλαδή το να φράξουμε τον αριθμό των πιθανών άκαρπων τροχιών του αλγορίθμου χρησιμοποιώντας τις ιδιότητες της εισόδου, για παράδειγμα το μέγιστο βαθμό του γράφου εξάρτησης, παραμένει πλήρως λειτουργική ακόμα και με την απουσία ενός πιθανοτικού μέτρου, δηλαδή όταν κάθε περιορισμός επιτρέπεται να αλλάξει τις μεταβλητές του με έναν "ιδιωτικό" τρόπο και στην πραγματικότητα, λαμβάνοντας υπόψιν τις τρέχουσες τιμές των γειτονικών περιορισμών. Επιπρόσθετα, παρατείθενται ορισμένα βιλβιογραφικά στοιχεία αναφορικά με τις αλγοριθμικές επεκτάσεις του Lovasz Local Lemma και μερικές αποδείξεις/βελτιώσεις υπάρχοντων αποτελεσμάτων χρησιμοποιώντας την "εντροπική μέθοδο" του R. Moser.

The purpose of this thesis is the study, the analysis and the design of randomized local search algorithms for discrete constraint satisfaction problems, using methods and techniques employed in the constructive proof of the Lovasz Local Lemma. Specifically, we consider algorithms that operate as follows: - Start at a random assignment to the variables of the CSP. - While violated constraints exist, employ a randomized process to select a violated constraint c and new values for its variables. For both the choice of c and the choice for its values, there is a cornucopia of heuristics, but not much to distinguish between them besides experiments. In Moser's STOC'09 argument the choice of c is adversarial, while the choice of value assignment is uniformly random. Termination is proven by showing that non-termination would amount to universal compression. Both in Moser's work and in all subsequent related works a key requirement is that there exists a product probability measure on the variables such that every time a constraint is resampled, the assigned values must be chosen via (the projection of) that measure (on the constraint's variables). This is in sharp contrast with practical algorithms whose choice of value assignment depends heavily on how the constraint being resampled relates to its neighbors, both statically (shared conflicting variables), but also dynamically, i.e., based on the current \state" (number of satisfied literals) of these constraints. In our work we dispense with this requirement. We show that Moser's method, i.e., bounding the number of possible unfruitful trajectories of the algorithm in terms of structural properties of the input, e.g., the maximum degree of the constraint-confict/dependency graph, remains fully potent even in the absence of a background product measure, i.e., when each constraint is allowed to resample its variables in a manner specific to itself and, in fact, that takes into account the current values of its neighboring constraints. Furthermore, we present work related to the algorithmic aspects of the Lovasz Local Lemma and proofs/improvements of already existing results using R. Moser's "entropic method".