Κατανόηση των διαφορών μεταξύ ανθρώπινου και μηχανικά παραγόμενου κειμένου

Κουκάς, Αναστάσιος; Koukas, Anastasios

dc.contributor.author	Κουκάς, Αναστάσιος	el
dc.contributor.author	Koukas, Anastasios	en
dc.date.accessioned	2025-01-20T10:44:36Z
dc.date.available	2025-01-20T10:44:36Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/60882
dc.rights	Default License
dc.subject	Μεγάλα Γλωσσικά Μοντέλα	el
dc.subject	Ανίχνευση κειμένων ΤΝ	el
dc.subject	Explainable AI	en
dc.subject	Εξηγήσιμη Τεχνητή Νοημοσύνη	el
dc.subject	Text perplexity	en
dc.subject	Large language models	en
dc.subject	AI text detection	en
dc.title	Κατανόηση των διαφορών μεταξύ ανθρώπινου και μηχανικά παραγόμενου κειμένου	el
dc.title	What makes us different: Understanding the differences between human and machine-generated text	en
heal.type	bachelorThesis
heal.classification	Τεχνητή Νοημοσύνη	el
heal.classification	Artificial Intelligence	en
heal.language	el
heal.language	en
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2024-07-17
heal.abstract	Σε μια εποχή όπου τα Μεγάλα Γλωσσικά Μοντέλα (Large Language Models-LLMs) παράγουν κείμενο που μιμείται κατά πολύ την ανθρώπινη γλώσσα, η χρησιμότητα του κειμένου που παράγεται από συστήματα τεχνητής νοημοσύνης(ΤΝ) εκτείνεται σε ποικίλες εφαρμογές, από τις ειδήσεις μέχρι κρίσιμους τομείς της κοινωνίας όπως ο νομικός και ο εκπαιδευτικός. Ωστόσο, η ραγδαία ανάπτυξη των LLMs εγείρει επίσης σημαντικούς κινδύνους, όπως οι ψευδείς ειδήσεις(fake news), η ανάμειξη κειμένου παραγόμενου από συστήματα ΤΝ στην ακαδημαϊκή έρευνα και διάφορα συστήματα απάτης. Για την καταπολέμηση αυτών των απειλών, είναι ζωτικής σημασίας η διάκριση μεταξύ ανθρώπινου κειμένου και κειμένου παραγόμενου από ΤΝ. Η παρούσα μελέτη διερευνά την αποτελεσματικότητα και την ευρωστία διαφόρων ανιχνευτών κειμένου τεχνητής νοημοσύνης, εστιάζοντας στην ικανότητά τους να αντιστέκονται σε επιθέσεις παραφράσεων από χρήστες-αντιπάλους. Διερευνούμε επίσης πώς η περιπλοκότητα κειμένου (text perplexity) , ένα μέτρο του πόσο απρόβλεπτο είναι ενα κείμενο για ένα μοντέλο ΤΝ, μπορεί να χρησιμεύσει ως αξιόπιστη μετρική για την ανίχνευση κειμένων παραγόμενων από ΤΝ και παρουσιάζουμε έναν ανιχνευτή με βάση την περιπλοκότητα που ανταγωνίζεται πιο σύνθετα μοντέλα ΤΝ. Επιπλέον, εξετάζουμε τον ρόλο των μεθόδων εξηγήσιμης τεχνητής νοημοσύνης (XAI) στην κατανόηση και τη βελτίωση των μηχανισμών ανίχνευσης. Μέσω μιας έρευνας χρηστών, συγκρίνουμε τις επιδόσεις του ανθρώπου και της τεχνητής νοημοσύνης στην ανίχνευση κειμένου, κατανοούμε τις γνωστικές αποφάσεις των ανθρώπων στο πεδίο αυτό και αξιολογούμε τις δυνατότητες των τεχνικών XAI για τη βελτίωση της ανθρώπινης λήψης αποφάσεων. Αυτή η ολοκληρωμένη ανάλυση αποσκοπεί στην ενίσχυση της ανάπτυξης ισχυρών και ερμηνεύσιμων συστημάτων ανίχνευσης κειμένου ΤΝ, εξασφαλίζοντας την αξιοπιστία τους σε εφαρμογές του πραγματικού κόσμου.	el
heal.abstract	In an era where Large Language Models (LLMs) generate text that closely mimics human language, the utility of machine-generated text spans diverse applications, from news composition to critical fields like law and education. However, the proliferation of LLMs also raises significant risks, such as fake news, fraudulent schemes, and academic dishonesty. To combat these threats, it is crucial to distinguish between human and AI-generated text. This study explores the efficacy and robustness of various AI text detectors, focusing on their ability to withstand adversarial paraphrasing attacks. We also investigate how text perplexity, a measure of unpredictability of text for a model, can serve as a reliable metric for detection and introduce a perplexity-based detector that competes with more complex models. Additionally, we examine the role of explainable artificial intelligence (XAI) methods in understanding and improving detection mechanisms. Through a user survey, we compare human and AI performance in text detection, understand the cognitive decisions of humans in the task of and assess the potential of XAI techniques to enhance human decisionmaking. This comprehensive analysis aims to bolster the development of robust and interpretable AI text detection systems, ensuring their reliability in real-world applications.	en
heal.advisorName	Στάμου, Γεώργιος	el
heal.committeeMemberName	Στάμου, Γεώργιος	el
heal.committeeMemberName	Βουλόδημος, Αθανάσιος	el
heal.committeeMemberName	Σταφυλοπάτης, Ανδρέας-Γεώργιος	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών. Τομέας Τεχνολογίας Πληροφορικής και Υπολογιστών	el
heal.academicPublisherID	ntua
heal.numberOfPages	100 σ.	el
heal.fullTextAvailability	false