Social media analysis targeting Troll detection Social media analysis targeting Troll detection Ανάλυση μέσων κοινωνικής δικτύωσης εστιασμένης στην ανίχνευση Troll Διπλωματική Εργασία Diploma Work 2024-10-092024enSocial networks have transformed the way people interact, share information, and express opinions; however, they have introduced significant challenges, notably the rise of trolling behavior. Trolling involves posting inflammatory or disruptive messages that degrade online discourse, spread misinformation, and foster a toxic environment. This thesis addresses the challenge of troll detection using artificial intelligence (AI) and natural language processing (NLP) techniques. Troll detection is approached through text classification, which distinguishes between troll and non-troll content using various machine learning algorithms. This study compares Logistic Regression, Naive Bayes, SVM, and the pre-trained DeBERTa model. The results show that DeBERTa outperforms the other methods in terms of accuracy, precision, F1-score, and recall. Furthermore, the thesis examines the generalization capabilities of the DeBERTa model by testing it on unseen data from different sources through zero-shot and one-shot predictions. The model shows satisfactory performance in zero-shot predictions and good results in one-shot predictions. The final phase focuses on developing a general model that accurately predicts trolling behavior across different datasets. Scale-invariant fine-tuning (SiFT) was applied to improve the model’s performance and showed significant improvement.Τα μέσα κοινωνικής δικτύωσης έχουν μεταμορφώσει τον τρόπο με τον οποίο οι άνθρωποι αλληλεπιδρούν, μοιράζονται πληροφορίες και εκφράζουν απόψεις, ωστόσο έχουν εισάγει σημαντικές προκλήσεις, ιδίως την αύξηση της συμπερι- φοράς τρολαρίσματος. Το τρολάρισμα περιλαμβάνει τη δημοσίευση μηνυμάτων με καυστικό λόγο, μηνυμάτων που έχουν σκοπό να διαταρράξουν τον διαδι- κτυακό διάλογο, που διαδίδουν παραπληροφόρηση και καλλιεργούν ένα τοξικό περιβάλλον. Η παρούσα διπλωματική εργασία ασχολείται με την δημιουργία με- θόδων ανίχνευσης τρολ χρησιμοποιώντας τεχνικές τεχνητής νοημοσύνης (AI) και της επεξεργασίας φυσικής γλώσσας (NLP). Η ανίχνευση τρολ προσεγγίζεται μέσω της τεχνικής text classification, η οποία κατηγοριοποιεί περιεχόμενο από τα μέσα κοινωνικής δικτύωσης ως τρολ και μη τρολ χρησιμοποιώντας διάφορους αλγορίθμους μηχανικής μάθησης. Η παρούσα εργασία συγκρίνει τις τεχνικές Logistic Regression, Naive Bayes, SVM και το pre - trained μοντέλο DeBERTa. Τα αποτελέσματα δείχνουν ότι το μοντέλο DeBERTa υπερτερεί των άλλων μεθόδων, αξιολογώντας την απόδοσή τους με τις μετρικές accuracy, precision, F1-score, και recall. Επιπλέον, η παρούσα έρευνα εξετάζει τις δυνατότητες γενίκευσης του μοντέλου DeBERTa, δοκιμάζοντάς το σε άγνωστα δεδομένα από διαφορετικές πηγές μέσω προβλέψεων. Το μοντέλο παρουσιάζει ικανοποιητικές επιδόσεις σε zero-shot predictions και ακριβείς σε one-shot predictions. Η τελική φάση επικεντρώνεται στην ανάπτυξη ενός γενικού μοντέλου που προ- βλέπει με ακρίβεια τη συμπεριφορά του τρολαρίσματος σε διαφορετικά σύνολα δεδομένων με διαφορετικούς τύπους τρολ. Εφαρμόζεται Scale-invariant FineTuning (SiFT) για τη βελτίωση των επιδόσεων του μοντέλου και παρουσιάζεται σημαντική βελτίωση.Διπλωματική εργασία που υποβλήθηκε στη σχολή ΗΜΜΥ του Πολ. Κρήτης για την πλήρωση των προϋποθέσεων λήψης του διπλώματος.http://creativecommons.org/licenses/by/4.0/Πολυτεχνείο Κρήτης::Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών ΥπολογιστώνKoutra_Panagiota_Dip_2024.pdfChania [Greece]Library of TUC2024-10-09application/pdf4.4 MBembargo Koutra Panagiota Κουτρα Παναγιωτα Ioannidis Sotirios Ιωαννιδης Σωτηριος Lagoudakis Michail Λαγουδακης Μιχαηλ Spyropoulos Thrasyvoulos Σπυροπουλος Θρασυβουλος Πολυτεχνείο Κρήτης Technical University of Crete DeBERTa Machine learning Natural language processing Text classification Troll detection