Federated learning at TensorFlow Using the geometric approach

Frangias Georgios

URI	http://purl.tuc.gr/dl/dias/0DC5064A-9D0B-44E9-9317-DA79363A7F86	-
Identifier	https://doi.org/10.26233/heallink.tuc.98259	-
Language	en	-
Extent	74 pages	en
Extent	3.1 megabytes	en
Title	Federated learning at TensorFlow Using the geometric approach	en
Title	Ομοσπονδοποιημένη μάθηση στο TensorFlow χρησιμοποιώντας τη γεωμετρική μέθοδο	el
Creator	Frangias Georgios	en
Creator	Φραγγιας Γεωργιος	el
Contributor [Thesis Supervisor]	Deligiannakis Antonios	en
Contributor [Thesis Supervisor]	Δεληγιαννακης Αντωνιος	el
Contributor [Committee Member]	Giatrakos Nikolaos	en
Contributor [Committee Member]	Γιατρακος Νικολαος	el
Contributor [Committee Member]	Samoladas Vasilis	en
Contributor [Committee Member]	Σαμολαδας Βασιλης	el
Publisher	Πολυτεχνείο Κρήτης	el
Publisher	Technical University of Crete	en
Academic Unit	Πολυτεχνείο Κρήτης::Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών	el
Content Summary	The rapid growth of data generation and internet usage in recent years has created an unprecedented demand for efficient Big Data collection, processing and analysis. The ever-growing privacy concerns of the public opinion and the enactment of regulations on this subject, induce the need for the development of decentralized, distributed and scalable Machine Learning mechanisms, that can assure both personal data security and high accuracy collective training. The scientific field of Federated Learning is dedicated to achieving exactly that; train a global machine learning model without communicating sensitive locally generated data. For the purpose of the current thesis, we have developed a deployable extension to the Distributed Machine Learning library KungFu, to effortlessly execute Federated Learning training jobs on decentralized compute nodes. The implemented algorithms are the three Functional Dynamic Averaging methods, inspired by the Geometric Approach. These algorithms have the ability to approximately monitor a global threshold function, using solely local data and, subsequently, dynamically determine the need for synchronization and model aggregation. We have put our implementation to the test by executing exhaustive experiments on multi-node GPU infrastructure, and compared it to a classic distributed algorithm. The results demonstrate a significant training time reduction, due to reduced communication overhead, without having repercussions on accuracy, especially for non-ideal network topologies.	en
Content Summary	Η ραγδαία αύξηση της παραγωγής δεδομένων και της χρήσης του διαδικτύου κατά τα τελευταία έτη έχει δημιουργήσει πρωτοφανή ζήτηση για αποδοτική συλλογή, διαχείριση και ανάλυση Μεγάλων Δεδομένων. Οι συνεχώς αυξανόμενες ανησυχίες της κοινής γνώμης για το προσωπικό απόρρητο και η θέσπιση κανονισμών για την διασφάλισή του, παρωθούν την ανάγκη για ανάπτυξη αποκεντρωμένων, κατανεμημένων και επεκτάσιμων μηχανισμών Μηχανικής Μάθησης, οι οποίοι μπορούν να εξασφαλίσουν τόσο την ασφάλεια, όσο και την υψηλής ακρίβειας συλλογική εκπαίδευση. Το επιστημονικό πεδίο της Ομοσπονδοποιημένης Μάθησης εξειδικεύεται ακριβώς σε αυτό: να εκπαιδεύει ένα καθολικό μοντέλο μηχανικής μάθησης, χωρίς την μεταφορά ευαίσθητων τοπικά παραχθέντων δεδομένων. Για τους σκοπούς της παρούσας διπλωματικής εργασίας, δημιουργήθηκε μία αναπτύξιμη επέκταση στην βιβλιοθήκη Κατανεμημένης Μηχανικής Μάθησης KungFu, προκειμένου να διευκολυνθεί η εκτέλεση εργασιών Ομοσπονδοποιημένης Μάθησης, σε αποκεντρωμένους υπολογιστικούς κόμβους. Οι αλγόριθμοι που εφαρμόστηκαν είναι οι τρεις μέθοδοι Functional Dynamic Averaging, εμπνευσμένες από την Γεωμετρική Μέθοδο. Αυτοί οι αλγόριθμοι έχουν την δυνατότητα να επιτηρούν προσεγγιστικά μία καθολική συνάρτηση κατωφλίου, χρησιμοποιώντας αποκλειστικά τοπικά δεδομένα και, επακολούθως, να καθορίζουν την ανάγκη για συγχρονισμό και συνάθροιση των μοντέλων. Η υλοποίηση αυτή δοκιμάστηκε με την εκτέλεση εξαντλητικών πειραμάτων σε υποδομή πολλαπλών GPU, και συγκρίθηκε με έναν συνηθισμένο κατανεμημένο αλγόριθμο. Τα αποτελέσματα επιδεικνύουν σημαντική μείωση στη διάρκεια της εκπαίδευσης, λόγω μείωσης των επιβαρύνσεων επικοινωνίας, χωρίς επιπτώσεις στην ακρίβεια, ειδικότερα σε μη ιδανικές δικτυακές τοπολογίες.	el
Type of Item	Διπλωματική Εργασία	el
Type of Item	Diploma Work	en
License	http://creativecommons.org/licenses/by/4.0/	en
Date of Item	2023-12-14	-
Date of Publication	2023	-
Subject	Machine learning	en
Subject	Μηχανική μάθηση	el
Subject	Ομοσπονδοποιημένη μάθηση	el
Subject	Federated learning	en
Subject	Κατανεμημένα συστήματα	el
Subject	Distributed systems	en
Bibliographic Citation	Georgios Frangias, "Federated learning at TensorFlow using the geometric approach", Diploma Work, School of Electrical and Computer Engineering, Technical University of Crete, Chania, Greece, 2023	en
Bibliographic Citation	Γεώργιος Φραγγιάς, "Ομοσπονδοποιημένη μάθηση στο TensorFlow χρησιμοποιώντας τη γεωμετρική μέθοδο", Διπλωματική Εργασία, Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών, Πολυτεχνείο Κρήτης, Χανιά, Ελλάς, 2023	el

Search

Browse

My Space

Federated learning at TensorFlow Using the geometric approach

Frangias Georgios

Available Files

Services

Export

Share

Statistics

Metadata & Content in a METS Package:

Metadata in Format: