Institutional Repository [SANDBOX]
Technical University of Crete
EN  |  EL

Search

Browse

My Space

Belief state space representation for statistical dialogue managers using deep autoencoders

Lygerakis Fotios

Simple record


URIhttp://purl.tuc.gr/dl/dias/CD0054AA-4840-4F5F-90CB-9A7020612EE5-
Identifierhttps://doi.org/10.26233/heallink.tuc.82700-
Languageen-
Extent46 pagesen
TitleBelief state space representation for statistical dialogue managers using deep autoencodersen
TitleΑναπαράσταση χώρου πεποιθήσεων κατάστασης για στατιστικούς διαχειριστές διαλόγου με χρήση βαθέων αποκωδικοποιητώνel
CreatorLygerakis Fotiosen
CreatorΛυγερακης Φωτιοςel
Contributor [Thesis Supervisor]Digalakis Vasilisen
Contributor [Thesis Supervisor]Διγαλακης Βασιληςel
Contributor [Committee Member]Lagoudakis Michailen
Contributor [Committee Member]Λαγουδακης Μιχαηλel
Contributor [Committee Member]Diakoloukas Vasileiosen
Contributor [Committee Member]Διακολουκας Βασιλeioςel
PublisherΠολυτεχνείο Κρήτηςel
PublisherTechnical University of Creteen
Academic UnitTechnical University of Crete::School of Electrical and Computer Engineeringen
Academic UnitΠολυτεχνείο Κρήτης::Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστώνel
DescriptionA thesis presented for the degree of Integrated Master of Engineering.en
Content SummaryStatistical Dialogue Systems (SDS) have proved their humongous potential over the past few years. However, the lack of efficient and robust representations of the belief state (BS) space refrains them from revealing their full potential. Furthermore, there is a great need for automatic BS representations, which will replace the old hand-crafted, variable-length ones. To tackle those problems, we introduce a novel use of the Autoencoder (AE). Our goal is to obtain a low-dimensional and compact, yet robust representation of the BS space. We investigate the use of dense AE, Denoising AE (DAE), Sparse Denoising AE (SDAE) and Variational Denoising AE (VDAE). Denoising approaches are particularly useful when corrupted BS vectors exist in environments with high uncertainty. We also explore the capabilities of Domain Independent Parameterization (DIP), a domain-independent alternative to the BS representation, and we combine them with different types of the AE, in order to obtain a more compact and robust representation of it. The BS space representation obtained from the AE is then used by two state-of-the-art Reinforcement Learning (RL) algorithms to learn the dialogue policies from simulated users in the PyDial toolkit; the non-parametric GP-SARSA and the parametric LSPI. In this framework, the BS is normally represented in a relatively compact, but still redundant summary space which is obtained through a heuristic mapping of the original master space. We show that the proposed AE-based representations consistently outperform the summary BS representation. Especially, as the Semantic Error Rate (SER) increases, the DAE/VDAE-based representations obtain state-of-the-art and sample efficient performance.en
Content SummaryΤα στατιστικά συστήματα διαλόγου (ΣΣΔ) έχουν αποδείξει τη τεράστια δυναμική τους τα τελευταία χρόνια. Ωστόσο, η έλλειψη αποτελεσματικών και ισχυρών αναπαραστάσεων των πεποιθήσεων κατάστασης (ΠΚ) τους αποτρέπει από το να αποκαλύψουν το πλήρες εύρος της δυναμικής τους. Επιπλέον, υπάρχει μεγάλη ανάγκη για αυτόματες τεχνικές αναπαράστασης των ΠΚ που να μεταφέρονται εύκολα σε πολλούς τομείς εφαρμογής (domains) , οι οποίες θα αντικαταστήσουν τις παλιές τεχνικές που βασίζονται σε κανόνες. Για την αντιμετώπιση των παραπάνω προβλημάτων, εισάγουμε μια νέα χρήση του Autoencoder (AE). Στόχος μας είναι να αποκτήσουμε μια χαμηλής διάστασης και συμπαγή, αλλά ισχυρή αναπαράσταση του χώρου των ΠΚ. Διερευνούμε τη χρήση του πυκνού ΑΕ, καθώς και του ΑΕ αποθορυβοποίησης (denoising) (DAE), του αραιού AE (SAE) και του DΑΕ διακύμανσης (variational) (VDAE). Οι προσεγγίσεις αποθορυβοποίησης είναι ιδιαίτερα χρήσιμες όταν υπάρχουν αλλοιώσεις στο διάνυσμα των ΠΚ σε περιβάλλοντα με υψηλή αβεβαιότητα. Επίσης, διερευνούμε τις δυνατότητες της Παραμετροποίησης Ανεξάρτητου Τομέα Εφαρμογής (DIP), μιας ανεξάρτητης από το πεδίο εφαρμογής, εναλλακτικής λύσης για την αναπαράσταση των ΠΚ , καθώς επίσης και του συνδυασμού της DIP με διαφορετικούς τύπους AE, για μια πιο συμπαγή και ισχυρή αναπαράσταση αυτής. Η αναπαράσταση του χώρου ΠΚ που λαμβάνουμε από τους διάφορους ΑΕ χρησιμοποιείται από δύο υπερσύγχρονους αλγόριθμους ενίσχυσης μάθησης (EM) για την εκμάθηση των πολιτικών διαλόγου˙ τον μη παραμετρικό GP-SARSA και τον παραμετρικό LSPI. Δείχνουμε ότι η προτεινόμενη προσέγγιση επιτυγχάνει υψηλότερες επιδόσεις πολιτικής σε σύγκριση με το πλήρες διάνυσμα ΠΚ, καθώς και την κυριαρχία του VDAE ως το καλύτερο εργαλείο αναπαράστασης, χρησιμοποιώντας προσομοιωμένους χρήστες στο εργαλείο PyDial. Συγκεκριμένα, ο VDAE σε συνδυασμό με τον LSPI παρουσίασε την καλύτερη απόδοση από όλους τους άλλους συνδυασμούς τεχνικών αναπαράστασης και σε οποιοδήποτε τομέα εφαρμογής, ακόμη και στα περιβάλλοντα με την υψηλότερη αβεβαιότητα.el
Type of ItemΔιπλωματική Εργασίαel
Type of ItemDiploma Worken
Licensehttp://creativecommons.org/licenses/by/4.0/en
Date of Item2019-07-15-
Date of Publication2019-
SubjectVariational autoencoderen
SubjectStatistical dialogue systemsen
SubjectDialogue manageren
SubjectDenoising autoencoderen
SubjectBelief state space representationen
Bibliographic CitationFotios Lygerakis, "Belief state space representation for statistical dialogue managers using deep autoencoders", Diploma Work, School of Electrical and Computer Engineering, Technical University of Crete, Chania, Greece, 2019en
Bibliographic CitationΦώτιος Λυγεράκης, "Αναπαράσταση χώρου πεποιθήσεων κατάστασης για στατιστικούς διαχειριστές διαλόγου με χρήση βαθέων αποκωδικοποιητών", Διπλωματική Εργασία, Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών, Πολυτεχνείο Κρήτης, Χανιά, Ελλάς, 2019el

Available Files

Services

Statistics