![Institutional Repository [SANDBOX]](images/dias.logo.png "Institutional Repository [SANDBOX]"){kind=logo}
Institutional Repository [SANDBOX]
Technical University of Crete
Technical University of Crete
EN
|
EL
| URI | http://purl.tuc.gr/dl/dias/CD0054AA-4840-4F5F-90CB-9A7020612EE5 | - |
| Identifier | https://doi.org/10.26233/heallink.tuc.82700 | - |
| Language | en | - |
| Extent | 46 pages | en |
| Title | Belief state space representation for statistical dialogue managers using deep autoencoders | en |
| Title | Αναπαράσταση χώρου πεποιθήσεων κατάστασης για στατιστικούς διαχειριστές διαλόγου με χρήση βαθέων αποκωδικοποιητών | el |
| Creator | Lygerakis Fotios | en |
| Creator | Λυγερακης Φωτιος | el |
| Contributor [Thesis Supervisor] | Digalakis Vasilis | en |
| Contributor [Thesis Supervisor] | Διγαλακης Βασιλης | el |
| Contributor [Committee Member] | Lagoudakis Michail | en |
| Contributor [Committee Member] | Λαγουδακης Μιχαηλ | el |
| Contributor [Committee Member] | Diakoloukas Vasileios | en |
| Contributor [Committee Member] | Διακολουκας Βασιλeioς | el |
| Publisher | Πολυτεχνείο Κρήτης | el |
| Publisher | Technical University of Crete | en |
| Academic Unit | Technical University of Crete::School of Electrical and Computer Engineering | en |
| Academic Unit | Πολυτεχνείο Κρήτης::Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών | el |
| Description | A thesis presented for the degree of Integrated Master of Engineering. | en |
| Content Summary | Statistical Dialogue Systems (SDS) have proved their humongous potential over the past few years. However, the lack of efficient and robust representations of the belief state (BS) space refrains them from revealing their full potential. Furthermore, there is a great need for automatic BS representations, which will replace the old hand-crafted, variable-length ones. To tackle those problems, we introduce a novel use of the Autoencoder (AE). Our goal is to obtain a low-dimensional and compact, yet robust representation of the BS space. We investigate the use of dense AE, Denoising AE (DAE), Sparse Denoising AE (SDAE) and Variational Denoising AE (VDAE). Denoising approaches are particularly useful when corrupted BS vectors exist in environments with high uncertainty. We also explore the capabilities of Domain Independent Parameterization (DIP), a domain-independent alternative to the BS representation, and we combine them with different types of the AE, in order to obtain a more compact and robust representation of it. The BS space representation obtained from the AE is then used by two state-of-the-art Reinforcement Learning (RL) algorithms to learn the dialogue policies from simulated users in the PyDial toolkit; the non-parametric GP-SARSA and the parametric LSPI. In this framework, the BS is normally represented in a relatively compact, but still redundant summary space which is obtained through a heuristic mapping of the original master space. We show that the proposed AE-based representations consistently outperform the summary BS representation. Especially, as the Semantic Error Rate (SER) increases, the DAE/VDAE-based representations obtain state-of-the-art and sample efficient performance. | en |
| Content Summary | Τα στατιστικά συστήματα διαλόγου (ΣΣΔ) έχουν αποδείξει τη τεράστια δυναμική τους τα τελευταία χρόνια. Ωστόσο, η έλλειψη αποτελεσματικών και ισχυρών αναπαραστάσεων των πεποιθήσεων κατάστασης (ΠΚ) τους αποτρέπει από το να αποκαλύψουν το πλήρες εύρος της δυναμικής τους. Επιπλέον, υπάρχει μεγάλη ανάγκη για αυτόματες τεχνικές αναπαράστασης των ΠΚ που να μεταφέρονται εύκολα σε πολλούς τομείς εφαρμογής (domains) , οι οποίες θα αντικαταστήσουν τις παλιές τεχνικές που βασίζονται σε κανόνες. Για την αντιμετώπιση των παραπάνω προβλημάτων, εισάγουμε μια νέα χρήση του Autoencoder (AE). Στόχος μας είναι να αποκτήσουμε μια χαμηλής διάστασης και συμπαγή, αλλά ισχυρή αναπαράσταση του χώρου των ΠΚ. Διερευνούμε τη χρήση του πυκνού ΑΕ, καθώς και του ΑΕ αποθορυβοποίησης (denoising) (DAE), του αραιού AE (SAE) και του DΑΕ διακύμανσης (variational) (VDAE). Οι προσεγγίσεις αποθορυβοποίησης είναι ιδιαίτερα χρήσιμες όταν υπάρχουν αλλοιώσεις στο διάνυσμα των ΠΚ σε περιβάλλοντα με υψηλή αβεβαιότητα. Επίσης, διερευνούμε τις δυνατότητες της Παραμετροποίησης Ανεξάρτητου Τομέα Εφαρμογής (DIP), μιας ανεξάρτητης από το πεδίο εφαρμογής, εναλλακτικής λύσης για την αναπαράσταση των ΠΚ , καθώς επίσης και του συνδυασμού της DIP με διαφορετικούς τύπους AE, για μια πιο συμπαγή και ισχυρή αναπαράσταση αυτής. Η αναπαράσταση του χώρου ΠΚ που λαμβάνουμε από τους διάφορους ΑΕ χρησιμοποιείται από δύο υπερσύγχρονους αλγόριθμους ενίσχυσης μάθησης (EM) για την εκμάθηση των πολιτικών διαλόγου˙ τον μη παραμετρικό GP-SARSA και τον παραμετρικό LSPI. Δείχνουμε ότι η προτεινόμενη προσέγγιση επιτυγχάνει υψηλότερες επιδόσεις πολιτικής σε σύγκριση με το πλήρες διάνυσμα ΠΚ, καθώς και την κυριαρχία του VDAE ως το καλύτερο εργαλείο αναπαράστασης, χρησιμοποιώντας προσομοιωμένους χρήστες στο εργαλείο PyDial. Συγκεκριμένα, ο VDAE σε συνδυασμό με τον LSPI παρουσίασε την καλύτερη απόδοση από όλους τους άλλους συνδυασμούς τεχνικών αναπαράστασης και σε οποιοδήποτε τομέα εφαρμογής, ακόμη και στα περιβάλλοντα με την υψηλότερη αβεβαιότητα. | el |
| Type of Item | Διπλωματική Εργασία | el |
| Type of Item | Diploma Work | en |
| License | http://creativecommons.org/licenses/by/4.0/ | en |
| Date of Item | 2019-07-15 | - |
| Date of Publication | 2019 | - |
| Subject | Variational autoencoder | en |
| Subject | Statistical dialogue systems | en |
| Subject | Dialogue manager | en |
| Subject | Denoising autoencoder | en |
| Subject | Belief state space representation | en |
| Bibliographic Citation | Fotios Lygerakis, "Belief state space representation for statistical dialogue managers using deep autoencoders", Diploma Work, School of Electrical and Computer Engineering, Technical University of Crete, Chania, Greece, 2019 | en |
| Bibliographic Citation | Φώτιος Λυγεράκης, "Αναπαράσταση χώρου πεποιθήσεων κατάστασης για στατιστικούς διαχειριστές διαλόγου με χρήση βαθέων αποκωδικοποιητών", Διπλωματική Εργασία, Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών, Πολυτεχνείο Κρήτης, Χανιά, Ελλάς, 2019 | el |
Copyright © DIAS 2013
