- -

Online Learning Techniques for Neural Translation Systems

RiuNet: Institutional repository of the Polithecnic University of Valencia

Share/Send to

Cited by

Statistics

Online Learning Techniques for Neural Translation Systems

Show simple item record

Files in this item

dc.contributor.advisor Casacuberta Nolla, Francisco es_ES
dc.contributor.advisor Pearson, Justin es_ES
dc.contributor.advisor Peris Abril, Álvaro es_ES
dc.contributor.author Montalvá Minguet, Kevin es_ES
dc.date.accessioned 2017-02-13T09:31:18Z
dc.date.available 2017-02-13T09:31:18Z
dc.date.created 2016-12-20
dc.date.issued 2017-02-13 es_ES
dc.identifier.uri http://hdl.handle.net/10251/77856
dc.description.abstract [EN] Machine Translation systems have been used since their inception by professional translators to speed up and ease their work. Those systems receive professionally edited translations through their use, which could potentially improve their performance. In the last decades, Artificial Neural Networks have been used to develop complete Machine Translation systems to great success. In this work two online learning algorithms for Artificial Neural Networks have been used to enhance already trained neural translators. A wide array of experiments have been carried out to find the optimal hyperparameters for the algorithms in each task, and then the performance of those systems, adapted with each algorithm with their empirically found optimal set of hyperparameters, has been measured before and after in four translation tasks, and conclusions have been extracted on how they improved or worsened. A modification of a neural translator codebase has been carried out, along with the implementation of one of the algorithms and the development of new codebase to provide an interface to perform experiments in an automated way. One additional family of algorithms has been implemented and tested with the available model and tasks to no avail. Finally, possible future lines of research on adaptation of neural translators have been considered and discussed at the end of this work, along with their situation in the current state of Machine Translation. es_ES
dc.description.abstract [ES] Los sistemas de traducción automática han sido utilizados desde su concepción por traductores profesionales para acelerar y facilitar su tarea. Estos sistemas reciben traducciones editadas profesionalmente a través de su uso, que pueden potencialmente mejorar su rendimiento. En las últimas décadas, se han utilizado redes neuronales artificiales para desarrollar sistemas de traducción automática completos con éxito. En este trabajo se han usado dos algoritmos de aprendizaje online para mejorar redes neuronales ya entrenadas. Un amplio abanico de experimentos se ha llevado a cabo para encontrar el conjunto óptimo de hiperpárametros para los algoritmos en cada tarea, y se ha calculado el rendimiento de estos sistemas, adaptados con cada algoritmo con sus hiperparámetros óptimos encontrados de forma empírica. Se han extraído conclusiones acerca de la mejora o empeoramiento de los traductores. Se ha llevado a cabo una modificación de la base de código del traductor neuronal, junto con la implementación de uno de los algoritmos y el desarrollo de una nueva herramienta para proporcionar una interfaz para realizer experimentos de forma automatizada. Otra familia de algoritmos ha sido implementada y probada con los modelos y tareas disponibles, con resultados insatisfactorios. Finalmente, líneas potenciales de investigación en adaptación de traductores neuronales han sido consideradas y discutidas al final de este trabajo, junto con su situación en el estado actual de la traducción automática. es_ES
dc.description.abstract [CA] Els sistemes de traducció automàtica s’han fet servir desde la seva concepció per traductors professionals per a accelerar i facilitar la seva tasca. Aquestos sistemes reben traduccions editades professionalment a través del seu ús, lo que pot pontecialment millorar el seu rendiment. En les últimes décades, Xarxes Neuronals Artificials s’han utilitzat per a desenvolupar sistemes de traducció automàtica complets. En aquest treball s’han utilitzat dos algoritmes d’aprenentatge online per a millorar traductors neuronals, que ja havien acabat l’etapa d’entrenament. Una amplia gamma d’experiments s’han dut a terme per trobar els hiperparàmetres óptims per els algoritmes en cada tasca de traducció, i després el rendiment d’aquestos sistemes, adaptats amb cadascun dels algoritmes aprenentatge (configurats amb aquestos hiperparàmetres óptims), s’ha mesurat abans i després en quatre tasques de traducció, i s’han extret conclusions sobre com han millorat o empitjorat. S’ha modificat el codi del traductor neuronal, s’ha implementat un dels algoritmes presentants i s’ha desenvolupat un nou codi per oferir una interfície per a fer experiments de forma automatitzada. Una altra familia d’algoritmes ha sigut implementada i probada amb els models i tasques disponibles, sense resultats positius. Finalment, línies futures d’investigació en adaptació de traductors neuronals han sigut considerades i discutides al final d’aquest treball, a més de la seva situació en l’estat actual de la traducció automàtica. es_ES
dc.format.extent 43 es_ES
dc.language Inglés es_ES
dc.publisher Universitat Politècnica de València es_ES
dc.rights Reconocimiento - No comercial - Compartir igual (by-nc-sa) es_ES
dc.subject Machine learning es_ES
dc.subject Neural networks es_ES
dc.subject Recurrent neural networks es_ES
dc.subject Machine translation es_ES
dc.subject Neural translation es_ES
dc.subject Aprendizaje automático es_ES
dc.subject Redes neuronales recurrentes es_ES
dc.subject Traducción automática es_ES
dc.subject Traducción neuronal es_ES
dc.subject Xarxes neuronals recurrents es_ES
dc.subject Traducció automàtica es_ES
dc.subject.classification LENGUAJES Y SISTEMAS INFORMATICOS es_ES
dc.subject.other Grado en Ingeniería Informática-Grau en Enginyeria Informàtica es_ES
dc.title Online Learning Techniques for Neural Translation Systems es_ES
dc.type Proyecto/Trabajo fin de carrera/grado es_ES
dc.rights.accessRights Abierto es_ES
dc.contributor.affiliation Universitat Politècnica de València. Departamento de Sistemas Informáticos y Computación - Departament de Sistemes Informàtics i Computació es_ES
dc.contributor.affiliation Universitat Politècnica de València. Escola Tècnica Superior d'Enginyeria Informàtica es_ES
dc.description.bibliographicCitation Montalvá Minguet, K. (2016). Online Learning Techniques for Neural Translation Systems. http://hdl.handle.net/10251/77856. es_ES
dc.description.accrualMethod TFGM es_ES
dc.relation.pasarela TFGM\50424 es_ES


This item appears in the following Collection(s)

Show simple item record