Adaptación de skip-gramas a modelos conexionistas del lenguaje

Abstract

[EN] In this work we will focus on the development of language models using connectionist techniques. The most relevant contribution in this work is the adaptation of skip-grams techniques to neural network language models. The required techniques and models have been implemented in APRIL using the programming languages C++ and Lua. This development will be validated with experiments related to language model evaluation and machine translation tasks

[ES] En este trabajo nos centramos en el desarrollo de modelos de lenguaje utilizando técnicas conexionistas. La contribución más relevante de este trabajo es la adaptación de las técnicas de skip-gramas a los modelos de lenguaje basados en redes neuronales. Las técnicas y modelos necesarios para estudiar esta adaptación se han implementado sobre la herramienta APRIL utilizando los lenguajes C++ y Lua. Este desarrollo se valida con experimentos de evaluación de modelos de lenguaje y tareas de traducción automática