Comparison of different techniques to parameter-efficient fine-tuning in deep learning

Abstract

[ES] El campo del aprendizaje profundo se destaca como una de las áreas más dinámicas y prometedoras dentro de la inteligencia artificial. La práctica más común para la construcción de sistemas de aprendizaje profundo implica la utilización de modelos preentrenados de gran envergadura, los cuales son luego adaptados a dominios o tareas particulares. Esta adaptación se realiza por medio del ajuste de los parámetros del modelo con el propósito de optimizar alguna medida de rendimiento apropiada. Un ejemplo destacado es la técnica de adaptación conocida como "low-rank adaptation" (LoRA), la cual está demostrando ofrecer resultados prometedores en tareas relacionadas con visión computacional y procesamiento de lenguaje natural. En el marco de este trabajo, se plantea analizar y contrastar diversas técnicas de ajuste eficiente de parámetros en el contexto del aprendizaje profundo. Para ello, se llevará a cabo una exploración exhaustiva de las distintas variantes de LoRA aplicadas a una variedad de tareas y modelos preentrenados. El objetivo fundamental radica en identificar las técnicas más efectivas para mejorar el rendimiento tras la adaptación de estos modelos.

[EN] The field of deep learning stands out as one of the most dynamic and promising areas within artificial intelligence. The most common practice for building deep learning systems involves the use of large pre-trained models, which are then adapted to particular domains or tasks. This adaptation is done by adjusting the model parameters with the purpose of optimizing some appropriate performance measure. A notable example is the adaptation technique known as low-rank adaptation (LoRA), which is proving to offer promising results in tasks related to computer vision and natural language processing. Within the framework of this work, we propose to analyze and contrast various techniques for efficient parameter fine-tunning in the context of deep learning. To this end, a comprehensive exploration of the different variants of LoRA applied to a variety of tasks and pre-trained models will be carried out. The fundamental objective lies in identifying the most effective techniques to improve performance after adapting these models.

[CA] El camp de l’aprenentatge profund destaca com una de les àrees més dinàmiques i prometedores dins de la intel·ligència artificial. La pràctica més comuna per a construir sistemes d’aprenentatge profund implica l’ús de grans models prèviament entrenats, que després s’adapten a dominis o tasques particulars. Esta adaptació es realitza ajustant els paràmetres del model amb la finalitat d’optimitzar alguna mesura de rendiment adequada. Un exemple notable és la tècnica d’adaptació coneguda com Low Rank Adaptation (LoRA), que està demostrant oferir resultats prometedors en tasques relacionades amb la visió per computadora i el processament del llenguatge natural. En el marc d’este treball, ens proposem analitzar i contrastar diverses tècniques per a l’ajust eficient de paràmetres en el context de l’aprenentatge profund. Per això, es durà a terme una exploració exhaustiva de les diferents variants de LoRA aplicades a diverses tasques i models preentrenats. L’objectiu fonamental radica a identificar les tècniques més efectives per a millorar el rendiment després d’adaptar aquestos models.