Suport Eficient de Processos d’Inferència en Plataforme Heterogènies

Abstract

[CA] La intel·ligència artificial i les seues variants estan evolucionant ràpidament i millorant molts aspectes de la vida humana, tant en aplicacions industrials com en usos quotidians. Per aquest motiu, molts investigadors busquen formes d’optimitzar els costosos processos que componen aquests algoritmes, com són l’entrenament i la inferència. El motiu d’aquest treball és explorar les diferents alternatives de maquinari en la inferència, amb l’ús de programari que implementa optimitzacions de les xarxes neuronals per tenir un procés més eficient. S’estudiara com afecta cada alternativa al resultat final, fent èmfasi en les principals característiques de la inferència. A més, s’implementaran noves funcionalitats en una plataforma d’entrenament i inferència, amb l’objectiu d’estudiar com afecten diferents configuracions a aquests algoritmes.

[ES] La inteligencia artificial y sus variantes están evolucionando rápidamente y mejorando muchos aspectos de la vida humana, tanto en aplicaciones industriales como en usos cuotidianos. Por este motivo, muchos investigadores buscan maneras de optimizar los costosos procesos que forman estos algoritmos, como el entrenamiento y la inferencia. El motivo de este trabajo es explorar las diferentes alternativas de hardware en la inferencia, con el uso de herramientas de software que implementan optimizaciones de las redes neuronales para obtener un proceso más eficiente. Se estudiará cómo afecta cada alternativa al resultado final, haciendo énfasis en las principales características de la inferencia. Además, se implementarán nuevas funcionalidades sobre una plataforma de entrenamiento e inferencia, con el objetivo de estudiar cómo afectan las diferentes configuraciones a estos algoritmos.

[EN] Artificial intelligence and its derivatives are rapidly evolving and improving a lot of key areas in human life, both in industrial applications and in everyday uses. For this reason, many researchers are looking for ways to optimize the expensive processes that make up these algorithms, such as training and inference.

The reason for this work is to explore some of the different hardware alternatives in inference, and using software tools that implement neural network optimization in order to obtain a more efficient process. It will be studied how each alternative affects the final result, emphasizing the main features of the inference. In addition, new functionalities will be implemented on a training and inference platform, in order to study how some different configurations affect these algorithms.