Diseño de algoritmos eficientes para aprendizaje automático sobre MCUs

Abstract

[ES] Vivimos en un mundo interconectado, con microcontroladores y procesadores de consumo ultra-reducido (MCUs), integrados dentro de relojes y electrodomésticos inteligentes, asistentes de voz, teléfonos móviles, y todo tipo de dispositivos, capaces de recoger una cantidad de datos enorme y de gran valor. En este contexto, las empresas se encuentran embarcadas hoy en día en un proceso de evolución, desde la era del ¿big data¿ a la del análisis de la información, empleando en muchos casos técnicas de aprendizaje automático (machine learning).

Los dispositivos de tipo MCU se caracterizan por unas fuertes restricciones en cuanto a capacidad de la memoria, consumo de energía y soporte del sistema operativo, así como limitaciones en el tipo de aritmética soportada y, especialmente, por una enorme heterogeneidad de dispositivos. En este contexto, la utilización de entornos generales de aprendizaje automático, como TensorFlow, PyTorch, CNTK, DSSTNE o Keras, es directamente inviable o resulta enormemente ineficiente.

En respuesta a este escenario, el objetivo general de este proyecto es el desarrollo de algoritmos, conscientes de la arquitectura, para acelerar las técnicas de aprendizaje automático sobre MCUs. Como objetivos adicionales, se pretende contribuir a crear interfaces de programación estandarizadas para herramientas y bibliotecas de aprendizaje automático para MCUs, así como estudiar los beneficios de los MCUs en inferencia usando aplicaciones de relevancia.

[EN] We live in an interconnected world, with microcontrollers and ultra-low power processors (MCUs), embedded within smart watches and appliances, voice assistants, phones, and all kinds of devices, capable of collecting a number of huge and valuable data. In this context, companies today are embarked on a process of evolution, from the era of "big data" to that of information analysis, using in many cases machine learning techniques.

The MCU-type devices are characterized by strong restrictions in terms of memory capacity, power consumption and operating system support, as well as limitations on the type of arithmetic supported and, especially, by an enormous heterogeneity of devices. In this context, the use of general environments of machine learning, such as TensorFlow, PyTorch, CNTK, DSSTNE, or Keras, is directly unfeasible or extremely inefficient.

In response, the purpose of this project is the development of architecture-aware algorithms to speed up machine learning techniques on MCUs. Furthermore, it is intended to contribute to creating standardized programming interfaces for tools and libraries of machine learning for MCUs, as well as studying the benefits of MCUs in inference using relevant applications.