Diseño e implementación de un proceso de desarrollo de IA confiable en salud

Abstract

[ES] Las tendencias tecnológicas señalan a la Inteligencia ArƟficial (IA) como una herramienta crucial en nuestra sociedad, pero su desarrollo debe respetar los derechos humanos. A pesar de la disponibilidad de información al respecto, los desarrolladores carecen de una guía prácƟca para abordar la construcción de IA confiable. Por tanto, este proyecto Ɵene como objeƟvo principal desarrollar un guía o pipeline que sirva como estructura para la creación de sistemas de IA. Los métodos se implementarán uƟlizando lenguajes de programación de vanguardia como Python y se validarán con conjuntos de datos representaƟvos de la realidad. Se espera que este trabajo proporcione a cualquier desarrollador de IA una estructura teórica y ejemplos prácƟcos de los requisitos necesarios para crear sistemas confiables. Los resultados de esta invesƟgación ofrecen una metodología gráfica para la construcción de una IA confiable mediante el uso de una matriz que expresa los métodos técnicos a emplear para cada requisito a lo largo del ciclo de vida de la IA. Asimismo, se ofrece una demostración prácƟca mediante la ejemplificación con código de la validación del pipeline con conjuntos de datos en salud.

[CA] Les tendències tecnològiques assenyalen a la Intel·ligència ArƟficial (IA) com una ferramenta crucial en la nostra societat, però el seu desenvolupament ha de respectar els drets humans. Malgrat la disponibilitat d'informació sobre aquest tema, els desenvolupadors manquen d'una guia pràcƟca per a abordar la construcció de IA de confiança. Per tant, aquest projecte té com a objecƟu principal desenvolupar un guia o pipeline que servisca com a estructura per a la creació de sistemes de IA. Els mètodes s'implementaran uƟlitzant llenguatges de programació d'avantguarda com Python i es validaran amb conjunts de dades representaƟves de la realitat. S'espera que aquest treball proporcione a qualsevol desenvolupador de IA una estructura teòrica i exemples pràcƟcs dels requisits necessaris per a crear sistemes de confiança. Els resultats d'esta invesƟgació oferixen una metodologia gràfica per a la construcció d'una IA de confiança mitjançant l'ús d'una matriu que expressa els mètodes tècnics a emprar per a cada requisit al llarg del cicle de vida de la IA. Així mateix, s'oferix una demostració pràcƟca mitjançant l'exemplificació amb codi de la validació del pipeline amb conjunts de dades en salut.

[EN] Technological trends point to ArƟficial Intelligence (AI) as a crucial tool in our society, but its development must respect human rights. Despite the availability of informaƟon in this regard, developers lack a pracƟcal guide to address the construcƟon of reliable AI. Therefore, the main objecƟve of this project is to develop a guideline or pipeline to serve as a structure for the creaƟon of AI systems. The methods will be implemented using state-of-the-art programming languages such as Python and validated using representaƟve real-world datasets. It is hoped that this work will provide any AI developer with a theoreƟcal framework and pracƟcal examples of the requirements needed to create reliable systems. The results of this research provide a graphical methodology for building a reliable AI by using a matrix that expresses the technical methods to be employed for each requirement throughout the AI lifecycle. In addiƟon, a pracƟcal demonstraƟon is provided by exemplifying with code the validaƟon of the pipeline with healthcare datasets.