Implementación del concepto de fairness en los algoritmos de toma de decisiones en el contexto sanitario

Abstract

[ES] La integración de algoritmos de toma de decisiones en entornos sanitarios ha transformado la práctica clínica, ofreciendo eficiencia y precisión. Sin embargo, esta evolución plantea interrogantes éticos. En este Trabajo Fin de Máster se examinan tanto los beneficios potenciales como los desafíos éticos de la implementación de esta tecnología en el ejercicio clínico, con énfasis en la necesidad de un enfoque reflexivo y cuidadoso que integre la justicia desde el desarrollo hasta la práctica de estos algoritmos. Se propone una aplicación basada en Inteligencia Artificial que salvaguarde los valores fundamentales de la medicina y promueva resultados equitativos y humanos para todos los pacientes.

El objetivo principal es desarrollar y seleccionar el modelo que prediga con mayor precisión la mortalidad de los pacientes en las primeras 24 horas de ingreso en unidades de cuidados intensivos, y comparar la precisión de sus predicciones entre distintos subgrupos o variables sensibles a la discriminación, como etnia, religión, sexo y renta. Tras esto, se evaluará si estas predicciones son equitativas y si la eficiencia del modelo se mantiene uniforme para todos los subgrupos. En caso de identificar disparidades, se implementarán técnicas de equidad en el aprendizaje automático para intentar corregir las desigualdades en la predicción. En este trabajo, se ha utilizado la base de datos MIMIC-III (Medical Information Mart for Intensive Care III), que contiene información clínica detallada de pacientes ingresados en unidades de cuidados intensivos, muy popular por sus aplicaciones de inteligencia artificial en salud.

Durante el trabajo, se llevará a cabo la creación y entrenamiento del modelo de machine learning para predecir la mortalidad de los pacientes. Una vez seleccionado el modelo más preciso, se procederá a evaluar las predicciones para identificar posibles sesgos y disparidades entre diferentes subgrupos, con tal de identificar patrones de discriminación. A continuación, se implementarán técnicas de equidad en el aprendizaje automático para mitigar estos sesgos e intentar ofertar predicciones justas para todos los pacientes. Estas técnicas pueden incluir la reponderación de datos, el ajuste de modelos y la introducción de restricciones de equidad durante el entrenamiento. El objetivo es garantizar que los algoritmos no perpetúen desigualdades existentes y que todos los pacientes reciban una atención equitativa y de alta calidad, promoviendo así una práctica médica más justa y humana.

[EN] The integration of decision-making algorithms in healthcare settings has transformed clinical practice, offering efficiency and accuracy. However, this evolution raises ethical questions. This Master's thesis examines both the potential benefits and ethical challenges of implementing this technology in clinical practice, with emphasis on the need for a thoughtful and careful approach that integrates justice from development to practice of these algorithms. An AI-based application is proposed that safeguards the fundamental values of medicine and promotes equitable and humane outcomes for all patients.

The main objective is to develop and select the model that most accurately predicts patient mortality in the first 24 hours of admission to intensive care units, and to compare the accuracy of its predictions among different subgroups or variables sensitive to discrimination, such as ethnicity, religion, sex and income. After this, we will assess whether these predictions are equitable and whether the efficiency of the model remains uniform for all subgroups. If disparities are identified, fairness techniques will be implemented in machine learning to try to correct the inequalities in the prediction. In this work, the MIMIC-III (Medical Information Mart for Intensive Care III) database has been used, which contains detailed clinical information of patients admitted to intensive care units, very popular for its artificial intelligence applications in healthcare.

During the work, the creation and training of the machine learning model to predict patient mortality will be carried out. Once the most accurate model has been selected, the predictions will be evaluated to identify possible biases and disparities between different subgroups in order to identify patterns of discrimination. Next, fairness techniques will be implemented in machine learning to mitigate these biases and attempt to provide fair predictions for all patients. These techniques may include data reweighting, model fitting, and the introduction of fairness constraints during training. The goal is to ensure that algorithms do not perpetuate existing inequalities and that all patients receive equitable, high-quality care, thereby promoting a fairer and more humane medical practice.

[CA] La integració d'algorismes de presa de decisions en entorns sanitaris ha transformat la pràctica clínica, oferint eficiència i precisió. No obstant això, aquesta evolució planteja interrogants ètics. En aquest Treball fi de màster s'examinen tant els beneficis potencials com els desafiaments ètics de la implementació d'aquesta tecnologia en l'exercici clínic, amb èmfasi en la necessitat d'un enfocament reflexiu i acurat que integre la justícia des del desenvolupament fins a la pràctica d'aquests algorismes. Es proposa una aplicació basada en Intel·ligència Artificial que salvaguarde els valors fonamentals de la medicina i promoga resultats equitatius i humans per a tots els pacients. L'objectiu principal és desenvolupar i seleccionar el model que prediga amb major precisió la mortalitat dels pacients en les primeres 24 hores d'ingrés en unitats de vigilància intensiva, i comparar la precisió de les seues prediccions entre diferents subgrups o variables sensibles a la discriminació, com a ètnia, religió, sexe i renda. Després d'això, s'avaluarà si aquestes prediccions són equitatives i si l'eficiència del model es manté uniforme per a tots els subgrups. En cas d'identificar disparitats, s'implementaran tècniques d'equitat en l'aprenentatge automàtic per a intentar corregir les desigualtats en la predicció. En aquest treball, s'ha utilitzat la base de dades MIMIC-III (Medical Information Mart for Intensive Care III), que conté informació clínica detallada de pacients ingressats en unitats de vigilància intensiva, molt popular per les seues aplicacions d'intel·ligència artificial en salut. Durant el treball, es durà a terme la creació i entrenament del model de machine learning per a predir la mortalitat dels pacients. Una vegada seleccionat el model més precís, es procedirà a avaluar les prediccions per a identificar possibles biaixos i disparitats entre diferents subgrups, amb la condició d'identificar patrons de discriminació. A continuació, s'implementaran tècniques d'equitat en l'aprenentatge automàtic per a mitigar aquests biaixos i intentar oferir prediccions justes per a tots els pacients. Aquestes tècniques poden incloure la reponderació de dades, l'ajust de models i la introducció de restriccions d'equitat durant l'entrenament. L'objectiu és garantir que els algorismes no perpetuen desigualtats existents i que tots els pacients reben una atenció equitativa i d'alta qualitat, promovent així una pràctica mèdica més justa i humana.