Sesgos en la creación de imágenes por sistemas TTI de IA: hibridando arte, ciencia y tecnología

Abstract

[ES] En un contexto de avances vertiginosos en inteligencia artificial (IA), surge la necesidad crítica desde las prácticas artísticas de comprender cómo esta tecnología puede verse afectada por sesgos inherentes a la sociedad tradicional. En este punto planteamos indagar bajo la pedagogía crítica y la premisa de las imágenes que actúan cómo se comportan las imágenes generadas por IA desde una mirada artística, feminista e interseccional. Partiendo de la hipótesis de que los algoritmos de IA reflejan y pueden amplificar los sesgos presentes en los conjuntos de datos de entrenamiento, el estudio se propuso identificar y cuantificar estos sesgos en las imágenes generadas. Mediante metodologías cuantitativas y cualitativas los resultados del análisis de imágenes son puestos en diálogo con el cuerpo teórico de la investigación que se centra en bases de datos, construcción de imágenes, y prácticas artísticas feministas. En este texto se presenta un resumen teórico y analítico del total de la investigación, siendo esta visible en la página web del proyecto. El objetivo principal fue destacar cómo la IA puede reproducir y perpetuar prejuicios y estereotipos presentes en la sociedad a través de la generación de imágenes. Los resultados obtenidos respaldaron la hipótesis inicial, mostrando una tendencia de los algoritmos de IA a reflejar y amplificar los sesgos presentes en los datos de entrenamiento, siendo los más evidentes género y raza. Este estudio subraya la importancia de comprender y abordar los sesgos en la generación de imágenes con IA para garantizar equidad y representatividad. Además, destaca la necesidad de investigar desde las artes los campos más tecnológicos como la IA, ya que la intersección de estas disciplinas puede proporcionar perspectivas únicas y soluciones innovadoras para abordar los desafíos éticos y sociales planteados por el avance de la IA. Este enfoque integral puede fomentar un diálogo interdisciplinario en el desarrollo de IA, promoviendo una mayor conciencia sobre los posibles sesgos y la importancia de mitigarlos para construir sistemas más equitativos y responsables.