Identificación y categorización de estereotipos raciales en textos y de memes sexistas: Un enfoque basado en aprendizaje por desacuerdo

Abstract

[ES] Internet ha supuesto un cambio revolucionario en la forma que tenemos de comunicarnos, permitiendo el acceso global e instantáneo con millones. Sin embargo, estas mismas ventajas han conducido a que Internet se haya convertido en un altavoz de los discursos de odio, siendo los estereotipos una de las formas más comunes con los que estos se presentan. De esta forma, proponemos la creación de sistemas de aprendizaje profundo orientados a la identificación y categorización de estereotipos raciales en texto (DETESTS-Dis) y estereotipos sexistas en memes (EXIST 2024), todo ello desde la perspectiva de aprendizaje con desacuerdos, que busca integrar las diferentes perspectivas de los anotadores en los sistemas con la finalidad de hacerlos más generalizables.

De esta forma, en el presente trabajo final de máster se realiza una comparativa del enfoque clásico que ignora los desacuerdos con el paradigma propuesto. Los resultados destacan la importancia de incluir el desacuerdo como señal en lugar de ruido, mostrando como en algunos resultados el paradigma escogido supera al clásico, además de realizar un análisis de los casos en el cual no resulta tan efectivo. Asimismo, también planteamos un análisis de la importancia del contexto para la tarea de detección de estereotipos, destacando su eficacia en la clasificación de los memes.

[EN] The Internet has brought about a revolutionary change in the way we communicate, allowing instant global access to millions. However, these same advantages have led to the Internet becoming a loudspeaker for hate speech, with stereotypes being one of the most common forms in which it is presented. Thus, we propose the creation of deep learning systems aimed at identifying and categorising racial stereotypes in text (DETESTS-Dis) and sexist stereotypes in memes (EXIST 2024), all from the perspective of learning with disagreements, which seeks to integrate the different perspectives of the annotators in the systems in order to make them more generalisable.

In this way, this master's thesis compares the classical approach that ignores disagreements with the proposed paradigm. The results highlight the importance of including disagreement as a signal instead of noise, showing how in some results the chosen paradigm outperforms the classical one, as well as analysing the cases in which it is not as effective. Likewise, we also propose an analysis of the importance of context for the stereotype detection task, highlighting its effectiveness in the classification of memes.