Aplicación de modelos de machine learning para la detección de estereotipos online

Abstract

[ES] Una de las formas a través de las cuales se plasman los discursos de odio es a través de los estereotipos. Los estereotipos son un conjunto de creencias compartidas surgidas a raíz de simplificaciones, leyendas urbanas e incluso prejuicios hacia un determinado grupo por razón de su etnia, orientación sexual, género, religión e incluso clase social. Además, una de las formas mediante la cual los discursos de odio se ven propagados es a través de Internet, donde el volumen de información manejado y, la falta de recursos humanos, convierten la tarea de detección de estereotipos en un desafío de gran envergadura. No obstante, la evolución del campo de la Inteligencia Artificial permite resolver el problema con modelos de aprendizaje automático. Con el fin de encontrar modelos de machine learning que puedan atajar este problema, el presente trabajo presenta los resultados de la participación en la competición DETESTS (DETEction and classification of racial STereotypes in Spanish). Por lo tanto, el siguiente trabajo es fruto de la investigación de las técnicas más comunes en NLP junto con los modelos más usados en este tipo de tareas, para poder realizar una comparación de los resultados obtenidos con la finalidad de alcanzar la mejor posición en la competición.

[CA] Una de les formes a través de les quals es plasmen els discursos d’odi és a través dels estereotips. Els estereotips són un conjunt de creences compartides sorgides arran de simplificacions, llegendes urbanes i fins i tot prejudicis cap a un determinat grup per raó de la seua ètnia, orientació sexual, gènere, religió i fins i tot classe social. A més, una de les formes mitjançant la qual els discursos d’odi es veuen propagats és a través d’Internet, on el volum d’informació manejat i, la falta de recursos humans, converteixen la tasca de detecció d’estereotips en un desafiament de gran envergadura. No obstant això, l’evolució del camp de la Intel·ligència Artificial permet resoldre el problema amb models d’aprenentatge automàtic. Amb la finalitat de trobar models de machine learning que puguen atallar aquest problema, el present treball presenta els resultats de la participació en la competició DETESTS (DETEction and classification of racial STereotypes in Spanish). Per tant, el següent treball és fruit de la investigació de les tècniques més comunes en NLP juntament amb els models més usats en aquesta mena de tasques, per a poder realitzar una comparació dels resultats obtinguts amb la finalitat d’aconseguir la millor posició en la competició.

[EN] One of the ways in which hate speech is embodied is through stereotypes. Stereotypes are a set of shared beliefs arising from simplifications, urban legends and even prejudice towards a particular group on the basis of ethnicity, sexual orientation, gender, religion and even social class. Moreover, one of the ways in which hate speech is propagated is through the Internet, where the volume of information handled and the lack of human resources make the task of detecting stereotypes a major challenge. However, developments in the field of Artificial Intelligence make it possible to solve the problem with machine learning models. In order to find machine learning models that can tackle this V problem, this paper presents the results of the participation in the DETESTS (DETEction and classification of racial STereotypes in Spanish) competition. Therefore, the following work is the result of the investigation of the most common techniques in NLP together with the most used models in this type of tasks, in order to make a comparison of the results obtained with the aim of achieving the best position in the competition.