El impacto de la IA en la vigilancia: Una práctica artística basada en la escucha

Abstract

[ES] Este proyecto artístico pretende explorar la estrecha relación existente entre la informática y el funcionamiento de las sociedades de control, enfocándose en la reciente evolución de las inteligencias artificiales y el análisis de cómo estas mismas están siendo aplicadas actualmente a los sistemas de vigilancia. Nos encontramos en un mundo donde la tecnología avanza a pasos agigantados y, en los últimos años, las IA se han convertido en herramientas esenciales para la correcta organización y gestión de los grandes volúmenes de datos ciudadanos, recopilados diariamente a través de los dispositivos computacionales, dando lugar, de esta forma, al surgimiento de una nueva tecnología de seguridad, la tecnología de la predicción. El proyecto aborda esta problemática mediante la creación de un dispositivo de vigilancia basado en el uso de inteligencia artificial. Esta pieza instalativa captura conversaciones y las analiza en tiempo real, generando respuestas en base a su contenido y directrices dadas previamente. El objetivo es mostrar las capacidades y peligros de la integración de sistemas basados en inteligencias artificiales e invitar, con ello, a la reflexión sobre los riesgos e implicaciones que estas nuevas tecnologías pueden tener para nuestra sociedad.

[EN] This artistic project aims to explore the close relationship between computer science and the functioning of control societies, focusing on the recent evolution of artificial intelligences and the analysis of how they are currently being applied to surveillance systems. We find ourselves in a world where technology is advancing by leaps and bounds, and in recent years, AIs have become essential tools for the proper organization and management of the large volumes of citizen data collected daily through computational devices, thus giving rise to a new security technology: prediction technology. The project addresses this issue by creating a surveillance device based on the use of artificial intelligence. This installation piece captures conversations and analyzes them in real time, generating responses based on their content and previously given guidelines. The objective is to showcase the capabilities and dangers of integrating AI-based systems and to invite reflection on the risks and implications that these new technologies may have for our society.