La imagen como forma de (des)conocimiento en la era del deepfake

Abstract

[EN] The machines that produce deepfakes do not need the real world to produce plausible representations. This should produce a veracity crisis of the image. However, institutions such as justice maintain confidence in the image as an epistemological tool. In a social context of deep suspicion about any type of representation, the image is still used to determine what is true and what is false.Since the appearance of deepfake, measures and countermeasures have been taking place, mostly dependent on artificial intelligence, aimed to maintain the images as part of the methods we use to interpret the world.In this article, through different case studies, bibliography and relevant documents on the subject, the different methods of authentication of images as faithful representations of reality are described. These unite the old fake pictures, with the new phenomenon of deepfake.We conclude by questioning whether at present images are a simple reflection of our desire to see what we wish. So all images are an artistic agency. At the same time that we have abandoned completely and handed over to machines our critical capacity for determining truth. In this context, reality is decided by its plausible appearance, but not by its meaning.

[ES] Las máquinas que producen deepfakes no necesitan del mundo real para producir representaciones verosímiles. Esto debería producir la crisis del viejo contrato de veridicción que mantenemos con las imágenes. La irrupción del deepfake convierte la totalidad de las imágenes en materiales para una agencia artística. Sin embargo, instituciones como la justicia mantienen la confianza en la imagen como dispositivo de conocimiento. En un contexto social de profunda sospecha sobre cualquier tipo de representación, la imagen aún se utiliza para determinar lo verdadero y lo falso. Desde la aparición del deepfake se suceden medidas y contramedidas, cada vez más dependientes de la inteligencia artificial, destinadas a seguir manteniendo a las imágenes como parte del aparato epistemológico que empleamos para conocer el mundo.En este artículo, a través de diferentes estudios de caso, bibliografía y documentos relevantes sobre el tema, se traza una línea sobre el esfuerzo por comprobar la autenticidad de las imágenes como representaciones fieles de la realidad. Esta línea une las viejas fake pictures, con el nuevo fenómeno del deepfake. Concluimos cuestionándonos si las imágenes no son ya sólo un simple reflejo de nuestros deseos de ver, al tiempo que hemos abandonado y entregado totalmente a las máquinas nuestro aparato crítico de determinación de la verdad. En este contexto, lo que es real se dirime en una conversación en entre máquinas (GAN) por su apariencia verosímil, pero no por su contenido.