La visualidad algorítmica: una aproximación social a la visión artificial en la era post internet1.
Fernando R. Contreras2 ; Alba Marín3.
Recibido: 12 de marzo 2021 / Aceptado: 15 de septiembre 2021.
Resumen. En el marco de los estudios visuales se observa un desarrollo de singulares prácticas cuya orientación tecnológica está basada en la innovación de algoritmos de inteligencia artificial. En este contexto, la investigación busca revelar la emergencia de una nueva interpretación de la visualidad, concretamente, mediante el análisis de dos líneas principales (cuya relación se trata de mostrar): por una parte, la visión artificial y su extensión en el universo posinternet de las RRSS y de la web, donde la imagen pierde su significado simbólico y su dimensión estética para valorarse como una información que cambia el estado de un sistema; y, por otro lado, el conocimiento social del mundo virtual a través del uso, la actitud y el comportamiento humano con los algoritmos inteligentes. Mediante la revisión bibliográfica multidisciplinar, como método principal, las conclusiones apuntan a una importante presencia de una visualidad dependiente de las máquinas inteligentes, que aportan un mayor enriquecimiento del estudio tanto de la naturaleza humana como de la realidad social en el entorno virtual.
Palabras clave: Visualidad; Inteligencia Artificial; Machine Learning; Internet; RRSS.
[en] Algorithmic visuality: a social approach to machine vision in the postinternet era.
Abstract. Within the framework of visual studies, we observe a development of singular practices whose technological orientation is based on the innovation of artificial intelligence algorithms. In this context, the research seeks to reveal the emergence of a new interpretation of visuality, specifically, through the analysis of two main lines (whose relationship we try to show): on the one hand, artificial vision and its extension in posinternet universe of social networks and the web, where the image loses its symbolic meaning and its aesthetic dimension to be valued as information that changes the state of a system; and, on the other hand, the social knowledge of the virtual world through the use, attitude and human behavior with intelligent algorithms. Through the multidisciplinary bibliographic review, as the main method, the conclusions point to an important presence of a visuality dependent on intelligent machines, which provide a greater enrichment of the study of both human nature and social reality in the virtual environment.
Keywords: Visuality; Artificial Intelligence; Machine Learning; Internet; Social Networks.
Sumario. 1. Introducción: la visualidad algorítmica, 2. Hipótesis, objetivos y metodología, 3. La interpretación algorítmica visual, 4. La identidad visual algorítmica, 5. Una visualidad fingida, 6. Una visualidad operativa, 7. La investigación social basada en la visualidad algorítmica, 8. Formas algorítmicas de ver, 9. Consideraciones finales, Referencias.
Cómo citar: Contreras, F. R.; Marín, A. (2022). La visualidad algorítmica: una aproximación social a la visión artificial en la era post internet. Arte, Individuo y Sociedad 34 (2), 627-647, https://dx.doi. org/10.5209/aris.74664
1. Introducción: la visualidad algorítmica.
La visualidad, término tomado del crítico Hal Foster (1988), abarca otras disciplinas más allá de la historia del arte. La disonancia comienza cuando planteamos un estudio sobre la cultura visual y requerimos del exterior disciplinario. Entonces las preguntas sobre la cultura alcanzan, entre otras labores académicas, a las investigaciones filosóficas sobre epistemologías de la visión, estudios sociológicos sobre la representación, el conocimiento visual o el reconocimiento, análisis semióticos sobre las imágenes o estudios cognitivos, fisiológicos y fenomenológicos sobre la visión. Visto así, la visualidad es un añadido a otras disciplinas que aprovecha la fuerza política académica de la interdisciplinariedad.
Para concretar el objeto del presente trabajo, la visualidad es tratada como la práctica de ver en el mundo y, específicamente, al ver de los demás, aunque estos sean dispositivos artificiales. La cultura visual, como ha reconocido W. J. T. Mitchell (2017), no se limita a la existencia de las imágenes o al funcionamiento de los medios. La cultura visual comporta lo visible/ lo invisible, lo descubierto/ lo encubierto, la mirada /la ceguera; y también su construcción social, económica política y ética.
Desde este punto de vista, entendemos que la dimensión tecnológica no queda excluida de la cultura visual y, de esta manera, es posible demostrar la emergencia de una visualidad diferente basada en los avances de la inteligencia artificial en el campo de la visión. La visión artificial, el aprendizaje automático y la cultura posinternet han supuesto un cambio revolucionario en la marcha de nuestro mundo.
Desde otra perspectiva epistémica, la visualidad es una construcción social de lo visual, al tiempo que también es una construcción visual de lo social (Bal, 2003; Crary, 2008; Jay, 2007; Mondzain, 2015; Moxey, 2015; Pombo, Di Marco & Pina, 2010). Sin embargo, la visualidad algorítmica adquiere otra dimensión informacional para los estudios sociales que tiene que ver más con la activación o desactivación de las funcionalidades (buscar, reconocer, identificar, informar) de una determinada estructura técnica del paisaje mediático. Mitchell nos ayuda a introducir el objeto de este estudio:
La vida de las imágenes ha tomado un giro decisivo en nuestro tiempo: el más viejo mito sobre la creación de imágenes vivas, la fabricación de un organismo inteligente por medios artificiales y técnicos, se ha convertido ahora en una posibilidad teorética y práctica gracias a las nuevas constelaciones de medios en muy distintos niveles. (Mitchell, 2017, p. 385)
En la investigación social, la visualidad se ha valido de dos vías de conocimiento: 1) la utilización de fotografías y otras imágenes preexistentes; y 2) la creación de imágenes. No son métodos nuevos y quizás fuese más oportuno hablar de añadir una dimensión visual a los métodos convencionales de recogida de datos. Por ejemplo, cuando se utiliza la grabación en vídeo como método es una extensión del método sociológico estándar de entrevista. Aunque el método puede variar sustancialmente el resultado de la entrevista solo por la presencia de la cámara (Marín & Contreras, 2020).
Las imágenes están inmersas en el contexto material de las personas. Por este motivo, los objetos que aparecen en las fotografías constituyen una parte de la biografía de las personas (Hoskins, 1998) como los objetos del arte para los historiadores del arte (Bryson, Holly and Moxey, 1994; Freedberg, 2020). La utilización de imágenes preexistentes no solo se emplea en los métodos de estudio del arte (Grimshaw & Ravetz, 2004), sino en las interacciones de campo más complejas (Ødegaard & Myrstad, 2020; Dyke, 2006).
En la actualidad, la suma de la visión artificial, los algoritmos de aprendizaje automático (de perfeccionamiento de procesos) y el paradigma posinternet constituido de RRSS, plataformas y las aplicaciones para smartphones ha transformado el paradigma de la visualidad. Los entornos digitales han supuesto un cambio importante en las formas de experimentar y teorizar sobre la virtualización de los mundos cotidianos.
Los hechos, los acontecimientos y los fenómenos que vivimos están inextricablemente entrelazados con los descubrimientos tecnológicos: nos movemos por mundos que están a la vez en línea y fuera de línea. La visualidad algorítmica sustituye la dicotomía cultura/naturaleza por un análisis inmanente de relaciones de información. La dimensión antropocéntrica (sentido e historia) de la cultura visual desaparece en este horizonte de inteligencias artificiales y emerge la exploración inmanente de las relaciones de información con la contingencia del mundo real.
Por ello dependemos de conocimientos que posibiliten el trabajo con la “neomaterialidad digital de las imágenes” (codificación, metadatos, paradatos). La investigación social que utiliza en su labor científica la visualidad considera esta dualidad a la hora de explorar temas como el arte, el progreso, la prosperidad o el activismo. En este sentido, la comunicación en el paradigma posinternet ofrece múltiples posibilidades a las técnicas de investigación visual y sensorial, aunque en algunas ocasiones sea de forma experimental (Pink, 2004).
La visualidad algorítmica es una nueva forma de información visual que no requiere de la participación de la mirada humana. Hasta hace poco la investigación visual consistía en una labor de captura y digitalización del observador para su posterior catalogación y conservación en dispositivos de almacenamiento masivo.
La emergencia de tecnologías basada en contenidos visuales (CBIR, CBVIR, QBIC, R-CBIR) (Messina, Amato, Carrara, Falchi & Gennaro, 2020; Raieli, 2013; Shaila & Vadivel, 2018) comporta otro marco funcional: 1) las imágenes son inputs en un sistema visual y pierden su dimensión humana al no considerarse un medio de expresión; 2) las imágenes pierden su sentido histórico, pues ahora solo conmutan el paso de un estado a otro en sistemas locales; y 3) las imágenes no son objetos de contemplación, sino que forman unidad con un complejo técnico constituido por un conjunto de imágenes.
La visualidad algorítmica no se define concretamente por la apariencia estética, ni tampoco se ocupa de la profundidad de los significados iconográficos, interesantes para el enriquecimiento de la cultura de una civilización. Por el contrario, la esencia de su naturaleza es la efectividad técnica de los datos que concentra la información visual para el correcto funcionamiento de la visión artificial de las máquinas.
2. Hipótesis, objetivos y metodología.
El objetivo principal de esta investigación fue delimitar el procesamiento visual inteligente en la investigación de los fenómenos, acontecimientos, eventos y prácticas sociales. La aplicación de la inteligencia artificial en la visualidad tiene numerosas ramificaciones que nos llevan desde el control y gestión de actividades industriales con robots que ven los procesos de fabricación al control policial con algoritmos de reconocimiento facial o a la censura política mediante la identificación de símbolos (Andrejevic & Volcic, 2021). Para resolver la complejidad del objeto de estudio, delimitamos su extensión centrándonos concretamente en el semblante social de esta visualidad algorítmica.
Partiendo de este objetivo principal enumeramos otros objetivos secundarios que tratan de delimitar el primero: 1) justificar el nuevo régimen visual donde la diferencia entre la percepción y lo percibido ha cambiado radicalmente las cualidades que definían la visualidad; 2) rescatar un conjunto de aspectos tecnológicos (mediante una selección bibliográfica de tipo intencional) que demuestren la fuerte competencia de la visión de las máquinas inteligentes en los mismos procesos visuales humanos.
Considerando los anteriores objetivos, este artículo plantea la siguiente hipótesis de trabajo: $\mathrm { H } _ { \mathrm { 1 \cdot } }$ : Mediante la emergencia de un estado posrepresentacional de la visualidad al que se ha llegado después de que los algoritmos inteligentes operen en internet, puede conocerse otra realidad social con el valor informacional de las imágenes. La condición algorítmica de la visualidad debe ser comprendida como una propuesta que surge de los conceptos de información y operación de la inteligencia artificial. Más aún, como ha señalado Celis Bueno (2020), debemos asumir un reemplazo de las nociones de sentido e historia que definía el marco humanista de las imágenes. Solo así es posible admitir otra valoración conceptual que supere la idea de imagen como huella histórica atestada de sentido.
En este contexto, el presente artículo estudia este paradigma sociocrítico a partir de cómo la visión artificial consolida un formato distinto de régimen escópico, qué cuestiones suscita respecto al análisis visual sobre las que han de descansar las ciencias sociales, así como algunos de sus dilemas éticos. Este estudio muestra el problema de la intersubjetividad, no interpersonal como tradicionalmente se había contemplado en el arte o la comunicación, sino entre los seres humanos y la inteligencia visual artificial.
El diseño metodológico está inspirado en trabajos como el de Figueras-Ferrer (2021) que expresa la necesidad de un enfoque crítico en la investigación sobre la visión artificial dentro de la cuarta revolución tecnológica:
Con un enfoque híbrido de investigación y educación, nuestro objetivo es llamar la atención de artistas, de investigadores y del público en general sobre cuestiones críticas en torno al aprendizaje automático y a las nuevas potencialidades de la cuarta revolución tecnológica. (Figueras-Ferrer, 2021, p.460)
Además, la orientación crítica se inspira en los ensayos teóricos de Laurelle (2020), Rosa (2020) y Braidotti (2015) que instalan tres ideas nucleares respectivamente en nuestra reflexión: 1) planteada una condición a priori como una articulación trascendental/empírica del fenómeno de la visualidad se garantiza un datum dado, en nuestro caso, sociedad, subjetividad y sensibilidad; 2) la relación [percepción-percibido] del ser humano con el mundo es esencialmente corporal. El análisis de la visualidad parte de que el cuerpo y el mundo están entrelazados; y 3) los actuales science and technologies studies aparecen mediados por el término panhumanidad que expresa la interconexión global entre los humanos y el medio ambiente no humano.
Paralelamente se ha llevado a cabo el trabajo bibliográfico asistido por recursos electrónicos (Gusenbauer, Haddaway, 2020). Se han buscado artículos relevantes en bases de datos multidisciplinarias (Scopus, JSTOR, Dialnet Plus, SAGE Journals y Wiley Online Library). Los criterios para la inclusión se basaron en la obtención de resultados sobre los avances en visión artificial y sobre el comportamiento humano en los procesos de visualización en los que interviene la inteligencia artificial. Esto dio lugar a un conjunto de artículos de los que conocemos los efectos tecnológicos sobre los desarrollos sociales, sin la finalidad concreta de realizar un trabajo de revisión sistematizada y más con un carácter de autocontenido.
Los criterios de selección de la documentación del trabajo permitieron estructurar el artículo en tres partes. En primer lugar, abordamos los desafíos metodológicos que plantean establecer una correlación entre los algoritmos inteligentes y la información en la cultura visual. Luego, revisamos la presencia tecnológica de inteligencia artificial en los procesos visuales que describen nuevas propiedades en las imágenes. Alrededor de las investigaciones empíricas estudiadas en inteligencia artificial en relación con la visualidad hemos concluido apuntando algunos temas de discusión que suscita este campo de estudio en las humanidades y ciencias sociales. Teniendo en cuenta la naturaleza del objeto, las preguntas han sido abordadas de manera multidisciplinaria, conectando las ciencias de análisis de datos y programación, con ciencias del comportamiento humano como la sociología, la ciencia política y la comunicación.
3. La interpretación algorítmica visual.
La interpretación algorítmica visual no debe ser entendida como un proceso semiótico consumado desde el sentido humano, sino como diferentes funciones informacionales que pueden desempeñar los algoritmos inteligentes respecto a los contenidos visuales, así como a la visión artificial y el reconocimiento de objetos. Entre ellas:
a) Reconocer los objetos que contiene una imagen. El sistema indexa imágenes de objetos simples sobre la base de su contenido (personas, paisajes, objetos cotidianos, etc.). Normalmente combinan rasgos descriptores globales y reconocedores estándar (clasificadores bayesianos y euclidianos) tanto para el reconocimiento como para la búsqueda. A medida que se hacen más sofisticados, incorporan rasgos descriptivos locales, historiogramas, wavelets y redes neuronales de perceptrones para la recuperación de imágenes en presencia de yuxtaposiciones entre sus objetos (Sossa Azuela, Villegas Cortez, Avilés Cruz, González, y Vázquez, 2006).
b) Proporcionar información sobre los objetos que contiene una imagen. La visualidad algorítmica se caracteriza por la información que las imágenes pueden devolver sobre los objetos que muestran. Es otra manera de visualización en la que el observador recoge datos que podría revelar tal vez alguna comprensión sociológica que no es accesible por otro medio. Lo visual puede emplearse también en competencias orientadas al pensamiento crítico del observador (Knochel, 2013). Las imágenes informan sobre su denominación, las propiedades o la historia del objeto. Casi todos los acontecimientos contemporáneos son fotografiados por dispositivos móviles o implican capturas digitales de creaciones artísticas populares (memes, pancartas, grafitis), difundidos a través de las RRSS y almacenados en la nube (p.e. 15Mpedia contiene fototeca y videoteca del movimiento español de los indignados, 15M).
c) Seleccionar una imagen por el estado de visibilidad e implicación subjetiva del objeto contenido. Las imágenes pueden repetir el mismo objeto visual variando en sus propiedades de color, tamaño o estilo gráfico. Suele suceder en circunstancias en las que son múltiples sujetos los que producen las imágenes. Por ejemplo, si estudiamos las protestas de las multitudes en las calles, casi todos los participantes pueden disponer de cámaras en sus móviles capturando miles de fotografías. Los sujetos tienen una relación personal y social con el hecho fotografiado, aumentando el grado de subjetividad del conjunto de las imágenes producidas (Carroll, 2021).
d) Detectar la relación de las imágenes con sus autores mediante sistemas algorítmicos de búsqueda inteligente. Es posible descubrir la acreditación de la imagen de acuerdo con las prácticas estandarizadas en internet. De modo que en esta vía de investigación social se verifican dos usos diferentes de la visualidad: a) el empleo de las imágenes en el conocimiento de la sociedad; y, b) la investigación sociológica de las propias imágenes (Pink & Lanzeni, 2018).
e) Descubrir los usos particulares de las imágenes. Un autor puede descubrir quién usa sin autorización sus imágenes, y más aún, puede encontrar imágenes plagiadas o que se utilizan en cuentas falsas de las RRSS (Wang, 2016). Con ello se hace viable la protección de la reputación o de la identidad de las personas cuando estas imágenes son manipuladas en actos delictivos en los que se busca dañar el prestigio de personajes relevantes (líderes políticos, religiosos o figuras célebres de la vida pública).
4. La identidad visual algorítmica.
Durante el confinamiento de la población española en sus domicilios en los primeros meses de la pandemia Covid-19, la página oficial en Facebook del Ministerio de Sanidad sufrió supuestamente un ciberataque. Según informaron algunos medios oficiales fueron 672.000 bots los que pretendieron manipular la opinión pública sobre la pandemia (Del Castillo, 2020; Peco, 2020). El propio Gobierno Español salía a desmentir en su cuenta de Twitter con un mensaje las acusaciones que les llegaban desde sectores políticos y mediáticos de buscar en las interacciones de la red un apoyo público a las medidas preventivas adoptadas en la crisis sanitaria.
Lo que mostró este suceso fue la importancia de la visibilidad para la política no solo en los medios de comunicación masiva, (prensa, radio o televisión), sino también en las RRSS (Facebook, Twitter o Instagram). La visibilidad en interacción con la ciudadanía a través de las redes puede cambiar la actitud del ciudadano respecto a las decisiones gubernamentales, y también puede ser un instrumento de manipulación de la opinión pública (Velkova & Kaun, 2021).
El suceso mediático se hizo un fenómeno viral cuando se descubrió que los bots utilizaron perfiles falsos que correspondían a imágenes de mujeres jóvenes y atractivas con nombres extranjeros (Verifica RTVE, 2020). Los rasgos visuales de las figuras femeninas, concretamente, sus cualidades fisionómicas (juventud, belleza, sexo) o estilísticas (moda, pose, actitud), condujeron a sospechar sobre la falta del respaldo masivo a la página del Ministerio de Sanidad en Facebook.
La utilización de bots en la contrapropaganda por fuerzas políticas, y principalmente en épocas electorales es ya bien conocida, aunque su detección siempre es difícil (Sierra y Sola, 2020). Los bots actúan en el ciberespacio imitando el comportamiento humano en las interacciones (Kollanyi, Howard & Woolley, 2016). Pueden simular una conversación con una persona (chatbot) o buscar las vulnerabilidades de un sistema informático mediante redes de bots, asaltando de forma continua servidores. En política, el automatismo del spam bot o el RR.SS bot (Gorwa & Guilbeault, 2020) ha servido para debilitar o fortalecer a los gobiernos, manipulando la opinión pública (en algunos casos a nivel internacional). En este contexto, la visualidad, más que la visibilidad, es el factor que permitió descubrir estas falsas identidades.
Cada vez es más recurrente el análisis visual realizado por los algoritmos de optimización o algoritmos de aprendizaje automático (machine learning) para protegerse de la manipulación propagandística. El más conocido en internet es el sistema Captcha (Completely Automated Public Turing test to tell Computers and Humans Apart) que se sirve de diversos elementos visuales en sus tests para reconocer a un robot (Captcha visual) (Brodić & Amelio, 2020). En la actualidad, el sistema reCAPTCHA de Google analiza además las cookies activas, la dirección IP y el comportamiento del usuario con el movimiento del ratón en el ordenador (Zhang, Liu, Sarkodie-Gyan et al., 2021). Los robots aprendieron a sortear este sistema de protección, pero su comportamiento es más detectable por la lógica automática del movimiento, y en ello se apoya la seguridad de Google (Li et al., 2019).
Los algoritmos de aprendizaje automático también son utilizados para la detección de los datos falsos de la información visual (por lo que sería posible hablar de una subjetividad visual no humana) que permite la invisibilidad de la identidad en las redes (el anonimato digital). La falsificación de la identidad fue anticipada hace tiempo por Turkle (1996), y ya entonces adelantaba la aparición de conductas anómalas cuando estudiaba el comportamiento de los adolescentes en la red. Los mismos algoritmos trabajan también para la invisibilidad de la identidad, desde el anonimato, permitiendo comportamientos delictivos, pero también, en algunas ocasiones, protegiendo a los activistas de la represión violenta de regímenes totalitarios.
La invisibilidad de la identidad digital provoca la aparición de malas prácticas como las técnicas de astroturfing (Rogers & Niederer, 2020) (creación de falsos blogs, contenidos falsos en Wikipedia, posicionamiento en buscadores o falsificación de tráfico web). Son estrategias de persuasión que emplean algunos partidos políticos o empresas para derribar a la competencia. También bajo la misma mala intención han aparecido las figuras particulares del troll o el hater (Rosamond, 2020).
Los trolls o los haters son una evolución de estas conductas anormales en personas que utilizan la agresión de las burlas, bulos o insultos (Reagle, 2015).
El troll amenaza o acosa a otras personas, y el hater se dirige a grupos sociales o colectivos humanos determinados a través de las RRSS desde el anonimato en la mayoría de las ocasiones. Su motivación obedece a impulsos no sociables, sádicos, tendencias personales maquiavélicas y narcisistas y a otras diversas psicopatologías como demostraron en su artículo Buckels, Trapnell y Paulhus (2014). Los trolls o los haters manipulan imágenes con las que provocan la desinformación con noticias falsas (fake news) (Kapantai, Christopoulou, Berberidis, & Peristeras, 2020), o sencillamente practican la violencia simbólica en las RRSS como una renovación digital de la iconoclasia.
La iconoclasia es un fenómeno visual en el que la imagen agrede al objeto representado o al observador. La acción iconoclasta desacraliza algo sagrado, devalúa el valor del objeto representado o hace valioso algo despreciable. También puede agredir por su forma de presentar ese algo o por su asociación con otra cosa execrable. La iconoclasia en la comunidad se organiza alrededor de una decisión judicial, política o una imposición autocrática. En otras ocasiones, el gesto iconoclasta surge de la ofensa a la misma imagen. Se trata de perseguir la obra visual hasta su extinción, y otras veces solo de una desaparición parcial mediante una manipulación: “Para resumir, entonces, parece que hay tres estrategias básicas de iconoclasia: aniquilación, desfiguración y ocultamiento” (Mitchell, 2017, p. 172).
Durante el confinamiento social que trajo la pandemia Covid-19, estas tendencias se manifestaron en una producción masiva de memes que circularon en las RRSS y redes interpersonales mediadas por una tecnología (p. ej. WhatsApp). Los memes son una nueva relación entre imagen y actores políticos, “una concepción abierta a la interacción y creatividad del público, como una fórmula de aportar mayor visibilidad y proyección en la red” (Piñero-Otero y Martínez-Rolán, 2020, p. 31).
La apropiación de prácticas artísticas, creativas e imaginativas por la ciudadanía ha obedecido en numerosos casos a una necesidad subliminal de crítica política y de expresión del clima social. La creatividad popular utiliza todos los recursos digitales a su alcance, incluso tácticas hacktivistas, como los ataques DDoS, para llamar la atención sobre sus reivindicaciones.
5. Una visualidad fingida.
Internet se desarrolla desprotegido frente al fraude en línea, phishing y malware (Jakobsson, 2012). La tecnología explora los componentes sociales y psicológicos de sus usuarios, analizando los ciberataques por motivos políticos, los errores humanos y las tendencias delictivas en el ciberespacio. Estas amenazas merman la seguridad y la confianza en las actividades en línea. La tecnología proporciona contramedidas para refrenar estos factores nocivos para la comunicación. Frente al fenómeno de las imágenes falsas la tecnología concibió una protección en la búsqueda inversa de imágenes (reverse image search).
El sistema CBIR de consulta (query by example) se basa en un algoritmo de búsqueda que recupera las imágenes apoyándose en ejemplos visuales. Si bien las imágenes se buscan por recuperación semántica mediante los metadatos, el sistema CBIR busca por niveles de forma, color y textura (Pérez Álvarez, 2007). Los sistemas CBIR se hicieron conocidos por su empleo en los bancos o repositorios de imágenes de los museos, las bases de datos de imágenes médicas en IRMA (Image Retrieval in Medical Applications) (Lehmann, Güld, Thies, Plodowski, Keysers, Ott & Schubert, 2004), las bases de datos biométricos de imágenes policiales, el control visual con finalidades militares (ABIS, Sistema Biométrico de Información Automatizada), la información geográfica (SIG), los sistemas informáticos de teledetección, y finalmente, el registro de la propiedad intelectual.
En las RRSS la popularidad les llegó porque escudriñan si las imágenes personales son sustraídas para otros lugares de la red de modo fraudulento (sin autorización de su autor o en la manipulación de una falsa información). Existen numerosas tecnologías big data para la recuperación de imágenes web. (Rodríguez-Vaamonde, Torres-Bastida, & Garrote, 2014; Odijk, White, Awadallah, & Dumais, 2015). A nuestro juicio, los motores visuales más acreditados son Google Images, TinEye, ImageBrief, Image Raider, Yandex Images, WeSee. Algunos motores de imágenes están especializados por RRSS, wikis o fototecas: Veezzle (social media), Compfight (Flickr), CC Search (Creative Commons), Exalead (Wikipedia) o Foter (buscador de fotografías gratuitas)
Frente a las informaciones falsas que circulan por la red, son especialmente útiles los medios periodísticos de calidad que verifican las noticias en las páginas web de fact checking. Los buscadores de imágenes también incorporaron este sistema de verificación para detectar información visualmente engañosa. Google Imagen lo hizo agregando etiquetas de verificación de datos a las imágenes. Estos sistemas de verificación de datos visuales se diseñaron con la posibilidad de detectar los deepfakes (Johnson & Diakopoulos, 2021).
Los deepfakes se basan en programas de inteligencia artificial (face swapping GAN) que generan imágenes y vídeos falsos con un elevado grado realista a partir de repertorios visuales digitales de personas diferentes. En las RRSS y en las redes interpersonales circulan estos fenómenos visuales originados a partir de la inspiración popular sin la intervención de robots. En este caso, los algoritmos de optimización de las RRSS (filter bubbles) trabajan para la visualidad contactando individuos que coinciden en el perfil psicológico (orientación política, estilo de vida, preferencias sociales, hábitos de vida) y orientando la circulación de imágenes entre individuos que comparten el mismo universo vital en la red.
Para la innovación de las comunidades digitales se desarrollaron numerosas estrategias de folcsonomía (collaborative tagging, social classification, social indexing, social tagging) que permiten el etiquetado social de personas con la finalidad de intensificar las formas colaboración, interacción y participación en la red (Tapscott & Williams, 2008; Pisano and Piotet, 2009; Mahaphol & Jetter, 2014). En los grupos (o comunidades virtuales) los sistemas basados en la mensajería instantánea (p. ej. WhatsApp Web) permiten a los usuarios la decisión de con quien quieren crear un grupo o una microcomunidad para el intercambio de imágenes.
Estas imágenes permutadas es actualmente una vía de conocimiento sobre la utilización de los sistemas inteligentes en procesos de socialización (participación, colaboración, cooperación) y en la detección de técnicas de manipulación de la opinión, como sockpuppeting, en la que un particular maneja a varios usuarios títeres que siempre acuden a la cuenta central. Por ello, en estos contactos interpersonales, la confianza reemplaza a la noción epistémica de verdad: “La regla que aplicamos parece ser así: lo que es congruente conceptual y sensorialmente puede ser fiado y lo que puede ser fiado es verdadero” (Hoorn, 2012, p. 23).
Hoorn parece demostrarnos que la razón para aceptar la verdad y llamarla realidad debe engendrar confianza, una confianza basada en la recepción sensorial y en la confirmación de conceptos que hasta entonces no se han demostrado ser erróneos, es decir, todavía la teoría no estaba en desacuerdo con los datos (Visvizi & Lytras, 2019). Así es posible explicar la nueva concepción informacional de la visualidad, una compleja red de interpretación de las formas visuales gestionadas por algoritmos inteligentes que interaccionan en las comunidades virtuales.
6. Una visualidad operativa.
La visualidad que rastrea los algoritmos inteligentes en las redes obedece a categorizaciones de imágenes y usuarios. Raieli y Giles (2013, pp. 103-104) explican la importancia de la gestión inteligente entre la temática de la imagen y el perfil del usuario (psicológico, profesional, político, religioso). De este modo, los algoritmos conocen, mediante una comparación semántica, la relación entre una imagen artística y un artista, una imagen corporativa de empresa y un publicista y una imagen microscópica con un microbiólogo.
Analizando los resultados de la categorización, Enser y Sandom relatan cómo en los distintos encuentros entre las imágenes y los usuarios siempre hay la “realización de una imagen diferente para cada contenido semántico”. Así, cada usuario tiene un valor semántico diferente al que le corresponde una imagen según su sensibilidad y sus cualidades intelectuales. El significado de cada interpretación, por tanto, será el resultado de la relación —diferente cada vez— entre la calidad del usuario y las características del documento, y ninguna de ellas puede considerarse un valor invariable para cada tipo de búsqueda. (Raieli y Giles 2013, p. 104)
Entre las imágenes que se pueden rastrear, se diferencian dos categorías de reproducciones documentales de la realidad:
a) imágenes con un propósito general de conservar datos documentales b) imágenes cuyo propósito especial es la reproducción fiel de una parte de la realidad para fines predefinidos.
Además, también distinguimos por la clase de datos visuales varios tipos de imá- genes:
1) las “imágenes creativas” comprenden las imágenes realistas y las que son totalmente abstractas, según la elección creativa.
2) las “imágenes modélicas” funcionan como patrón para producir representaciones de cosas y de fenómenos.
3) las “imágenes en movimiento” incluyen las anteriores categorías, pero no sólo abarcan las imágenes fijas, sino también las que están en movimiento.
Los algoritmos inteligentes organizan un sistema de conexiones en el que las imá- genes afines constituyen un modelo visual complejo. Ese modelo complejo resulta a partir de relaciones espaciales (p.ej.: la distancia que separan varios objetos), causales (un acontecimiento es un factor que desencadena otro), informativas (corresponde a una información que circula de un objeto a otro) o energéticas (su relación consiste en el flujo de energía entre los objetos).
En cuanto a los tipos de usuarios que distinguen Raieli y Giles, reconocen dos clases:
El especialista se aplica a todas las categorías de imágenes y tiene una relación precisa intelectual y práctica con ellas; el generalista, a menudo no tiene ninguna relación con las imágenes documentales, pero si la tiene de forma variable y sin identificar con las restantes categorías (2013, p. 104)
Cada usuario llega a un valor semántico diferente para cada imagen según su sensibilidad y sus cualidades intelectuales.
Algunos buscadores, como es el caso de Google, disponen de algoritmos para la búsqueda segura, filtrando los contenidos de imágenes, vídeos, webs en todas las consultas de acuerdo con el perfil del usuario. Son filtros diseñados para bloquear contenidos explícitos como la pornografía o las imágenes crueles e inhumanas. En el caso concreto de Google, permite crear segmentos o audiencias a partir de usuarios.
Este modelo de visualidad convierte los datos visuales en relaciones o patrones de reglas que obedecen a conductas o deseos humanos (Hargittai & Sandvig, 2015; Shaila y Vadivel, 2018). Las máquinas automatizan los procesos de extracción de los datos que han aumentado con el paradigma big data obedeciendo a determinados criterios. Sin embargo, la complejidad algorítmica impide el conocimiento de las intenciones con las que fueron concebidos estos criterios de recolección de datos. Solo se podría acceder a los incentivos que motivaron su creación.
La obtención de datos mediante imágenes clasificadas, ordenadas o tipificadas por algoritmos también pasan por esta ingeniería social que se ha denominado algoritmos de caja negra (Wei, Xiaofeng & Weiyi, 2010; Pasquale, 2015). Todos los algoritmos inteligentes están diseñados con intenciones humanas desconocidas para sus usuarios y pueden obedecer a normas sociales, políticas o principios éticos o morales de los ingenieros programadores. También se desconoce el éxito de los resultados que obtienen los algoritmos, o incluso el alcance de los valores compartidos por las RRSS o el stakeholder de una empresa (Ntoulas, Zerfos & Cho, 2005).
7. La investigación social basada en la visualidad algorítmica.
La visualidad algorítmica ha transformado la noción históricamente construida del trabajo de campo en los estudios sociales. El campo virtual coloca al investigador entre el mundo conectado y desconectado. La mediación algorítmica requiere de dos tipos de conocimiento simultáneamente: “la precisión indirecta estructural de las ciencias complementada por la experiencia y el mundo relacional de los vínculos sociales en una cartografía cultural” (Fisher, 1999).
Actualmente, la investigación social en internet se preocupa de cómo estudiar mejor los nuevos fenómenos del mundo virtual. Para ello se propone esencialmente cuatro líneas claves en estrategias metodológicas: 1) trabajar juntos con otros métodos de investigación existentes; 2) alternar con otros métodos y diseños innovadores; 3) triangular los métodos seleccionados; 4) apoyarse en tres métodos predominantes en la investigación en ciencias sociales: el positivista, interpretativo y la aproximación crítica a las investigaciones empíricas (Estrella Heredia, 2014, p. 40).
La observación científica debe diferenciar el escenario donde desarrollará el trabajo de campo. El campo del investigador es más singular en las RRSS donde la dimensión subjetiva es un factor siempre a considerar. La irrupción de un componente afectivo dinamiza el corpus de las muestras digitales creadas y perfeccionadas por los usuarios. Paralelamente, en estos escenarios de conexión, la autoexpresión está cada vez más entrelazada con una dimensión social, que va desde paradigmas de cocreación hasta formas de expresión interactivas (Bräuchler & Postill, 2010; Boellstorff, Nardi, Pearce & Taylor, 2012).
Para estudiar el conjunto de imágenes que componen esta visualidad algorítmica se aborda el problema de la distancia disciplinar en relación con el retraso temporal de los planteamientos que conciernen a la cultura visual y a la inteligencia artificial. En la práctica, el estudio se complica cuando las imágenes poseen la autonomía de un organismo cibernético, y los filtros que gobiernan a las imágenes dependen de algoritmos inteligentes que perfeccionan su conocimiento sobre los intereses humanos o de grupos humanos.
La investigación se desplaza de una sociología visual a lagunas temporales que se sostienen por una falta de diálogo interdisciplinar (Hine, 2004; Mitchell, 2011; Margolis & Pauwels, 2011; Spencer, 2011; Pink, 2012; Pink, 2015; Pink, Horst, Postill, Hjorth, Lewis & Tacchi, 2016; Gómez Cruz et al., 2017; Frömming, Köhn, Fox & Terry, 2017). Las disciplinas generan ventanas que impiden ver más allá de su marco. Sin embargo, no se trata del abandono de las posturas propias de las disciplinas, sino más bien de encontrar espacios de intercambios o diálogos útiles multidisciplinares. Existen motivos tanto epistémicos como fenoménicos para justificar esta multidisciplinariedad, ya que además nutren cada disciplina individualmente.
El diseño de los algoritmos por la ingeniería se ve reforzado por las ciencias sociales y humanidades (Horst & Miller, 2012). Después de todo, como hemos mostrado en anteriores líneas, el análisis visual busca formalizar las similitudes entre las entidades del mundo real y el mundo virtual mediante el raciocino de la inteligencia artificial. A menudo, los resultados de un estudio social a partir de la visualidad algorítmica nos llevan al reconocimiento de relaciones contingentes y culturales muy específicas. Para Fisher (1999) los estudios etnográficos en la posmodernidad se desenvuelven en tres ámbitos que se superponen: la descolonización, la poscolonización y el trauma social de las guerras mundiales y de las recientes guerras étnicas que han provocado una migración masiva. Por su parte, Spencer ratifica el valor epistémico de la cultura visual:
El enfoque de la “cultura visual” como área de estudio viable reconoce la realidad de vivir en un mundo de mediación cruzada; nuestra experiencia de contenidos visuales culturalmente significativos, formas múltiples y fluidas, y códigos que migran de una forma a otra, están provocando cambios profundos y dinámicos en los sistemas humanos sociales. (Spencer, 2011, p. 12)
El material que podemos encontrar en la visualidad algorítmica ofrece otras oportunidades a la investigación social. No es como la observación de las imágenes en la calle (p. ej.: fotografiar una muestra representativa de grafiti para un proyecto de identidad de jóvenes urbanos). El mundo virtual posee otros objetos más difíciles de controlar por la censura local y el bloqueo burocrático. Estos objetos (memes, stickers, gif, emojis) demuestran los cambios de principios del siglo XXI que produce internet como “icono de desterritorialización y descentralización de sistemas vitales, y de generación de metáforas ricas, nuevas, humorísticas, y fértiles para tratar la cultura, la sociedad y la persona, la realidad y la simulación, la identidad y la multiplicidad” (Fisher, 1999, p.49).
Este contexto de la producción de virtualidades es diferente; aquí los propios actores sociales construyen su imaginario visual. Sirva de ejemplo la producción gráfica de los recientes movimientos sociales como la circulación de caricaturas durante el movimiento “La Primavera Árabe” (Flores Borjabad, 2019). A los gobiernos les resulta difícil intervenir el tráfico de información a través de la red, ya que los ciberactivistas saben cómo sobrepasar sus controles (Hofheinz, 2005). Por ello, internet y la visualidad algorítmica se han transfigurado en una esfera pública alternativa que organiza un espacio idóneo para la creación cultural, al mismo tiempo que estimula la sociedad hacia la movilización (Liu, 2013). Mitchell reflexiona también en el mismo sentido, matizando esta idea de nuevas formas de objetualidad y territorialidad:
La convergencia de las tecnologías genéticas y computacionales con las nuevas formas de capital especulativo ha convertido el ciberespacio y el bioespacio (la estructura interna de los organismos) en fronteras para la innovación técnica, la apropiación y la explotación — nuevas formas de objetualidad y territorialidad — para una nueva forma de imperio. (Mitchell, 2017, p. 385)
Las imágenes no son inocentes, como tampoco lo es su contemplación. Además de analizar las imágenes, es útil implicarse con los actores de la creación. La comunicación mediada por ordenador ofrece también un escenario visual para la teoría social a partir de las nuevas propiedades mediáticas: simulación, inmersión, interactividad, multimedialidad. La visualidad algorítmica proporciona materiales nuevos a partir del cambio de paradigma morfogenético de la imagen, es decir, del paso de la reproducción mecánica (ilustración, fotografía, cinematografía y demás procesos industriales asociados, como la impresión) a una era de la reproducción biocibernética (algoritmos inteligentes, realidad virtual, vida artificial, internet y la industrialización de una ingeniería genética) (Mitchell, 2017).
Además, en este contexto biocibernético, las cualidades genéticas de las imá- genes explican cómo es la apertura a una interpretación social derivada de la inteligencia artificial. La organización generativa de la imagen tiene más valor que su repercusión estética, es en lo que coincidimos con Moxey: “la estructura de la imagen es en sí misma partícipe de la creación de significado” (2015, p. 156). La interpretación creativa de la visualidad implicada en la investigación social es ahora un acto reflexivo compartido con los cálculos de los algoritmos que perfeccionan el mismo proceso (machine learning).
Las redes neuronales antagónicas se basan en dos redes neuronales que compiten entre ellas para aprender sin supervisión (Manaswi, 2020). La producción de estas redes es compartida en interacción con el observador humano. Así se logran nuevas formas de interpretación creativas en prácticas participativas con las inteligencias artificiales.
8. Formas algorítmicas de ver.
Hablamos de visión artificial desde la mecanización de la producción de imágenes. Virilio (1994) se fijó en las implicaciones de las cámaras espías capturando imágenes aéreas en los vuelos militares de reconocimiento durante la Guerra Mundial. El concepto de visión se desnaturalizó, porque las máquinas procuraban imágenes imposibles de percibir por la mirada humana. Desde entonces, las imágenes meteorológicas realizadas con cámaras desde los satélites artificiales o las imágenes diagnósticas (rayos X, tomografías computarizadas, estudios de medicina nuclear, imágenes por resonancia magnética, ecografías) ofrecen una visión artificial exclusiva de las posibilidades técnicas de las máquinas. El siguiente paso de estas imágenes invisibles al ojo humano ha residido en las posibilidades proporcionadas por los algoritmos inteligentes, el crecimiento de la capacidad de computación y el avance de la tecnología de redes neuronales.
Las imágenes invisibles que habitan hoy los sistemas de visión algorítmica no representan huellas de significación de un pasado no-vivido. Funcionan, en cambio, como soportes de información destinados a activar o desactivar determinadas operaciones en el interior de un conjunto técnico. (Celis Bueno, 2020, p. 32)
Los sistemas de visión artificial realizan actualmente diferentes funciones, incluso algunas, superando las competencias humanas:
a) Automatizan tareas cotidianas que eran exclusivamente humanas, como la conducción autónoma de un vehículo, accionando operaciones concretas (acelerar, detenerse, girar, etc.) en el interior de un conjunto técnico altamente complejo (el sistema de tránsito urbano).
b) Identifican y localizan personas en las RRSS o en imágenes capturadas de multitudes (manifestaciones, aeropuertos, campos de fútbol) e incluso monitorizan sus movimientos corporales en eventos deportivos para actuar de árbitros.
c) Reconocen los sentimientos y las emociones humanas mediante el estudio de los gestos faciales o la posible disposición a una reacción violenta de la persona por su posición corporal. Mediante el estudio de la sonrisa, la inteligencia artificial podrá reconocer lo que agrada a las personas o cuál es el grado de deseo frente a lo que ven, suministrando información a la publicidad estratégica (Stathopoulou & Tsihrintzis, 2010).
d) Crean humanos virtuales utilizando la visión artificial y el análisis de la prosodia para que respondan en tiempo real a las expresiones corporales, faciales, también a los gestos, a las miradas, a las actitudes y señales emocionales con la finalidad de crear una empatía y un sentido de compenetración con los seres humanos.
El modelado de las emociones es otro aspecto de la visualidad algorítmica que da forma a cómo percibimos el mundo, cómo interpretamos en la comunicación interpersonal y tomamos decisiones que afectan a los demás. En el contexto de los entornos virtuales educativos es una tecnología que ensaya con las reacciones de los alumnos para crear una experiencia más inmersa. Lo cual ha llevado a pensar que las teorías psicológicas pueden realizarse mediante modelos computacionales de trabajo que desvelen suposiciones ocultas y fabriquen artefactos dinámicos que sean objeto de estudio empírico.
Estos avances tecnológicos en la visualización de emociones y sentimientos vienen estrechamente vinculados a controversias heredadas del pasado en la cultura visual. Las vicisitudes de la experiencia visual trazan una historia de las imágenes, pero al mismo tiempo, nos plantean una historia a través de las imágenes. Las formas de ver no se limitan solo al reconocimiento, sino que se tornan en punto de referencia y término de comparación. La visión artificial conlleva otros fenómenos sociales que conciernen a la ética (Miernicki & Ng Huang Ying, 2021). La vida moral se ha convertido en materia formateada por las máquinas; ha hecho de la ética una técnica que obedece a una ley de logros que termina por corromper el juicio ético.
El juego con las emociones y los sentimientos ha implicado a la ética cuando las acciones se encaminan hacia el daño moral. Es el caso del doxing (Trottier, 2020) revelando desde el anonimato imágenes privadas (o información personal) en las RRSS con el objetivo de la extorsión, o, por el contrario, con una finalidad política al asociarse a determinadas actividades hacktivistas (p.ej. denunciar la corrupción política protegidos de la represión gubernamental).
La visualidad algorítmica también toma un mal camino en la Web Deep o Darknet, una red superpuesta dentro de internet a la que se accede mediante software específico (p. ej. Tor) y en la que se almacenan imágenes prohibidas (pornografía infantil, violencia visual), además de otros contenidos ilícitos (Hatta, 2020). Posicionar la visualidad en este medio virtual supone desarticular la confianza visual iconofílica ante el peligro herético que se halla en la imagen manipulada por la inteligencia artificial.
El escenario de una inteligencia artificial no es evidencia técnico-cultural de que la mirada humana no se halle también aquí bajo unas reglas sociales (o antisociales) de atención. La forma de ver es el reto de la inteligencia artificial que en su labor de ofrecer evidencias humanas indaga en el procesamiento computacional de la naturaleza humana. Las emociones, los sentimientos, la misma acción de reconocimiento de otros seres humanos, la creación de identidades y sus cualidades humanas (la dignidad, la honestidad, la sinceridad) integra una parte de la tradición iconofílica, así también en su ejercicio contrario: la destrucción de lo anterior implica la incorporación de un orden iconoclasta a la visualidad algorítmica.
9. Consideraciones finales.
A la luz de lo expuesto se pueden extraer las siguientes conclusiones. La visualidad algorítmica supone un nuevo paradigma en la cultura visual cuya cualidad más sobresaliente es su fenomenología basada en la percepción artificial y en el sentido ordenado por los algoritmos inteligentes de lo percibido. Es posible reconocer una transformación de la visualidad si aceptamos que la interpretación del mundo que partía inexorablemente de la interacción visual entre el cuerpo del ser humano y su medio ambiente, es reemplazada por la interacción de sistemas inteligentes con el entorno. La nueva dominación de las imágenes sugiere otras formas distintas de subjetividades no humanas que se entrecruzan en intersubjetividades con los significados creados por los humanos.
La mediación cultural explicada a través de la fisiología de la experiencia visual humana, y concretamente, las limitaciones de las capacidades del ojo, es superada actualmente por las capacidades superiores de la visión artificial. Sin embargo, estos desarrollos tecnológicos han originado un clima de incertidumbres con su facilidad para la creación de simulaciones. Entre otras consecuencias, las formas de ver de los algoritmos inteligentes han reavivado el debate de la veracidad de las visiones y las imágenes artificiales. Las distintas formas de manipulación de la credibilidad, autenticidad y veracidad de las imágenes fueron advertidas en el pasado por San Pablo contra el speculum oscurum, pudiéndose entender en este trabajo como la desconfianza que también surge del “cristal obscuro” de la inteligencia artificial.
No obstante, el horizonte tecnológico apunta hacia el descubrimiento de importantes conocimientos multidisciplinares sobre los comportamientos humanos en los mundos virtuales de los que conocemos poco, y, a la vez, ayudarnos a obtener conclusiones de esos mundos de forma que nos faciliten explicar otros. Estos conocimientos sólo pueden conseguirse desde la observación detallada de las emergentes innovaciones tecnológicas, estudiándolas en el curso de su funcionamiento cotidiano.
En una cultura visual conquistada por la ingeniería inteligente, observar a las máquinas en su trabajo también significa enfrentarse a la realidad virtual en la que constantemente los dispositivos artificiales interactúan con las entidades de la naturaleza. Las máquinas inteligentes, como hemos mostrado, no solo aportan conocimiento del mundo, sino que han aprendido a su reconocimiento: la consciencia de que “esto es aquello”. La lógica del reconocimiento visual del objeto ha convertido paradójicamente la identificación en información gestionada sobre la relación de semejanza entre lo real y la presencia virtual. Se puede pensar la imagen, entonces, en tanto entidad informacional que aparece a la visión humana mediante un soporte algorítmico.
La visualidad algorítmica diseña el proceso de la percepción basándose en modelos de comportamientos humanos, cómo piensan, miran, razonan e interactúan las personas en sus actividades cotidianas. Afrontar las nuevas realidades visuales en un espacio virtual gestionado por inteligencia artificial está permitiendo conocer otros aspectos políticos, estéticos, éticos y comunicacionales de nuestras sociedades. En resumen, la visualidad algorítmica es un campo de investigación social en continua transformación y sola una cuidadosa observación y registro de lo que hacen los nuevos sistemas algorítmicos aportarán ricos frutos intelectuales.
Finalmente, queremos señalar que no descubriremos el significado de las imágenes solo analizando lo que muestran en este bisoño paradigma posrepresentacional. Ni el sentido, ni la historia nos aproximan a las nuevas imágenes. La visualidad algorítmica es información interior de un sistema de relaciones neomaterialistas basado en las presencias virtuales y en un marco normativo no humanista. La información que transmite esta visualidad no puede ser considerada como una cosa, sino como la realización de una cosa que llega a un sistema y que produce allí una conversión. Por ejemplo, la visión artificial percibe un error en la fabricación de una pieza industrial y procede a su eliminación de la cadena de producción. Por ello, la información debe entenderse aquí como energía de un sistema, y la visualidad algorítmica, como un cambio de estado energético cuya función es la transformación del estado estable de una realidad dada.
Referencias.
Andrejevic, M. & Volcic, Z. (2021). “Smart” Cameras and the Operational Enclosure. Television & New Media, 22(4), 343-359. https://doi.org/10.1177/1527476419890456
Bal, M. (2003). Visual essentialism and the object of visual culture. Journal of Visual Culture. 2(1), 5-32.
Boellstorff, T., Nardi, B., Pearce, C. & Taylor, T.L. (eds.) (2012). Ethnography and Virtual Worlds: A Handbook of Method. Princeton: Princeton University Press.
Braidotti, R. (2015). Lo posthumano. Gedisa.
Bräuchler, B. & Postill, J. (eds.) (2010). Theorising Media and Practice. Oxford: Berghahn.
Brodić, D. & Amelio, A. (2020). The CAPTCHA: Perspectives and Challenges Perspectives and Challenges in Artificial Intelligence. Springer International Publishing.
Bryson, N., Holly, M. A. and Moxey, K. (comp.) (1994). Visual Culture. Images and interpretations. Wesleyan University Press.
Buckels, E. E., Trapnell, P. D. & Paulhus, D. L. (2014). Trolls just want to have fun. Personality and Individual Differences, 67, 97-102. doi: 10.1016/J.PAID.2014.01.016
Carroll, T. W. (2021). Social protest photography and public history: “Whose streets? our streets!”: New york city, 1980-2000. Journal of the History of the Behavioral Sciences, 57(1), 34-59. doi:10.1002/jhbs.22082
Celis Bueno, C. (2020). La allagmática en cuanto disciplina poshumanista: nuevas metodologías para el estudio de las imágenes en el contexto de las máquinas de visión algorítmica. Revista 180, 46, 26-37. doi: http://dx.doi.org/10.32995/rev180. Num—46. (2020).art-692
Crary, J. (2008). Suspensiones de la percepción. Atención, espectáculo y cultura moderna. Akal.
Del Castillo, C. (15 de septiembre de 2020). Una red de 672.000 bots operó en Facebook para manipular a la opinión pública española durante la pandemia. elDiario.es. Recuperado de: https://www.eldiario.es/tecnologia/red-672-000-bots-opero-facebook-manipular-opinionpublica-espanola-durante-pandemia_1_6221713.html
Dyke, R.M.V. (2006). Seeing the Past: Visual Media in Archaeology. American Anthropologist, 108, 370-375. https://doi.org/10.1525/aa.2006.108.2.370
Estrella Heredia, C. (2014). Antropología de los mundos virtuales: avatares, comunidades y piratas digitales. Ediciones Abya-Yala.
Figueras-Ferrer, E. (2021). Reflexiones en torno a la cultura digital contemporánea. Retos futuros en educación superior. Arte, Individuo Y Sociedad, 33(2), 449-466. https://doi. org/10.5209/aris.68505
Flores Borjabad, S. A. (2019). Comunicación en imágenes en las sociedades árabes la caricatura y su posverdad. Ámbitos. Revista Internacional de Comunicación 45, 82-202. doi: 10.12795/Ambitos.2019.i45.11
Foster, H. (1988). Vision and Visuality. Bay Press.
Freedberg, D. (2020). Las máscaras de Aby Warburg. Victoria-Gazteis. Sans Soleils.
Frömming, U., Köhn, S., Fox, S. & Terry, M. (eds.). (2017). Digital Environments: Ethnographic Perspectives Across Global Online and Offline Spaces. Transcript Verlag. efigu g ig ig International Publishing.
Gorwa, R. & Guilbeault, D. (2020). Unpacking the Social Media Bot: A Typology to Guide Research and Policy. Policy and Internet, 12(2), 225-248. https://doi.org/10.1002/ poi3.184
Grimshaw, A. & Ravetz, A (eds.) (2004). Visualizing Anthropology: Experimenting with Image-Based Ethnography. Bristol: Intellect Books Ltd.
Gusenbauer, M, Haddaway, N. R. (2020). Which academic search systems are suitable for systematic reviews or meta-analyses? Evaluating retrieval qualities of Google Scholar, PubMed, and 26 other resources. Research Synthesis Methods, 11: 181-217. https://doi. org/10.1002/jrsm.1378
Hargittai, E. & Sandvig, C (eds.) (2015). Digital Research Confidential: The Secrets of Studying Behavior Online. MIT Press.
Hatta, M. (2020). Deep web, dark web, dark net: A taxonomy of “hidden” Internet. Annals of Business Administrative Science, 19(6), 277-292. https://doi.org/10.7880/abas.0200908a
Hine, C. (2004). Etnografía virtual. UOC.
Hofheinz, A. (2005). The Internet in the Arab world: Playground for political liberalization, International Politics and Society, 3(1), 78-96.
Hoorn, J. (2012). Epistemics of the virtual. John Benjamins Pub. Co.
Horst, H. & Miller, D. (eds.) (2012). Digital Anthropology. London: Bloomsbury.
Hoskins, J. (1998). Biographical Objects: How Things Tell the Stories of People´s Lives. Routledge.
Jakobsson, M. (2012). The death of the internet. Hoboken. John Wiley & Sons.
Jay, M. (2007). Ojos abatidos. La denigración de la visión en el pensamiento francés del siglo XX. Akal.
Johnson, D. G. & Diakopoulos, N. (2021). What to do about deepfakes. Communications of the ACM, 64(3), 33-35. doi:10.1145/3447255
Kapantai, E., Christopoulou, A., Berberidis, C. & Peristeras, V. (2020). A systematic literature review on disinformation: Toward a unified taxonomical framework. New Media & Society. https://doi.org/10.1177/1461444820959296
Knochel, A. (2013). Assembling Visuality: Social Media, Everyday Imaging, and Critical Thinking in Digital Visual Culture. Visual Arts Research, 39(2), 13-27. doi:10.5406/ visuartsrese.39.2.0013
Kollanyi, B., Howard, P. N. & Woolley, S. C. (2016). Bots and automation over Twitter during the U.S. election. Project on Computational Propaganda. Recuperado de: http://comprop. oii.ox.ac.uk/2016/11/17/bots-and-automation-over-twitterduring-the-u-s-election/
Laurelle, F. (2020). Principios de la no-filosofía. Editorial Materia-Oscura.
Lehmann, T. M., Güld, M. O., Thies, C., Plodowski, B., Keysers, D., Ott, B. & Schubert, H. (2004). IRMA-content-based image retrieval in medical applications. Studies in health technology and informatics, 107(Pt 2), 842-846.
Li, K.-C. et al. (2019). Advances in Cyber Security: Principles, Techniques, and Applications. Springer Singapore.
Liu, S. (2013). “The Cyberpolitics of the governed”. Inter Asia Cultural Studies, 14 (2), 252-271.
Mahaphol, I. & Jetter, A. (2014). Does personality matter for contributions to online communities? Proceedings of PICMET ‘14 Conference: Portland International Center for Management of Engineering and Technology; Infrastructure and Service Integration, 1966-1973.
Manaswi, N. K (2020). Generative Adversarial Networks with Industrial Use Cases. BPB Publications.
Margolis, E. & Pauwels, L. (2011). The SAGE handbook of visual research methods. SAGE.
Marín, A. & Contreras, F. (2020). The new research techniques in visual communication: a methodological proposal of videography. Revista Lusófona de Estudos Culturais/ Lusophone Journal of Cultural Studies, 7 (1), 127-147
Messina, N., Amato, G., Carrara, F., Falchi, F. & Gennaro, C. (2020). Learning visual features for relational CBIR. International Journal of Multimedia Information Retrieval, 9(2), 113-124. https://doi.org/10.1007/s13735-019-00178-7
Miernicki, M. & Ng Huang Ying, I. (2021). Artificial intelligence and moral rights. AI and Society, 36(1), 319-329. doi:10.1007/s00146-020-01027-6
Mitchell, C. (2011). Doing visual research. Claudia Mitchell.
Mitchell, W. J. T. (2017) $\dot { \zeta } ^ { \mathrm { Q u e } }$ quieren las imágenes? Vitoria-Gazteiz: Sans Soleil.
Mondzain, M-J. (2015). Homo spectator. Ver $>$ Fazer ver. Orfeu Negro.
Moxey, K (2015). El tiempo de lo visual: la imagen en la historia. Barcelona: Sans Soleil.
Ntoulas, A., Zerfos, P. & Cho, J. (2005). Downloading textual hidden web content through keyword queries. In ACM/IEEE-CS Proceedings of the 5th Joint Conference on Digital Libraries (pp. 100-109). ACM.
Ødegaard, E. & Myrstad, A. (2020). Visualising Epistemological Perspectives. Video Journal of Education and Pedagogy, 2019(2), 147-163. https://doi.org/10.1163/23644583- bja10001
Odijk, D., White, R. W., Awadallah, A. H., & Dumais, S. T. (2015). Struggling and success in web search. Paper presented at the International Conference on Information and Knowledge Management, Proceedings, 19-23-Oct-2015, 1551-1560. doi:10.1145/2806416.2806488
Pasquale, F. (2015). The black box society: the secret algorithms that control money and information. Harvard University Press.
Peco, R. (21 de abril de 2020). La invasión de ‘bots’ al Facebook de Sanidad pudo ser realizada por cualquiera. La Vanguardia. Recuperado de: https://www.lavanguardia.com/ tecnologia/20200421/48669676968/ministerio-de-sanidad-facebook-bots-seguidoresfalsos-campana-redes-sociales-desinformacion-moncloa-gobierno.html
Pérez Álvarez, S. (2007). Sistemas CBIR: recuperación de imágenes por rasgos visuales. Trea.
Piñero-Otero, T. y Martínez Rolán, X. (2020). Para comprender la política digital. Principios y acciones. Vivat Academia. Revista de Comunicación, 152, 19-48. https://doi. org/10.15178/va.2020.152.19-48
Pink, S. (2004). Guest editor’s introduction: applied visual anthropology social intervention, visual methodologies and anthropology theory. Visual Anthropology Review, 20, 3-16. https://doi.org/10.1525/var.2004.20.1.3
Pink, S. (2012). Doing visual ethnography: images, media, and representation in research. Los Angeles: Sage.
Pink, S. (2015). Doing sensory ethnography. Sage.
Pink, S. & Lanzeni, D. (2018). Future anthropology ethics and datafication: Temporality and responsibility in research. Social Media and Society, 4(2) doi:10.1177/2056305118768298
Pink, S., Horst, H., Postill, J., Hjorth, L., Lewis, T. y Tacchi, J. (eds.) (2016). Digital Ethnography. Principles and Practice. Sage
Pisano, F. and Piotet, D. (2009) La alquimia de las multitudes: cómo la web está cambiando el mundo. Paidós.
Pombo, O., Di Marco S. & Pina, M. (Org.) (2010). Neuroaesthetics. Can science explain art? Lisboa: Centro de Filosofía das Ciências da Universidade de Lisboa.
Raieli, R. (2013). Multimedia information retrieval : theory and techniques. Philadelphia, PA: Chandos Pub., an imprint of Woodhead Pub.
Reagle, J. M. (2015). Reading the comments: likers, haters, and manipulators at the bottom of the Web. Cambridge, Massachusetts: The MIT Press.
Rodríguez-Vaamonde, S., Torres-Bastida, A.-I., & Garrote, E. (2014). Tecnologías big data para análisis y recuperación de imágenes web. El Profesional de la Información, 23(6), 567-574. https://doi.org/10.3145/epi.2014.nov.02
Rogers, R. & Niederer, S. (2020). The politics of social media manipulation. In Rogers R. & Niederer S. (Eds.), The Politics of Social Media Manipulation (pp. 19-70). Amsterdam: Amsterdam University Press. doi:10.2307/j.ctv1b0fvs5.3
Rosa, H. (2020). Resonancia. Una sociología de la relación con el mundo. Buenos Aires: Katz.
Rosamond, E. (2020). From Reputation Capital to Reputation Warfare: Online Ratings, Trolling, and the Logic of Volatility. Theory, Culture & Society, 37(2), 105-129. https:// doi.org/10.1177/0263276419872530
Shaila S.G., Vadivel A. (2018). Intelligent Rule-Based Deep Web Crawler. In: Textual and Visual Information Retrieval using Query Refinement and Pattern Analysis. Springer, Singapore. Doi: 10.1007/978-981-13-2559-5_1
Shaila, S. G. & Vadivel, A. (2018). Textual and Visual Information Retrieval using Query Refinement and Pattern Analysis. Singapore: Springer Singapore.
Sierra Caballero, F. & Sola-Morales, S. (2020). Golpes mediáticos y desinformación en la era digital. La guerra irregular en América Latina. Comunicación y Sociedad, e7604, 1-31. doi: 10.32870/cys.v2020.7604
Sossa, Azuela J. H., Villegas Cortez, J, Avilés Cruz, C., González, A. C. y Vázquez, R. A. (2006). Los secretos para la búsqueda de imágenes en Internet, Conversus, 50, mayo, 24-29.
Spencer, S. (2011). Visual research methods in the social sciences awakening visions. New York: Routledge.
Stathopoulou, I. & Tsihrintzis, G (2010). Visual Affect Recognition. Amsterdam: IOS Press, Incorporated.
Tapscott, D. & Williams, A.D. (2008). Wikinomics: How Mass Collaboration Changes Everything. New York: Portfolio.
Trottier, D. (2020). Denunciation and doxing: Towards a conceptual model of digital vigilantism. Global Crime, 21(3-4), 196-212. doi:10.1080/17440572.2019.1591952
Turkle, S. (1996). Life on the screen: identity in the age of the internet. London: Weidenfeld & Nicolson.
Velkova, J. & Kaun, A. (2021). Algorithmic resistance: Media practices and the politics of repair. Information Communication and Society, 24(4), 523-540. doi:10.1080/136911 8X.2019.1657162
Verifica RTVE (22 de abril de 2020). Qué sabemos sobre la presencia de perfiles falsos en la cuenta de Facebook del Ministerio de Sanidad. RTVE. Recuperado de: https:// www.rtve.es/noticias/20200422/perfiles-falsos-facebook-ministerio-sanidad-verificacoronavirus/2012468.shtml
Virilio, P. (1994). The Vision Machine. Bloomington: Indiana University Press.
Visvizi A, Lytras MD (eds.) (2019). Politics and Technology in the Post-Truth Era. Bingley: Emerald Publishing Limited.
Wang, X. (2016). Visual material on social media. In Social Media in Industrial China, 57- 96. London: UCL Press.
Wei, L., Xiaofeng, M. & Weiyi, M. (2010). ViDE: A vision-based approach for deep web data extraction. IEEE Transactions on Knowledge and Data Engineering, 22(3), 447-460.
Zhang, X., Liu, X., Sarkodie-Gyan, T. et al. (2021). Development of a character CAPTCHA recognition system for the visually impaired community using deep learning. Machine Vision and Applications, 32, 29. doi: https://doi.org/10.1007/s00138-020-01160-8