# Imaginário e cultura da intolerância em plataformas algorítmicas

Julio Cesar Lemes de Castro

<figure><img src="image_1.png" /></figure>

► To cite this version:

Julio Cesar Lemes de Castro. Imaginário e cultura da intolerância em plataformas algorítmicas. Revista Contracampo - Brazilian journal of communication, 2021, 40 (1), 10.22409/contracampo.v40i1.47817. hal-03226573

HAL Id: hal-03226573

https://hal.science/hal-03226573

Submitted on 14 May 2021

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_2.png" /></figure>
Edição v. 40
número 1 / 2021

Contracampo e-ISSN 2238-2577
Niterói (RJ), 40 (1)
jan/2021-abr/2021

A Revista Contracampo é uma revista eletrônica do Programa de Pós-Graduação em Comunicação da Universidade Federal Fluminense e tem como objetivo contribuir para a reflexão crítica em torno do campo midiático, atuando como espaço de circulação da pesquisa e do pensamento acadêmico.

Imaginário e cultura da intolerância em plataformas algorítmicas

Imaginary and culture of intolerance on algorithmic platforms

JÚLIO CESAR LEMES DE CASTRO

Universidade de Sorocaba (UNISO) – Sorocaba, São Paulo, Brasil.
E-mail: julio@jlcastro.com.br. ORCID: 0000-0002-8961-2104.
Resumo

A cultura da intolerância, impulsionada pelo contexto político do hiperneoliberalismo, é relacionada neste artigo de articulação teórica, baseado em pesquisa bibliográfica, com o imaginário presente nas plataformas algorítmicas, nas quais se exerce hoje uma modalidade fundamental de governança. Embora manifestações de intolerância já estivessem presentes em momentos anteriores da Internet, o artigo pretende demonstrar como as plataformas, devido às peculiaridades de sua tecnologia e seu modelo de negócios, são ambientes ainda mais favoráveis a tais manifestações. Nesse sentido, certos aspectos de seu funcionamento, classificados como arena de atenção, onimediação desigual, exposição calibrada e veridição flexível, são vinculados a disposições que Lacan associa ao imaginário e à agressividade – respectivamente, narcisismo, identificação narcísica com líderes, segregação e paranoia.

Palavras-chaves

Intolerância; Discurso de ódio; Imaginário; Algoritmos; Plataformas.

Abstract

In this theoretical articulation based on bibliographic research, the culture of intolerance, driven by the political context of hyperneoliberalism, is linked to the imaginary present on algorithmic platforms, where a fundamental mode of governance is practiced today. While not ignoring past manifestations of intolerance on the Internet, this paper intends to demonstrate how these platforms are environments even more favorable for such manifestations, given the peculiarities of their technology and their business model. To this end, certain aspects of their operation, classified as arena of attention, uneven omnimediation, calibrated exposure and flexible veridiction, are related to dispositions that Lacan associates with the imaginary and aggressiveness – respectively, narcissism, narcissistic identification with leaders, segregation and paranoia.

Keywords

Intolerance; Hate speech; Imaginary; Algorithms; Platforms.
# Introdução

Este artigo parte do pressuposto de que os algoritmos funcionam como uma tecnologia de poder com impacto em diferentes esferas da vida social. Isso permite falar num modelo de governança algorítmica (CASTRO, 2018) como modalidade de governo de si e dos outros, na linha do que Foucault (2004a) denomina governamentalidade. O pano de fundo da governança algorítmica, que com ela se entrelaça, é o neoliberalismo hegemônico em escala mundial nas últimas décadas (CASTRO, 2016), tomado como uma racionalidade que perpassa tanto o sistema político e econômico quanto a subjetividade (FOUCAULT, 2004b).

A melhor ilustração desse tipo de governança encontra-se no que pode ser chamado de plataformas algorítmicas (CASTRO, 2019). Nesses aparatos, sob o controle de grandes corporações, as atividades e interações de cada usuário são rastreadas continuamente. Com base nos dados assim obtidos, são selecionados e hierarquizados os conteúdos com maior chance de o atraírem. Para nosso intento, vale salientar as plataformas que de algum modo servem de cenário para contendas de opinião, máxime de teor político, como o Google (incluindo os recursos sob seu guarda-chuva, como o YouTube), o Facebook e o Twitter.

A partir do colapso financeiro de 2008 e das medidas de austeridade que a ele se seguem, desencadeia-se uma crise de legitimação do neoliberalismo. O período atual, marcado pelo acirramento de facetas inerentes ao modelo neoliberal – a exploração, o autoritarismo e a desestabilização política –, pode ser qualificado como um hiperneoliberalismo, e é nesse cenário já conturbado que se inscrevem os transtornos trazidos pela pandemia da Covid-19 que eclode em 2020. Nas plataformas, a desestabilização política aparece como desinformação e cultura da intolerância, fortemente enredadas entre si.

Em outro trabalho, abordando justamente a desinformação, aprofundei-me em certos aspectos do funcionamento das plataformas que resultam da articulação entre sua tecnologia e seu modelo de negócios, classificados como arena de atenção, onimediação desigual e exposição calibrada (CASTRO, 2020d). Neste artigo de articulação teórica, escorado em pesquisa bibliográfica, esses três aspectos, somados a um quarto, a veridição flexível, são vinculados a disposições por parte dos usuários, respectivamente narcisismo, identificação narcísica com líderes, segregação e paranoia, que tornam as plataformas especialmente propícias à proliferação da cultura da intolerância. Tais disposições correspondem, nos termos de Lacan, ao imaginário, que se desdobra numa dimensão de agressividade e tende a ser inflacionado nas plataformas.

# Erosão da autoridade e imaginário

Nas primícias de sua trajetória intelectual, nos anos 1930, a publicação mais importante de Lacan (2001) é seu texto sobre os complexos familiares, escrito originalmente para a *Encyclopédie Française*. Partindo da análise de Durkheim (1975) acerca da passagem da família estendida pré-moderna para a família conjugal da modernidade, Lacan atribui à contração familiar uma mudança capital: se antes os papéis de modelo e de repressão eram cumpridos por pessoas diferentes, eles são agora acumulados pelo pai. Este passa a ser ao mesmo tempo o “pai que diz sim” e o “pai que diz não”, papéis internalizados, respectivamente, pelas instâncias que Freud denomina “ideal do eu” e “supereu”. Tal dualidade, que embaralha o exercício da lei encarnada na autoridade paterna, abrindo brecha para seu questionamento, é fonte tanto da neurose quanto da criatividade que definem a individualidade moderna.

Aqui se encaixam as reflexões de Lacan em torno do imaginário, que constitui um dos registros da experiência humana, ao lado do simbólico e do real, e se articula a partir do eu. O avanço da individualidade na modernidade corresponde ao avanço do imaginário, sublinhado em várias passagens. Para Lacan (1966a, p. 97), a fantasia do corpo dividido que precede a formação do eu é fixada por Bosch “em sua
ascensão no século XV para o zênite imaginário do homem moderno”.<fnref n="1" /> Em outro ponto, observa que a concepção pré-freudiana do eu “começa numa época que podemos situar por volta do meio do século XVI, início do século XVII” (LACAN, 1978, pp. 15-16).<fnref n="2" /> Afirma ainda que os *Pensamentos* de Pascal foram escritos na “aurora da era histórica do eu” (LACAN, 1966c, p. 283),<fnref n="3" /> que se situaria, portanto, ao redor de 1670.

Já em Freud (1967b, p. 257) o eu tem um alcance social, constituindo-se a partir da identificação com figuras externas e aparecendo assim como “um precipitado das catexias objetais abandonadas, que contém a história dessas escolhas de objeto”.<fnref n="4" /> Para Lacan, trata-se de identificações imaginárias, primeiro com a própria imagem especular e depois com pessoas semelhantes, balizadas por identificações simbólicas, com pessoas em posição de autoridade. Ora, no texto sobre os complexos familiares, Lacan (2001) aponta que a erosão da autoridade do pai na modernidade faz com que ele tenha dificuldade para encarnar a lei. Essa fragilidade da autoridade paterna certamente impacta o eu, estando estreitamente ligada às reflexões de Lacan sobre o imaginário, que se iniciam também nessa época e são tributárias da conjuntura histórica de ascensão do fascismo.

Nessas reflexões, sobressaem as vulnerabilidades do eu e os expedientes para remediá-las. Por ser produto de identificações externas, o eu é intrinsecamente alienado. Reagindo à percepção de sua própria alienação, ele tende a voltar-se para si mesmo, mantendo à distância a alteridade e a diferença. Isso se traduz em uma estrutura narcísica rígida e estática: o eu é comparável a uma “estátua”<fnref n="5" /> (LACAN, 1966a, p. 95), uma “armadura”<fnref n="6" /> (ibid., p. 97) ou um “campo fortificado”<fnref n="7" /> (ibid., p. 97). A postura defensiva desdobra-se em “uma agressividade como tensão correlata à estrutura narcísica”<fnref n="8" /> (LACAN, 1966b, p. 120). Mas há outras estratégias de defesa que equivalem a uma espécie de colonização do mundo exterior pelo eu. É o caso das identificações narcísicas com figuras de alguma forma semelhantes ao eu que ocupam posições de relevo. Essas figuras operam como prolongamentos através dos quais o eu adquire uma sensação vicária de poder, e por tabela como correia de transmissão da agressividade. Alternativamente, as identificações narcísicas com os pares formam grupos homogêneos. Na base desses grupos está a segregação, pois eles pressupõem a exclusão daqueles que são diferentes, convertidos em alvos de agressividade. Outro tipo de expansão do eu é a projeção, mecanismo típico da paranoia, quando certos impulsos internos são transferidos externamente e encarados de modo hostil, como ameaças. Ou seja, para defender-se de suas vulnerabilidades, o eu fecha-se para o exterior ou tenta moldá-lo a sua imagem; de um jeito ou de outro, evidencia-se a dimensão agressiva do imaginário.

O controle sobre os usuários nas plataformas algorítmicas é exercido em derradeira instância pelas corporações às quais elas pertencem, mas trata-se de um controle baseado na agência dos próprios usuários – um controle via agência (CASTRO, 2020c). Isso significa que os usuários são invariavelmente interpelados pela plataforma com base em sua atividade passada, mas contam com uma relativa latitude para agir, o que conduz à recalibragem contínua da interpelação. Assim, a autoridade existente nas plataformas, considerada seja em sua vertente de modelo, seja em sua vertente repressiva, é flexível. Nas

<footnote n="1">1 No original: "dans leur montée au siècle quinzième au zénith imaginaire de l'homme moderne".</footnote>

<footnote n="2">2 No original: "commence à une date que nous pouvons situer vers le milieu du seizième, début du dix-septième".</footnote>

<footnote n="3">3 No original: "l'orée de l'ère hlstorique du 'moi'".</footnote>

<footnote n="4">4 No original: "ein Niederschlag der aufgegebenen Objektbesetzungen ist, die Geschichte dieser Objektwahlen enthält".</footnote>

<footnote n="5">5 No original: "statue".</footnote>

<footnote n="6">6 No original: "armure".</footnote>

<footnote n="7">7 No original: "camp retranché".</footnote>

<footnote n="8">8 No original: "une agressivité comme tension corrélative de la structure narcissique".</footnote>
plataformas há oportunidades de ação, ou affordances (GIBSON, 2015), que circunscrevem seu uso (por exemplo, o limite de caracteres do Twitter), mas não há um padrão do que deve ser postado. Existem, por certo, restrições a determinados conteúdos (por exemplo, imagens de nudez no Facebook), mas somente pontuais. Diferentemente de um jornal com determinada linha editorial, não interessa em princípio às plataformas influenciar as opiniões políticas do usuário, mas simplesmente estimular sua participação. Concomitantemente a essa relativização da autoridade, há uma inflação do imaginário, com implicações em termos de agressividade. Vejamos as várias formas como isso se dá.

## Arena de atenção e narcisismo

Ao introduzir o conceito de “esfera pública”,<fnref n="9" /> no início da década de 1960, Habermas (1990) adverte-nos, já no título de sua obra, que se trata de uma “categoria da sociedade burguesa”<fnref n="10" /> sujeita a uma “mudança estrutural”.<fnref n="11" /> Essa mudança, para ele, consiste em um esvaziamento progressivo, a partir de fins do século XIX. Segundo Sennett (2002, p. 282-283), a tendência ao esvaziamento da esfera pública em prol do privado, que a coloniza, é reforçada pelos meios eletrônicos em geral e caminha *pari passu* com o narcisismo. Para Baudrillard (1988, p. 227-228), com as novas tecnologias temos o triunfo de Narciso sobre Édipo – o que em termos psicanalíticos equivaleria a uma expansão do imaginário às expensas do simbólico. Uma evolução nesse sentido pode ser rastreada na Internet.

Nos primórdios desta, os dispositivos de comunicação disponíveis – correio eletrônico (*e-mail*), lista de correio eletrônico (*mailing list*), grupo de notícias (*newsgroup*), bate-papo (*chat*) – não selecionam nem hierarquizam os conteúdos. Logo, se um usuário opta por utilizar determinado dispositivo, tudo que os outros participantes postam é-lhe apresentado na sequência em que foi postado. Nesse contexto, há meios benignos de chamar a atenção. É possível destacar-se, por exemplo, fornecendo voluntariamente informações e auxílio para outros participantes – a dita “economia do dom” ou “economia da dádiva”. Mas, no ambiente permissivo do ciberespaço, a atenção pode ser angariada de maneira agressiva, mediante transgressões das regras de convivência, como as práticas de *trolling*, *flaming*, *ranting*, *flooding* ou uso de identidades fictícias, que florescem nesse momento.

A busca por atenção envolve também questões de cunho prático. Numa quadra em que a publicidade ainda não tinha conquistado direito de cidade na Internet, o *spam* avulta como um expediente furtivo para atrair o interesse com finalidades mercantis. Com o surgimento da Web e a rápida multiplicação de seus endereços, ganham importância os mecanismos de busca (*Web crawlers*) e o ordenamento dos resultados por eles exibidos, embora nos primeiros mecanismos dessa natureza, como o Altavista, esse processo seja relativamente rudimentar. De qualquer modo, para conseguir que suas páginas ganhem realce, os responsáveis pelos *sites* recorrem a vários truques, nem sempre exatamente honestos.

O esforço para refinar as buscas, acoplado à exploração comercial, está na raiz do desenvolvimento da gestão de usuários via algoritmos pelo Google, que consolida o padrão de plataforma algorítmica e de economia de atenção. Sergey Brin e Lawrence Page (1998), que fundam o Google quando faziam doutorado em Stanford, inspiram-se na noção de fator de impacto vigente no âmbito acadêmico. O ranqueamento de uma página depende da quantidade e da qualidade dos *links* para ela, sendo que a qualidade de cada *link* oscila por sua vez com a quantidade e a qualidade dos *links* para si, e assim sucessivamente. O ranqueamento leva em conta também a popularidade da página, ou seja, quantos clicam nela quando ela figura entre os resultados. Há ainda uma customização dos resultados para cada usuário, ponderando suas consultas anteriores e o que mais lhe interessou nelas. E a customização de resultados conjuga-se à

<footnote n="9">9 No original: “Öffentlichkeit”.</footnote>

<footnote n="10">10 No original: “Kategorie der bürgerlichen Gesellschaft”.</footnote>

<footnote n="11">11 No original: “Strukturwandel”.</footnote>
customização de anúncios, que a eles se misturam.

Em outras plataformas algorítmicas, cujo modelo de negócios se estriba em publicidade (como o Facebook), em comércio eletrônico (como a Amazon) ou na venda de serviços (como a Netflix e o Spotify), deparamo-nos um tipo análogo de customização de conteúdos e de anúncios ou ofertas. Aquilo que cada um vê é selecionado e hierarquizado pelos algoritmos consoantes suas escolhas pretéritas. Ao fim e ao cabo, essa gestão via algoritmos deve-se a razões pecuniárias: o que se customiza é aquilo que se pretende vender diretamente ao usuário ou que se pretende que interesse a ele, de forma a engajá-lo para gerar perfis dele que ajudem a vender-lhe alguma coisa ou simplesmente para mantê-lo como cliente. De um jeito ou de outro, os contínuos procedimentos de seleção e hierarquização subordinam-se à busca de sua atenção. É essa busca que é valorizada pelas plataformas.

Por conseguinte, podemos dizer que as plataformas coroam uma trajetória de desenvolvimento progressivo da mídia e da Internet. Paralelamente, elas arrematam de modo similar um longo processo de esvaziamento da esfera pública. Numa boa medida, esta dá lugar ao que poderíamos chamar de arena de atenção, coexistindo em “arena” os sentidos de local de espetáculo e de disputa. Em vez do debate racional em pós de entendimento que caracteriza idealmente a esfera pública, correspondendo a uma interação simbólica em termos lacanianos, temos uma luta a qualquer custo por atenção, combinando visibilidade e agressividade, ingredientes típicos do imaginário. Mais especificamente, o que se evidencia aqui é a exploração do narcisismo dos usuários.

"A libido narcísica ou do eu aparece para nós como o grande reservatório de onde as catexias objetais partem e no qual elas são novamente recolhidas",<fnref n="12" /> afirma Freud (1968, p. 119). Trocando em miúdos, a libido pode deslocar-se do eu para objetos exteriores ou destes de volta para o eu. Há casos patológicos em que a libido se concentra no eu. Mas em princípio a libido oscila entre o eu e os objetos, de acordo com as diferentes situações da vida de cada um. Podemos pensar, de qualquer forma, em certos contextos que favorecem um investimento narcísico da libido, mais centrado no eu, como é o caso das plataformas enquanto arena de atenção.

Fazer confluir a atenção dos outros sobre si equivale, na prática, a investir em si. Se os apelos comerciais que circulam nas plataformas estão submetidos à economia da atenção, isso se aplica igualmente aos conteúdos produzidos pelos usuários com o intuito de alcançar outros. Para ter êxito nessa empreitada, o usuário precisa saber o que funciona, seguir certas fórmulas de sucesso. E, ainda que alguém não esteja tão interessado em popularidade, o próprio ambiente das plataformas o induz a isso. A generalização da mensuração deixa essa sequela: expor a contagem de reações, comentários e compartilhamentos, no Facebook, de retuítes e respostas, no Twitter, ou de visualizações e comentários, no YouTube, estimula cada um a competir com os outros (cotejando suas métricas com as deles) e consigo mesmo (comparando os números de suas diferentes postagens).

Na disputa por atenção, a intolerância pode ser um trunfo. O fato de os algoritmos, ao ressaltarem essa disputa, favorecerem a intolerância, bem como a desinformação que a acompanha, é captado por estudos empíricos. Uma pesquisa sobre notícias fraudulentas (fake news) desde o início do Twitter, em 2006, até 2017, não apenas certifica que os boatos se espalham mais rapidamente e para um número mais amplo de pessoas do que as notícias verdadeiras, mas concatena sua disseminação à mobilização de emoções como desgosto, medo, raiva e tristeza (VOSOUGHI et al., 2018). Outro estudo empírico, que foca a rede chinesa Weibo, homóloga ao Twitter, e abarca 70 milhões de postagens de 278654 usuários, atesta que o dom de influência da raiva é bastante superior ao de outras emoções, como a alegria (FAN et al., 2014). Levantamento no Gab (MATHEW et al., 2019), plataforma que alardeia seu compromisso com a liberdade de expressão e é conhecida por atrair adeptos da extrema-direita, conclui que a propagação

<footnote n="12">12 No original: "Die narzißtische oder Ichlibido erscheint uns als das große Reservoir, aus welchem die Objektbesetzungen ausgeschickt und in welches sie wieder einbezogen werden".</footnote>
do discurso de ódio é mais rápida, ampla e profunda do que a de outros conteúdos. Numa enquete do Pew Research Center (SMITH, 2018), 71% dos usuários de mídia social reportam reagir com raiva a determinados conteúdos, sendo que com 25% isso acontece com frequência. Outra análise, por parte da mesma organização (KESSEL et al., 2018), focando páginas de membros do Congresso dos Estados Unidos no Facebook, constata que a reação mais encontrada às postagens é a de raiva.

Formas tradicionais de intolerância, as manifestações de preconceito – como racismo, misoginia e homofobia –, conectadas via de regra a visões políticas reacionárias, podem ser potencializadas pela disputa de atenção nas plataformas, na medida em que instigam adeptos, de um lado, e provocam choque e indignação, de outro. Elas polarizam sobretudo com a defesa radicalizada de posições progressistas por parte daqueles que são tratados pejorativamente em inglês como “social justice warriors” (“guerreiros da justiça social”), ou SJW, e em português como expoentes da “cultura da lacração” ou do “cancelamento”. Assistimos então ao aprofundamento do que Hunter (1991) designa como “guerras culturais”, a propósito originalmente da clivagem entre conservadores e progressistas nos Estados Unidos perante temas como aborto, homossexualidade, uso de drogas e porte de armas. Episódio emblemático é o Gamergate, que opõe a cultura sexista dos jogos online a posturas feministas e se desencadeia a partir do assédio – incluindo invasão de contas em plataformas, doxing (divulgação de dados privados) e ameaças de estupro e de morte – à desenvolvedora de jogos Zoë Quinn (2017).

## Onimediação desigual e identificação narcísica com líderes

A função de mediação aparece em Lewin (1943) como gatekeeping, sendo equiparada à de um porteiro que determina o que atravessa ou não um canal. A ideia é estendida por White (1950) para o jornalismo, responsável pela definição do que é notícia e pela forma como esta chega à audiência. Já a contribuição de Lazarsfeld e seus parceiros (LAZARSFELD et al., 1944; KATZ e LAZARSFELD, 1955) é mostrar outro tipo de mediação: para eles, os meios de comunicação de massa não influenciam o público diretamente, como um fluxo em uma etapa, mas por meio de líderes de opinião, como um fluxo em duas etapas.

Nas plataformas algorítmicas, os jornalistas e os líderes de opinião tradicionais também exercem uma função de mediação. Entretanto, eles não são os únicos: com empenho e habilidade, outros sobressaem igualmente nesse papel. Há, portanto, uma generalização da mediação. Alguns são “superinfluenciadores”<fnref n="13" /> (WEI e MENG, 2021), obtendo ampla repercussão em suas postagens devido a seu prestígio e a seu número elevado de seguidores. Outros, que se destacam por sua intensa atividade, são “superparticipantes”<fnref n="14" /> (GRAHAM e WRIGHT, 2014). Mas no limite, na verdade, todos os usuários são mediadores em alguma medida, ao mesmo tempo como participantes e influenciadores. Qualquer intervenção de um usuário, mesmo que seja uma mera curtida ou um simples retuite, é levada em conta pelos algoritmos e influencia a forma como outros são interpelados. Na medida em que todos são mediadores em diferentes graus, podemos falar em uma onimediação desigual.

Aqui cabe retomar as lições de Freud (1967a) sobre a psicologia de massa. Segundo a análise freudiana, a massa opera via identificação com o líder. Ou seja, cada membro da massa coloca no lugar de seu ideal do eu, que representa a internalização da autoridade enquanto modelo, a figura do líder. Enquanto a psicologia de massa pré-freudiana postula uma força misteriosa ligando um indivíduo a outro – o contágio em Le Bon (2010) e a imitação em Tarde (1910) –, para Freud é a existência de um líder em comum que dá coesão à massa. Nas plataformas, pode-se constatar uma variação vis-à-vis a psicologia de massa freudiana. Nelas, a massa não é mais exatamente massa, mas assume o feitio de rede, na qual

<footnote n="13">13 No original: “super-influencers”.</footnote>

<footnote n="14">14 No original: “superparticipants”.</footnote>
o líder central abre passagem à multiplicação de lideranças. A onimediação desigual corresponde, pois, a uma fragmentação do papel do líder.

Em Freud, cada membro da massa, enquanto tal, ao abdicar pelo menos temporariamente de uma
instância internalizada de autoridade em favor de uma figura externa, tende a agir de maneira irracional.
Esse mecanismo explica por que pessoas perfeitamente civilizadas, ao se reunirem em uma massa, adotam
frequentemente atitudes selvagens. Nas massas fragmentadas das plataformas, tal fenômeno assume a
forma dos comportamentos agressivos de manada. Para isso concorre também a natureza da identificação
que se estabelece com alguém em posição de liderança: as plataformas favorecem identificações de tipo
narcísico, abarcando as duas acepções do líder, que em Freud pode ser concreto (uma pessoa) ou abstrato
(uma ideia).

Se, com a generalização da mediação nas plataformas, cada um já exerce de partida um papel
de mediador, por ínfimo que seja, a tarefa de ampliar esse papel é facilitada. Não raro, pessoas comuns,
amadoras, sem qualificação especial, apoiando-se apenas em atributos menos tangíveis como talento
comunicativo e carisma, acabam sobrelevando-se como líderes. Além disso, o próprio caráter da interação
virtual contribui para uma sensação de proximidade com o líder, que tende a expressar-se de maneira
coloquial e com o qual é possível comunicar-se diretamente. Tudo isso acaba privilegiando identificações
narcísicas, nas quais o líder aparece como “o alargamento da própria personalidade do sujeito, uma
projeção coletiva de si mesmo” (ADORNO, 1972, p. 418).15 Esse tipo de identificação é viabilizado até pelas
fraquezas percebidas no líder, que colaboram para que ele seja visto como uma pessoa comum, inclusive
no caso de tiranos: “Hitler pode gesticular como um palhaço, Mussolini pode ousar notas erradas como
um tenor de província” (HORKHEIMER e ADORNO, 1981, p. 209).16 Uma característica primacial, porém,
presente muitas vezes nessa espécie de liderança e que a distingue do homem comum é a desinibição em
exteriorizar aquilo que este teria vergonha de proferir (ADORNO, 1972, p. 427). Essa desinibição permite-
lhe dar livre curso à agressividade, promovendo assim a cultura da intolerância. Nessa linha enquadra-se,
por exemplo, o impulsionamento da chamada “direita alternativa”17 no YouTube por influenciadores que
cultivam uma imagem de autenticidade e radicalismo (LEWIS, 2018).

Deve-se considerar também o emprego intensivo de contas falsas e de robôs em plataformas,
com múltiplas finalidades (há inclusive influenciadores virtuais – criações artificiais que simulam seres
reais – a serviço do marketing), mas procurando sempre potencializar o efeito dos algoritmos. Num
célebre texto de 1950, Turing (2004) propõe um teste para verificar se uma máquina inteligente poderia
passar-se por um ser humano. Na prática, sem terem a necessidade de enfrentar uma prova desse jaez,
muitos robôs atuando nas plataformas não são discernidos como tal pela maioria dos participantes. Isso
permite terceirizar para eles tarefas tradicionalmente desempenhadas pelos líderes desinibidos. Contas
falsas e robôs costumam ser utilizados visando precipuamente a difusão de discurso de ódio, como ocorre
durante a pandemia de Covid-19 (UYHENG e CARLEY, 2020).

Nos fenômenos conflituosos em plataformas, ideias na posição de liderança são tipicamente
os memes, condensações libidinais de palavras e imagens que consistem na versão contemporânea
dos chistes analisados por Freud (1940). Ou seja, as manifestações de intolerância nas plataformas são
com frequência embaladas formalmente pela estética do meme, que contribui para as identificações
narcísicas, ao propiciar a aproximação com o público e criar uma cumplicidade com ele. Tipificada pelo
humor irreverente, anárquico, a estética do meme confere às manifestações de intolerância uma aura
pop e um apelo peculiar junto aos jovens. Os memes podem ser empregados, por exemplo, para veicular

<footnote n="15">15 No original: "*the enlargement of the subject's own personality, a collective projection of himself*".</footnote>

<footnote n="16">16 No original: "*Hitler kann gestikulieren wie ein Clown, Mussolini falsche Töne wagen wie ein Provinztennor*".</footnote>

<footnote n="17">17 No original: "*alt-right*".</footnote>
estereótipos negativos (DUCHSCHERER e DOVIDIO, 2016). Assim, a extrema-direita usa memes para retratar o feminismo como o “feminino monstruoso” (MASSANARI e CHESS, 2018).<fnref n="18" />

O recurso a essa estética é comum entre lideranças políticas ligadas ao discurso da intolerância, como Trump e Bolsonaro. Elas próprias, bem como lideranças menores que a elas se alinham e reproduzem algo de seu estilo, chegam a aparecer como memes, ou seja, como figuras folclóricas que é difícil levar a sério, em virtude de seu comportamento errático. Isso humaniza sua imagem, assimilando-as a cidadãos comuns, e concomitantemente as reifica, igualando-as a coisas e fazendo com que seus atos sejam avaliados em algum grau como inconsequentes, como sói ocorrer com aquelas personagens de desenho animado que num momento são amassadas, esticadas, torcidas, queimadas, e em seguida desfilam lépidas, com o corpo intacto. Essas lideranças intuem isso, alimentando os memes: Trump retuíta uma efígie sua como Pepe the Frog e Bolsonaro compara-se verbalmente a Johnny Bravo. A reificação através do meme, portanto, acaba provendo uma espécie de salvo-conduto para os arautos da intolerância.

## Exposição calibrada e segregação

Como as plataformas algorítmicas procuram oferecer a cada um o que mais lhe atrai, uma consequência bastante conhecida disso é o agrupamento de usuários com interesses e opiniões afins, gerando as chamadas “câmaras de eco”<fnref n="19" /> (SUNSTEIN, 2007) ou “bolhas de filtro”<fnref n="20" /> (PARISER, 2011). Considerando, no entanto, que esses agrupamentos não são totalmente homogêneos, ou seja, que não é possível evitar completamente a exposição a posições diferentes (BRUNS, 2019), seria mais adequado falar em exposição calibrada. Em outras palavras, aquilo que é mostrado ao usuário é ponderado conforme suas predileções, sem chegar a ser uniforme.

Nas plataformas, não faltam exemplos das irrupções tradicionais de intolerância na Internet, individuais e isoladas. Mas os algoritmos tendem a potencializar sobretudo aquelas que têm um horizonte coletivo, por força da aproximação entre usuários com posições similares via exposição calibrada. Conquanto alguém se exprima individualmente nas interações com seus contatos, amiúde ele está reverberando posições de maior alcance. Além disso, as manifestações de intolerância impulsionadas pelos algoritmos são recorrentes. Ao privilegiarem situações que acarretam engajamento, independentemente de seu conteúdo, eles também favorecem litígios, que escalam rapidamente. Mesmo o *trolling* tradicional, alega Phillips (2015), na década de 2000 se converte em uma identidade assumida por seus próprios praticantes, não simplesmente um rótulo a eles aplicado por outros, e erige-se como subcultura. Desenvolvendo-se em fóruns marginais como o 4chan, essa subcultura, que se gaba de seu caráter politicamente incorreto, entrelaça-se com a direita alternativa (NAGLE, 2017).

Episódios notáveis de intolerância são as online firestorms, tempestades coletivas de ultrajes contra uma pessoa, um grupo ou uma organização. Note-se que aqui o não-anonimato não necessariamente funciona como fator de inibição, podendo aliás estar associado a maior agressividade do que o anonimato (ROST et al., 2016). Isso não é complicado de entender, principalmente quando o que está em jogo não é uma agressão isolada a alguém, mas algo ligado a uma causa política mais abrangente. Nesses casos, a assunção explícita da agressividade por alguém em seu próprio nome dá mais efetividade a suas manifestações, permite-lhe demonstrar estar do lado que ele julga correto em alguma questão, facilita sua identificação como membro de uma determinada corrente e possibilita a obtenção de reconhecimento por suas atitudes.

A intolerância transparece ademais por meio da polarização política, que, assentada usualmente

<footnote n="18">18 No original: “monstrous feminine”.</footnote>

<footnote n="19">19 No original: “echo chambers”.</footnote>

<footnote n="20">20 No original: “filter bubbles”.</footnote>
na desinformação, encontra terreno fértil nas plataformas. Chama a atenção a quase exclusividade da agenda destrutiva no populismo de extrema-direita que medra no período recente, aparecendo nas plataformas especialmente à guisa de movimentos coordenados que operam como máquinas de guerra híbrida, a exemplo das campanhas eleitorais de Trump em 2016 (CASTRO, 2020a) e Bolsonaro em 2018 (CASTRO, 2020b).

Nesses fenômenos coletivos e recorrentes há uma dinâmica de segregação, sobre a qual a psicanálise ajuda a lançar luz. Numa intervenção em Estrasburgo, em 1968, Lacan (1969) declara: “Acredito que em nosso tempo o traço, a cicatriz da evaporação do pai é o que poderíamos situar sob a rubrica e o título geral da segregação”.<fnref n="21" /> O que ele reputa como evaporação é uma mudança no exercício da função paterna, e por extensão da autoridade e da lei (que na psicanálise, desde Freud, são sintetizadas pelo pai), devido a transformações na ordem simbólica, representada em Lacan pelo Outro com maiúscula (para diferenciar do outro com minúscula, que representa o imaginário). Podemos dizer que essas transformações assumem hoje o formato do Outro algorítmico. Algoritmo tem o sentido genérico de receita, de conjunto de etapas para fazer algo; o Outro algorítmico representa a customização da lei em normas, como ocorre nas plataformas.

Visando a destruição da alteridade, o ódio camufla-se por trás de pretextos em razão da moralidade ocidental (LACAN, 1975, p. 305-306), mas em plataformas reguladas de forma flexível pelos algoritmos o peso dessa moralidade declina e o ódio pode irromper a céu aberto, ainda mais se considerarmos que nelas o sujeito não tem contato presencial com seus alvos e pode atuar em parceria com outros. O ódio é fulcral para fazer laço social num quadro de fragmentação vinculado à segregação generalizada. Grupos díspares estão aptos a alinhar-se ao redor do ódio a um alvo comum, ainda que não compartam muito mais do que isso. Em sua psicologia de massa, Freud reconhecera o condão unificador do ódio junto com o do amor, a capacidade que esse ódio a um alvo comum possui de imprimir coesão a um grupo. Entre os nazistas, o antisemitismo desincumbe-se eficazmente desse encargo. Em nossa época, também desponta a prevalência do laço pelo ódio ante o laço pelo amor. Lacan (1991, p. 132) é incisivo a propósito: “Só conheço uma origem da fraternidade – falo da humana, sempre o húmus –, é a segregação”.<fnref n="22" />

Em termos psicanalíticos, as plataformas rastreiam as preferências dos usuários, captando suas maneiras prediletas de gozar, e agrupam esses usuários de acordo com afinidades em matéria de gozo, levando às últimas consequências um procedimento típico da sociedade de consumo. Enquanto cicatriz oriunda da evaporação da autoridade, o Outro algorítmico envolve, pois, uma segregação ancorada no gozo, que está na base do ódio, visto que esta mira tipicamente o modo particular de gozo do outro (por exemplo, no caso de estrangeiros, sua comida, seus cheiros, sua música, sua dança, sua sexualidade). Em contraste com o simbólico, o gozo não é passível de universalização; há algo de excessivo, de intolerável no gozo discrepante do nosso. E o ódio do gozo do outro secreta ele próprio um gozo que o complementa, o gozo com esse próprio ódio, a satisfação atrelada às falhas, tribulações e sofrimentos do outro, designada em alemão por “*Schadenfreude*”. A versão desse gozo específica das plataformas é o “*lulz*”, vocábulo derivado da corrupção de “*LOL*” (*Laugh Out Loud*”), o gozo que se obtém à custa das vítimas de *trolling*.

## Veridição flexível e paranoia

Dado que os algoritmos estão subordinados a finalidades mercantis, é natural que eles funcionem nas plataformas algorítmicas como uma “instância de veridição”,<fnref n="23" /> ou seja, de estabelecimento da

<footnote n="21">21 No original: "Je crois qu'à notre époque, la trace, la cicatrice de l'évaporation du père, c'est ce que nous pourrions mettre sous la rubrique et le titre général de la ségrégation".</footnote>

<footnote n="22">22 No original: "Je ne connais qu'une seule origine de la fraternité – je parle humaine, toujours l'humus –, c'est la ségrégation".</footnote>

<footnote n="23">23 No original: "instance de véridiction".</footnote>
verdade, papel associado por Foucault (2004b, p. 35) ao mercado sob o neoliberalismo. O critério decisivo dos algoritmos para selecionar e hierarquizar conteúdos é o da circulação: são mais valorizados aqueles que geram maior engajamento, avaliado por métricas como visualizações, curtidas, comentários e compartilhamentos. Na medida em que seu valor de troca predomina sobre seu valor de uso, adentramos o que pode ser chamado de “capitalismo comunicativo” (DEAN, 2009). Nele, na prática, o verdadeiro é definido como o que faz mais sucesso.

Esse cenário, evidentemente, favorece a desinformação em geral. Mas há um tipo de desinformação que se mescla com frequência à cultura da intolerância e vale ressaltar: as teorias conspiratórias. Elas postulam a ação coordenada de forças poderosas, que ocultam do público suas próprias atividades ou outros fatos, e apresentam essa ação de forma exagerada e até apocalíptica. Além disso, essas teorias tendem a levar o maniqueísmo ao limite, absolutizando o mal praticado pelos conspiradores e o bem representado pelos que os denunciam. Muitas vezes a desinformação, para ser mantida, requer o recurso a teorias conspiratórias. Para sustentar, por exemplo, a crença na Terra plana, a despeito da pletora de evidências em contrário, é mister supor que haja uma grande conspiração nesse sentido, envolvendo os governos, a ciência e a mídia. E a crença nas teorias conspiratórias, por sua vez, demanda o empilhamento contínuo de evidências, em que pese seu rigor duvidoso. Os próprios seguidores buscam incessantemente tais evidências, ou mesmo as produzem. No caso do terraplanismo, o YouTube, particularmente, é um ambiente bastante conveniente para isso, oferecendo a seus adeptos a possibilidade de articularem-se e de impulsionarem suas teses (MOHAMMED, 2019).

Uma teoria conspiratória típica que ganhou tração nos anos recentes, principalmente nos Estados Unidos, mas com reverberações em outros países, é o QAnon. Ela proclama a existência de uma rede internacional dedicada ao tráfico de crianças e à pedofilia, que reuniria figuras centrais do Partido Democrata norte-americano como Hillary Clinton e Barack Obama, e seus apoiadores, incluindo artistas consagrados de Hollywood como Tom Hanks, além de ter ramificações no chamado “Estado profundo” (que se refere a forças de segurança e agências de inteligência agindo à revelia do poder civil) e na elite global. Essa rede teria em Trump sua nêmesis, o que forneceria uma chave explicativa para muitos dos embates políticos envolvendo sua presidência. Trata-se de uma construção a serviço do trumpismo, que se origina do Pizzagate, uma teoria da conspiração propalada nas redes sociais, nas eleições de 2016, sobre o elo de Hillary com um círculo de pedófilos com sede em um restaurante em Washington. O QAnon surge em outubro de 2017 a partir das postagens de um suposto agente federal sob o pseudônimo de Q (letra que indica uma credencial privilegiada de acesso a informações confidenciais), inicialmente no 4chan, depois em seus similares 8chan e 8kun, alastrando-se em seguida pelas plataformas mainstream.

Teorias conspiratórias envolvendo ameaças a crianças, registre-se, sempre existiram. Não obstante, as motivações por trás delas e seus alvos adaptam-se às circunstâncias, algo que pode ser constatado nas últimas décadas. Confrontando o pânico moral face aos perigos que rondam a infância com a falta de evidências de um aumento desses perigos, Fine e Mechling (1991) conjeturam que tal percepção de risco estaria relacionada com o status mais valioso das crianças num contexto em que as famílias são menores e o custo de criação de cada filho aumenta. Isso se encaixa na visão neoliberal de um “capital humano”<fnref n="24" /> (BECKER, 1993) embutido em cada indivíduo, que depende de investimentos em educação, saúde etc. Paralelamente, o maior engajamento profissional das mulheres, acompanhado inevitavelmente de uma terceirização dos cuidados com os filhos, dá margem a uma reação conservadora antifeminista que assume a forma de temores com respeito à segurança e ao bem-estar das crianças (BECK, 2015). Essa reação tende a alinhar-se com o chamado “neoliberalismo reacionário”,<fnref n="25" /> que se opõe

<footnote n="24">24 No original: “human capital”.</footnote>

<footnote n="25">25 No original: “reactionary neoliberalism”.</footnote>
ao “neoliberalismo progressista”,<fnref n="26" /> uma disputa que não se dá no terreno econômico, mas moral (FRASER, 2019). Evocando o espantalho da pedofilia e mirando setores liberais em termos de costumes, o QAnon nutre-se das guerras culturais que atravessam a sociedade norte-americana e se exacerbam sob o governo Trump, mormente sob a pandemia. Além disso, a preocupação manifesta com as crianças franqueia ao QAnon uma importante via de acesso ao mainstream, permitindo que ele ganhe adeptos junto a mães influenciadoras e a grupos de mães em diversas plataformas (DICKSON, 2020; BUTLER, 2020). Vale notar que, na eleição presidencial brasileira de 2018, algumas das notícias fraudulentas de maior repercussão do bolsonarismo, como o *kit gay* e a mamadeira com bico de pênis, também apelam para o pânico moral das ameaças à infância.

As teorias conspiratórias remetem à índole paranoica do conhecimento humano segundo Lacan. Para ele, o bebê inicialmente não se percebe como unidade, mas como um corpo despedaçado, um conjunto de peças sem coordenação. É entre os seis e os dezoito meses de idade, ao reconhecer a imagem que ele vê no espelho como sua própria imagem, que se constitui seu eu. O advento do eu pressupõe, portanto, uma dupla ilusão: a de uma imagem exterior tomada como interioridade e a de uma completude externa no lugar da descoordenação interna. Ao mesmo tempo, o contraste entre sua imperfeição e a perfeição da imagem leva a uma rivalidade com esta. A confusão entre o eu e a imagem externa aparece também no fenômeno de transitivismo: um bebê chora quando vê outro bebê cair, por não conseguir ainda se distinguir do outro. Com o tempo, obviamente, a demarcação entre o eu e o exterior fica mais clara, mas, como o eu continua a identificar-se imaginariamente com outros e a constituir-se a partir dessas identificações, persiste um elemento de ilusão e de rivalidade na relação com o mundo. Essa relação confusa com o exterior é captada pelo termo “paranoia”, que no original grego (παράνοια) compõe-se de “para” (fora) e “nous” (mente), indicando uma certa permeabilidade entre nossa mente e o que está fora dela. Em particular, a paranoia caracteriza-se pelo mecanismo da projeção, ou seja, a tendência a atribuir ao mundo algo que está em nós mesmos – exatamente o mecanismo distintivo das teorias conspiratórias.

É importante assinalar que, se as teorias conspiratórias são construções de tipo paranoico, não se trata necessariamente de paranoia no sentido clínico, mas de traços paranoicos presentes em todo mundo, que concernem ao imaginário. Esses traços podem ganhar força em função de condições sociais oportunas e de predisposições individuais. As circunstâncias históricas atuais do hiperneoliberalismo alimentam as teorias conspiratórias. Adicionalmente, o contexto das plataformas parece ser talhado para essas teorias. Como já vimos, ele enseja uma inflação do imaginário de diversas formas, mas merece realce aqui seu caráter projetivo. Os algoritmos possibilitam que o usuário crie um mundo a sua imagem e semelhança, elegendo seus contatos, os conteúdos que ele quer ver e em última análise o que é a verdade para si. É certo que a própria psicanálise, para Freud, pleiteia que o analisando projete no analista afetos que envolvem outras pessoas. Nesse caso, todavia, pondera Lacan (1966b, p. 109), trata-se de um “mecanismo paranoico (...) bem sistematizado, filtrado de alguma forma e estancado sob medida”.<fnref n="27" /> Nas plataformas, em contrapartida, pode-se até dizer que se trata de uma projeção sistematizada e filtrada, mas ela é inflada ao extremo.

## Considerações finais

É inegável que a intolerância sempre existiu socialmente e sempre esteve presente na Internet, como testemunha a literatura a respeito.

De toda forma, cabe sublinhar que o neoliberalismo, regime hegemônico de capitalismo desde

<footnote n="26">26 No original: “progressive neoliberalism”.</footnote>

<footnote n="27">27 No original: “mécanisme paranoïaque (...) bien systématisé, filtré en quelque sorte et étanché à measure”.</footnote>
a década de 1980, sofre recentemente uma inflexão, que acentua algumas de suas facetas. Tal inflexão, qualificada aqui como hiperneoliberalismo, é secundada pelo agravamento da intolerância.

Ademais, como se procurou argumentar, as plataformas algorítmicas, que afloram no contexto neoliberal e refletem seu modelo de governança, são um terreno sobremaneira propício para a intolerância, por conta de sua tecnologia e de seu modelo de negócios, trazendo uma importante contribuição para esse agravamento.

Posto isso, estamos diante de uma conjunção de vários fatores, que comparecem nos diversos aspectos do funcionamento das plataformas explorados neste artigo como favoráveis à intolerância – arena de atenção, onimediação desigual, exposição calibrada e veridição flexível.

Para dar conta, contudo, da ressonância concreta de tudo isso em cada usuário, é essencial levar em conta os elementos psíquicos envolvidos, e para tanto o recurso ao conceito lacaniano de imaginário como fio condutor revela-se crucial.

Referências

ADORNO, Theodor W. Freudian theory and the pattern of fascist propaganda. In: ADORNO, Theodor W (Org.). **Gesammelte Schriften, Band 8: Soziologische Schriften** I. Frankfurt/Main: Suhrkamp, 1972. p. 408-433.

BAUDRILLARD, Jean. De la séduction. Paris: Denoël, 1988.

BECK, Richard. We believe the children: a moral panic in the 1980s. New York: PublicAffairs, 2015.

BECKER, Gary S. **Human capital:** a theoretical and empirical analysis, with special reference to education. 3 ed. Chicago/London: University of Chicago Press, 1993.

BRIN, Sergey; PAGE, Lawrence. The anatomy of a large-scale hypertextual. **Web search engine**, sem data de publicação informada, 1998. Disponível em: http://infolab.stanford.edu/~backrub/google.html. Acesso em: 20 dez. 2020.

BRUNS, Axel. Are filter bubbles real? Cambridge, UK/Medford: Polity Press, 2019.

BUTLER, Kiera. The terrifying story of how QAnon infiltrated moms' groups. **Mother Jones**, 23 set. 2020. Disponível em: https://www.motherjones.com/politics/2020/09/the-terrifying-story-of-how-qanon-infiltrated-moms-groups/. Acesso em: 20 dez. 2020.

CASTRO, Julio Cesar Lemes de. Social networks as dispositives of neoliberal governmentality. **Journal of Media Critiques**, v. 2, n. 7, p. 85-102, 2016.

CASTRO, Julio Cesar Lemes de. Redes sociais como modelo de governança algorítmica. **Matrizes**, v. 12, n. 2, p. 165-191, maio/ago. 2018.

CASTRO, Julio Cesar Lemes de. Plataformas algorítmicas: interpelação, perfilamento e performatividade. **Revista Famecos**, v. 26, n. 3, p. 1-24, set./dez. 2019.

CASTRO, Julio Cesar Lemes de. Máquinas de guerra híbrida em plataformas algorítmicas. **E-Compós**, v. 23, p. 1-29, 2020a.

CASTRO, Julio Cesar Lemes de. Neoliberalismo, guerra híbrida e a campanha presidencial de Bolsonaro. **Comunicação & Sociedade**, v. 42, n. 1, p. 261-291, jan./abr. 2020b.

CASTRO, Julio Cesar Lemes de. Controle via agência em plataformas algorítmicas. **Galáxia**, n. 44, p. 144-157, maio/ago. 2020c.

CASTRO, Julio Cesar Lemes de. A economia da desinformação em plataformas algorítmicas. **Anais do 43º Congresso Brasileiro de Ciências da Comunicação**, Universidade Federal da Bahia, 1 a 10 de dezembro de
2020d.

DEAN, Jodi. **Democracy and other neoliberal fantasies**: communicative capitalism and left politics. Durham and London: Duke University Press, 2009.

DICKSON, E. J. The birth of QAmom. **Rolling Stone**, 2 set. 2020. Disponível em: https://www.rollingstone.com/culture/culture-features/qanon-mom-conspiracy-theory-parents-sex-trafficking-qamom-1048921/. Acesso em: 20 dez. 2020.

DUCHSCHERER, Katie M.; DOVIDIO, John F. When memes are mean: appraisals of and objections to stereotypic memes. **Translational Issues in Psychological Science**, v. 2, n. 3, p. 335-345, 2016.

DURKHEIM, Émile. **Textes 3**: fonctions sociales et institutions. Paris: Minuit, 1975.

FAN, Rui; ZHAO, Jichang; CHEN, Yan; XU, Ke. Anger is more influential than joy: sentiment correlation in Weibo. **PLOS ONE**, v. 9, n. 10, sem paginação, oct. 2014.

FINE, Gary Alan; MECHLING, Jay. Minor difficulties: changing children in the late twentieth century. In: WOLFE, Alan (Ed.). **America at century's end**. Berkeley, Los Angeles and Oxford: University of California Press, 1991. p. 58-78.

FOUCAULT, Michel. **Sécurité, territoire, population**: cours au Collège de France, 1977-1978. Paris: Gallimard/Seuil, 2004a.

FOUCAULT, Michel. **Naissance de la biopolitique**: cours au Collège de France, 1978-1979. Paris: Gallimard/Seuil, 2004b.

FRASER, Nancy. **The old is dying and the new cannot be born**: from progressive neoliberalism to Trump and beyond. London and New York: Verso, 2019.

FREUD, Sigmund. **Gesammelte Werke**, sechster Band: Der Witz und seine Beziehung zum Unbewussten. London: Imago, 1940.

FREUD, Sigmund. Massenpsychologie und Ich-Analyse. In: FREUD, Sigmund. **Gesammelte Werke**, dreizehnter Band: Jenseits des Lustprinzips / Massenpsychologie und Ich-Analyse / Das Ich und das Es. 5. Aufl. Frankfurt am Main: S. Fischer, 1967a. p. 71-161.

FREUD, Sigmund. Das Ich und das Es. In: FREUD, Sigmund. **Gesammelte Werke**, dreizehnter Band: Jenseits des Lustprinzips / Massenpsychologie und Ich-Analyse / Das Ich und das Es. 5. Aufl. Frankfurt am Main: S. Fischer, 1967b. p. 235-289.

FREUD, Sigmund. Drei Abhandlungen zur Sexualtheorie. In: FREUD, Sigmund. **Gesammelte Werke**, fünfter Band: Werke aus den Jahren 1904-1905. 4. Aufl. Frankfurt am Main: S. Fischer, 1968. p. 27-145.

GIBSON, James J. **The ecological approach to visual perception**. New York and London: Psychology Press, 2015.

GRAHAM, Todd; WRIGHT, Scott. Discursive equality and everyday talk online: the impact of "superparticipants". **Journal of Computer-Mediated Communication**, v. 19, n. 3, p. 625-642, Apr 2014.

HABERMAS, Jürgen. **Strukturwandel der Öffentlichkeit**: Untersuchungen zu einer Kategorie der bürgerlichen Gesellschaft. Neuaufl. Frankfurt am Main: Suhrkamp, 1990.

HORKHEIMER, Max; ADORNO, Theodor W. Dialektik der Aufklärung: philosophische Fragmente. In: ADORNO, Theodor W. **Gesammelte Schriften**, Band 3. Frankfurt am Main: Suhrkamp, 1981.

HUNTER, James Davison. **Culture wars**: the struggle to define America. New York: Basic Books, 1991.

KATZ, Elihu; LAZARSFELD, Paul Felix. **Personal influence**. New York: Free Press, 1955.
KESSEL, Patrick van; HUGHES, Adam; MESSING, Solomon. Taking sides on Facebook: how congressional outreach changed under President Trump. **Pew Research Center**, jul. 2018.

LACAN, Jacques. Le stade du miroir comme formateur de la fonction du Je. In: LACAN, Jacques. (Org.). **Écrits**. Paris: Seuil, 1966a. p 93-100.

LACAN, Jacques. L'agressivité en psychanalyse. In: LACAN, Jacques. (Org.). **Écrits**. Paris: Seuil, 1966b. p. 101-124.

LACAN, Jacques. Fonction et champ de la parole et du langage en psychanalyse. In: LACAN, Jacques (Org.). **Écrits**. Paris: Seuil, 1966c. p. 237-322.

LACAN, Jacques. Intervention sur l'exposé de M. de Certeau "Ce que Freud fait de l'histoire. Note à pro-
pos de 'Une névrose démoniaque au XVIIe siècle'", Congrès de Strasbourg, le 12 octobre 1968. **Lettres de
L'École Freudienne**, n. 7, p. 84, 1969.

LACAN, Jacques. **Le séminaire**, livre I: les écrits techniques de Freud. Paris: Seuil, 1975.

LACAN, Jacques. **Le séminaire**, livre II: le moi dans la théorie de Freud et dans la technique de la psychanalyse. Paris: Seuil, 1978.

LACAN, Jacques. **Le séminaire**, livre XVII: l'envers de la psychanalyse. Paris: Seuil, 1991.

LACAN, Jacques. Les complexes familiaux dans la formation de l'individu. In: LACAN, Jacques (Org.). **Autres écrits**. Paris: Seuil, 2001. p. 23-84.

LAZARSFELD, Paul Felix; BERELSON, Bernard; GAUDET, Hazel. **The people's choice**: how the voter makes up his mind in a presidential campaign. New York: Columbia University Press, 1944.

LE BON, Gustave. **Psychologie des foules**. Paris: Presses Universitaires de France, 2010.

LEWIN, Kurt. Forces behind food habits and methods of change. **Bulletin of the National Research Council**, n. 108, p. 35-65, oct. 1943.

LEWIS, Rebecca. **Alternative influence**: broadcasting the reactionary right on YouTube. New York: Data & Society Research Institute, 2018.

MASSANARI, Adrienne L.; CHESS, Shira. Attack of the 50-foot social justice warrior: the discursive construction of SJW memes as the monstrous feminine. **Feminist Media Studies**, v. 18, n. 4, p. 525-542, 2018.

MATHEW, Binny; DUTT, Ritam; GOYAL, Pawan; MUKHERJEE, Animesh. Spread of hate speech in online social media. **Proceedings of the 10th ACM Conference on Web Science**, Boston, Massachusetts, 30 de junho a 3 de julho de 2019.

MOHAMMED, Shaheed N. Conspiracy theories and flat Earth videos on YouTube. **Journal of Social Media in Society**, v. 8, n. 2, p. 84-102, fall, 2019.

NAGLE, Angela. **Kill all normies**: the online culture wars from Tumblr and 4chan to the alt-right and Trump. Winchester/Washington: Zero Books, 2017.

PARISER, Eli. **The filter bubble**: what the Internet is hiding from you. New York: Penguin, 2011.

PHILLIPS, Whitney. **This is why we can't have nice things**: mapping the relationship between online trolling and mainstream culture. Cambridge, MA/London: MIT Press, 2015.

QUINN, Zoë. **Crash override**: how Gamergate (nearly) destroyed my life, and how we can win the fight against online hate. New York: PublicAffairs, 2017.
ROST, Katja; STAHEL, Lea; FREY, Bruno S. Digital social norm enforcement: online firestorms in social media. PLOS ONE, v. 11, n. 6, sem paginação, 2016.

SENNETT, Richard. The fall of public man. London: Penguin, 2002.

SMITH, Aaron. Public attitudes toward computer algorithms. *Pew Research Center*, 16 nov. 2018. Disponível em: https://www.pewresearch.org/internet/2018/11/16/public-attitudes-toward-computer-algorithms/. Acesso em: 20 dez. 2020.

SUNSTEIN, Cass R. Republic.com 2.0. Princeton and Oxford: Princeton University Press, 2007.

TARDE, Gabriel. *L'opinion et la foule*. 3. ed. Paris: Félix Alcan, 1910.

TURING, Alan M. Computing machinery and intelligence. In: TURING, Alan M (Org.). *The essential Turing: seminal writings in computing, logic, philosophy, artificial intelligence, and artificial life, plus the secrets of Enigma*. Oxford: Clarendon, 2004. p. 433-464.

UYHENG, Joshua; CARLEY, Kathleen M. Bots and online hate during the COVID-19 pandemic: case studies in the United States and the Philippines. *Journal of Computational Social Science*, n. 3, p. 445-468, 2020.

VOSOUGHI, Soroush; ROY, Deb; ARAL, Sinan. The spread of true and false news online. *Science*, v. 359, n. 6380, p. 1146-1151, mar. 2018.

WEI, Jianliang; MENG, Fei. How opinion distortion appears in super-influencer dominated social network. *Future Generation Computer Systems*, v. 115, p. 542-552, feb. 2021.

WHITE, David Manning. The “gate keeper”: a case study in the selection of news. *Journalism Quaterly*, v. 27, n. 4, p. 383-390, 1950.

Júlio Cesar Leme de Castro é mestre e doutor em Comunicação e Semiótica pela PUC-SP, pesquisador de pós-doutorado em Comunicação na Uniso, além de membro do Laboratório de Teoria Social, Filosofia e Psicanálise (Latesfip/USP).