A teoria da internet morta e o fenómeno Jesus camarão

Se procurar por "Jesus camarão" no Facebook, poderá encontrar dezenas de imagens de crustáceos criados por inteligência artificial (IA), combinados de várias formas com uma representação estereotipada de Jesus Cristo.

Algumas destas imagens hiper-realistas acumularam mais de 20 000 gostos e comentários. Mas o que se passa, afinal?

A "teoria da internet morta" apresenta uma explicação: o conteúdo produzido por IA e por bots ultrapassou o que é criado por pessoas na internet. Mas de onde surgiu esta ideia e terá ela algum fundamento?

O que é a teoria da internet morta?

A teoria da internet morta defende, essencialmente, que a atividade e os conteúdos na internet, incluindo as contas nas redes sociais, são maioritariamente criados e automatizados por agentes de inteligência artificial.

Estes agentes conseguem produzir rapidamente publicações acompanhadas de imagens geradas por IA, concebidas para atrair interações - cliques, gostos e comentários - em plataformas como Facebook, Instagram e TikTok. No caso de Jesus camarão, parece que a IA aprendeu que a combinação atual de absurdo e iconografia religiosa é capaz de se tornar viral.

A teoria da internet morta vai, porém, mais longe. Muitas das contas que interagem com esses conteúdos parecem também ser geridas por agentes de inteligência artificial. Forma-se assim um círculo vicioso de interações artificiais, sem uma agenda clara e que já não envolve pessoas.

Captação inofensiva de interações ou propaganda sofisticada?

À primeira vista, a razão pela qual estas contas procuram atrair interesse pode parecer evidente: as interações nas redes sociais geram receitas publicitárias. Quem cria uma conta com interações inflacionadas pode receber uma parte das receitas de publicidade de empresas de redes sociais, como a Meta.

Mas será que a teoria da internet morta se resume a uma captação inofensiva de interações? Ou poderá esconder-se, por baixo da superfície, uma tentativa sofisticada e bem financiada de apoiar regimes autocráticos, atacar opositores e difundir propaganda?

Embora o fenómeno Jesus camarão possa parecer inofensivo, apesar de estranho, poderá estar em causa um plano de mais longo prazo.

À medida que estas contas controladas por IA ganham seguidores - muitos falsos, alguns reais -, o número elevado confere-lhes legitimidade aos olhos dos utilizadores reais. Isto significa que está a ser criado um exército de contas com muitos seguidores, que poderão ser usadas por quem fizer a oferta mais elevada.

A questão é particularmente importante porque as redes sociais são agora a principal fonte de notícias de muitos utilizadores em todo o mundo. Na Austrália, 46% dos jovens entre os 18 e os 24 anos indicaram as redes sociais como a sua principal fonte de notícias no ano passado. A percentagem subiu face aos 28% de 2022, ultrapassando os meios tradicionais, como a rádio e a televisão.

Desinformação alimentada por bots

Já existem provas sólidas de que as redes sociais são manipuladas por estes bots com números inflacionados, para influenciar a opinião pública através da desinformação - e isso acontece há anos.

Em 2018, um estudo analisou 14 milhões de publicações no Twitter, referentes a um período de dez meses entre 2016 e 2017. Concluiu que os bots nas redes sociais tinham um papel significativo na divulgação de artigos de fontes pouco fiáveis. Contas com muitos seguidores davam legitimidade a informação falsa e a desinformação, levando utilizadores reais a acreditar nos conteúdos publicados por bots, a interagir com eles e a partilhá-los novamente.

Esta forma de manipulação das redes sociais foi detetada após tiroteios em massa nos Estados Unidos. Em 2019, um estudo concluiu que as publicações geradas por bots no X, anteriormente Twitter, contribuem fortemente para o debate público, amplificando ou distorcendo possíveis narrativas associadas a acontecimentos extremos.

Mais recentemente, várias campanhas de desinformação pró-russas, conduzidas em larga escala, procuraram enfraquecer o apoio à Ucrânia e promover sentimentos favoráveis à Rússia.

Estas ações coordenadas, descobertas por ativistas e jornalistas, recorreram a bots e a IA para criar e divulgar informação falsa, chegando a milhões de utilizadores das redes sociais.

Só no X, a campanha usou mais de 10 000 contas de bots para publicar rapidamente dezenas de milhares de mensagens com conteúdo favorável ao Kremlin, atribuído a celebridades dos Estados Unidos e da Europa que pareciam apoiar a guerra em curso contra a Ucrânia.

Esta influência tem uma dimensão considerável. Alguns relatórios concluíram mesmo que quase metade de todo o tráfego da internet em 2022 foi gerado por bots. Com os avanços recentes da IA generativa, como os modelos ChatGPT da OpenAI e o Gemini da Google, a qualidade dos conteúdos falsos tenderá a melhorar.

As empresas de redes sociais procuram responder à utilização indevida das suas plataformas. Elon Musk, por exemplo, estudou a possibilidade de exigir aos utilizadores do X o pagamento de uma subscrição para travar as redes de bots.

Os gigantes das redes sociais têm capacidade para eliminar grandes volumes de atividade de bots detetada, se assim o decidirem. Más notícias para o nosso simpático Jesus camarão.

Ter presente a teoria da internet morta

A teoria da internet morta não afirma propriamente que a maioria das interações pessoais na internet seja falsa.

Ainda assim, oferece uma perspetiva interessante sobre a internet: a ideia de que esta deixou de ser feita por pessoas e para pessoas. É nesse sentido que a internet que conhecíamos e adorávamos está "morta".

Foi a liberdade de criar e partilhar os nossos pensamentos na internet e nas redes sociais que lhes deu tanto poder. É naturalmente esse poder que os agentes mal-intencionados procuram controlar.

A teoria da internet morta recorda-nos que devemos ser céticos e navegar nas redes sociais e noutros sítios da internet com espírito crítico.

Qualquer interação, tendência e, em especial, o "sentimento geral" podem muito bem ser artificiais, concebidos para alterar ligeiramente a forma como vemos o mundo.

Jake Renzella, docente e diretor de estudos de Ciências Informáticas na UNSW Sydney, e Vlada Rozova, investigadora em aprendizagem automática aplicada na Universidade de Melbourne.

Este artigo é republicado a partir de The Conversation ao abrigo de uma licença Creative Commons. Leia o artigo original.