A inteligência artificial será o grande filtro do universo?

A inteligência artificial (IA) avançou a um ritmo espantoso nos últimos anos. Alguns cientistas começam agora a olhar para o desenvolvimento da superinteligência artificial (ASI) - uma modalidade de IA que não só ultrapassaria a inteligência humana, como também não estaria limitada pela velocidade de aprendizagem dos seres humanos.

Mas e se este marco não for apenas uma conquista extraordinária? E se representar também um gargalo formidável no desenvolvimento de todas as civilizações, tão difícil de ultrapassar que compromete a sua sobrevivência a longo prazo?

Esta ideia está no centro de um artigo de investigação que publiquei recentemente na Acta Astronautica. Poderá a IA constituir o «grande filtro» do universo - um limiar tão exigente que impede a maioria das formas de vida de evoluir para civilizações capazes de viajar no espaço?

Este conceito poderá explicar porque é que a procura de inteligência extraterrestre (SETI) ainda não identificou indícios de civilizações tecnológicas avançadas noutros pontos da galáxia.

A hipótese do grande filtro é, em última análise, uma proposta de resposta ao paradoxo de Fermi. Este questiona por que motivo, num universo suficientemente vasto e antigo para albergar milhares de milhões de planetas potencialmente habitáveis, ainda não detetámos quaisquer sinais de civilizações alienígenas.

Segundo a hipótese, existem obstáculos intransponíveis na trajetória evolutiva das civilizações que as impedem de se tornarem entidades capazes de explorar o espaço.

Considero que o aparecimento da ASI pode ser um desses filtros. O rápido progresso da IA, que poderá conduzir à ASI, pode coincidir com uma fase decisiva no desenvolvimento de uma civilização: a passagem de uma espécie limitada a um único planeta para uma espécie multiplanetária.

É nesta fase que muitas civilizações podem falhar, uma vez que a IA poderá progredir muito mais depressa do que a nossa capacidade de a controlar ou de explorar e povoar o Sistema Solar de forma sustentável.

A superinteligência artificial como grande filtro

O desafio colocado pela IA, e em particular pela ASI, reside no seu caráter autónomo, autoamplificador e suscetível de aperfeiçoamento. Tem o potencial de melhorar as suas próprias capacidades a uma velocidade que ultrapassa as nossas linhas temporais evolutivas sem IA.

A possibilidade de algo correr gravemente mal é enorme, podendo levar ao colapso de civilizações biológicas e de civilizações de IA antes de terem a oportunidade de se tornar multiplanetárias.

Por exemplo, se as nações dependerem cada vez mais de sistemas autónomos de IA e lhes cederem poder, enquanto esses sistemas competem entre si, as capacidades militares poderão ser usadas para matar e destruir numa escala sem precedentes. Isto poderá resultar na destruição de toda a nossa civilização, incluindo os próprios sistemas de IA.

Neste cenário, estimo que a longevidade típica de uma civilização tecnológica possa ser inferior a 100 anos. Corresponde, aproximadamente, ao período entre a capacidade de receber e emitir sinais entre as estrelas (1960) e o aparecimento estimado da ASI (2040) na Terra. Trata-se de um intervalo alarmantemente curto quando comparado com a escala cósmica de milhares de milhões de anos.

Quando esta estimativa é introduzida nas versões otimistas da equação de Drake - que procura calcular o número de civilizações extraterrestres ativas e comunicantes na Via Láctea -, sugere que, em qualquer momento, existem apenas algumas civilizações inteligentes por aí. Além disso, tal como nós, as suas atividades tecnológicas relativamente modestas podem torná-las bastante difíceis de detetar.

Um alerta para regular a inteligência artificial

Esta investigação não é apenas uma história de advertência sobre um potencial desastre. É um alerta para que a humanidade estabeleça quadros regulamentares sólidos que orientem o desenvolvimento da IA, incluindo nos sistemas militares.

Não se trata apenas de impedir a utilização maliciosa da IA na Terra; trata-se igualmente de garantir que a evolução da IA é compatível com a sobrevivência a longo prazo da nossa espécie. Isto indica que precisamos de canalizar mais recursos para nos tornarmos numa sociedade multiplanetária o mais cedo possível - um objetivo adormecido desde os dias entusiásticos do projeto Apollo, mas recentemente reativado pelos progressos de empresas privadas.

Como observou o historiador Yuval Noah Harari, nada na história nos preparou para o impacto de introduzir no nosso planeta entidades superinteligentes sem consciência. Mais recentemente, as implicações da tomada autónoma de decisões por sistemas de IA levaram figuras de destaque da área a defender uma moratória no desenvolvimento da IA, até que seja possível introduzir uma forma responsável de controlo e regulamentação.

Contudo, mesmo que todos os países aceitassem cumprir regras e regulamentações rigorosas, será difícil conter organizações que atuem fora dessas normas.

IA autónoma e sistemas de defesa militar

A integração de IA autónoma em sistemas de defesa militar deve ser uma área de preocupação particular. Já existem indícios de que os seres humanos entregarão voluntariamente um poder significativo a sistemas cada vez mais capazes, porque estes conseguem executar tarefas úteis com muito maior rapidez e eficácia, sem intervenção humana.

Por isso, os governos mostram-se relutantes em regulamentar esta área, devido às vantagens estratégicas proporcionadas pela IA, como foi recentemente demonstrado de forma devastadora em Gaza.

Isto significa que já nos aproximamos perigosamente de um precipício em que armas autónomas operam para lá dos limites éticos e contornam o direito internacional.

Num mundo assim, entregar poder a sistemas de IA para obter uma vantagem tática poderá desencadear inadvertidamente uma cadeia de acontecimentos de escalada rápida e altamente destrutiva. Num instante, a inteligência coletiva do nosso planeta poderá ser aniquilada.

A humanidade encontra-se num ponto decisivo da sua trajetória tecnológica. As escolhas que fizermos agora poderão determinar se nos tornamos uma civilização interestelar duradoura ou se sucumbimos aos desafios criados pelas nossas próprias invenções.

Usar o SETI como lente para analisar o nosso futuro desenvolvimento acrescenta uma nova dimensão ao debate sobre o futuro da IA. Cabe-nos a todos garantir que, quando procurarmos alcançar as estrelas, não o faremos como um conto de advertência para outras civilizações, mas como um farol de esperança - uma espécie que aprendeu a prosperar ao lado da IA.

Michael Garrett, titular da cátedra Sir Bernard Lovell de Astrofísica e diretor do Centro Jodrell Bank de Astrofísica, Universidade de Manchester

Este artigo é republicado de The Conversation ao abrigo de uma licença Creative Commons. Leia o artigo original.