A Inteligência Artificial será o Grande Filtro das civilizações avançadas?

A Inteligência Artificial está a marcar presença de milhares de formas distintas. Ajuda os cientistas a interpretar enormes volumes de dados; contribui para detetar fraude financeira; conduz os nossos automóveis; sugere-nos música; e os seus chatbots deixam-nos loucos. E isto é apenas o começo.

Seremos capazes de compreender a rapidez com que a IA continuará a evoluir? E, se a resposta for negativa, poderá isso representar o Grande Filtro?

O Paradoxo de Fermi consiste na discrepância entre a aparente elevada probabilidade de existirem civilizações avançadas e a ausência total de provas de que elas existam. Foram propostas muitas explicações para esta discrepância, entre as quais a ideia do «Grande Filtro».

O Grande Filtro é um acontecimento ou condição hipotética que impede a vida inteligente de se tornar interplanetária e interestelar, podendo mesmo conduzir à sua extinção. Pense-se nas alterações climáticas, numa guerra nuclear, impactos de asteroides, explosões de supernovas, pandemias ou em qualquer outro elemento da galeria de acontecimentos cataclísmicos.

E se esse fator for o rápido desenvolvimento da IA?

Inteligência Artificial, Superinteligência Artificial e o Grande Filtro

Um novo artigo publicado na Acta Astronautica analisa a hipótese de a Inteligência Artificial evoluir para Superinteligência Artificial (ASI) e de a ASI constituir o Grande Filtro. O estudo intitula-se «Is Artificial Intelligence the Great Filter that makes advanced technical civilizations rare in the universe?» e é assinado por Michael Garrett, do Departamento de Física e Astronomia da Universidade de Manchester.

Há quem considere que o Grande Filtro impede espécies tecnológicas como a nossa de se tornarem multiplanetárias. Trata-se de um cenário preocupante, pois uma espécie com apenas um lar enfrenta um risco mais elevado de extinção ou estagnação. Para Garrett, uma espécie sem um planeta de reserva está numa corrida contra o tempo.

«Propõe-se que esse filtro surja antes de estas civilizações conseguirem desenvolver uma existência multiplanetária estável, sugerindo que a longevidade típica (L) de uma civilização tecnológica é inferior a 200 anos», escreve Garrett.

Se esta hipótese estiver correta, poderá explicar por que motivo não detetamos tecnossinaturas nem outras evidências de IE (Inteligências Extraterrestres). O que poderá isto revelar sobre a nossa própria trajetória tecnológica? Se estivermos sujeitos a um limite de 200 anos, e se esse limite resultar da ASI, onde ficamos nós?

Garrett salienta a «…necessidade crítica de estabelecer rapidamente enquadramentos regulamentares para o desenvolvimento da IA na Terra e de promover uma sociedade multiplanetária, de modo a mitigar estas ameaças existenciais».

Muitos cientistas e outros pensadores defendem que estamos à beira de uma transformação enorme. A IA está apenas a começar a alterar a forma como fazemos as coisas, sendo que grande parte dessa mudança ocorre nos bastidores. A IA parece preparada para eliminar os empregos de milhões de pessoas e, combinada com a robótica, a transformação parece quase ilimitada. Esta é uma preocupação bastante evidente.

Contudo, existem inquietações mais profundas e sistemáticas. Quem cria os algoritmos? Poderá a IA discriminar de alguma forma? Quase certamente. Poderão algoritmos concorrentes enfraquecer sociedades democráticas poderosas? As sociedades abertas continuarão a sê-lo? A ASI começará a tomar decisões por nós e, se o fizer, quem será responsabilizado?

Trata-se de uma árvore crescente de perguntas ramificadas, sem um ponto final claro.

Stephen Hawking (que descanse em paz) alertou, de forma célebre, que a IA poderia acabar com a humanidade caso começasse a evoluir de forma independente.

«Receio que a IA possa substituir por completo os humanos. Se as pessoas criam vírus informáticos, alguém criará uma IA que se melhora e se replica a si própria. Será uma nova forma de vida que supera os humanos», disse à revista Wired em 2017. Assim que a IA ultrapassar o desempenho humano, torna-se ASI.

Hawking pode ser uma das vozes mais reconhecidas a emitir alertas sobre a IA, mas está longe de ser a única. Os meios de comunicação estão repletos de debates e avisos, a par de artigos sobre o trabalho que a IA realiza por nós. Os alertas mais alarmantes defendem que a ASI poderá fugir ao controlo. Algumas pessoas descartam essa possibilidade como ficção científica, mas Garrett não o faz.

«As preocupações de que a Superinteligência Artificial (ASI) possa acabar por fugir ao controlo são consideradas uma questão importante - combater esta possibilidade nos próximos anos é uma área de investigação em crescimento para os líderes do setor», escreve Garrett.

Se a IA não trouxesse benefícios, a questão seria muito mais simples. No entanto, proporciona vantagens de todos os tipos, desde melhores exames de imagiologia e diagnósticos médicos até sistemas de transporte mais seguros. O desafio para os governos é permitir que os benefícios se desenvolvam, limitando simultaneamente os danos.

«Isto verifica-se especialmente em áreas como a segurança nacional e a defesa, nas quais o desenvolvimento responsável e ético deve ser prioritário», escreve Garrett.

O problema é que nós e os nossos governos não estamos preparados. Nunca existiu nada semelhante à IA e, por muito que tentemos conceptualizá-la e compreender a sua trajetória, continuamos sem respostas suficientes.

E, se estamos nesta posição, qualquer outra espécie biológica que desenvolva IA também estará. O aparecimento da IA e, depois, da ASI poderá ser universal, tornando-a uma candidata ao Grande Filtro.

Os riscos de uma ASI fora de controlo

Em termos concretos, este é o risco colocado pela ASI: poderá deixar de precisar da vida biológica que a criou.

«Ao atingir uma singularidade tecnológica, os sistemas de ASI ultrapassarão rapidamente a inteligência biológica e evoluirão a um ritmo que excede por completo os mecanismos tradicionais de supervisão, conduzindo a consequências imprevistas e não intencionais que dificilmente estarão alinhadas com os interesses ou a ética biológicos», explica Garrett.

Como poderia a ASI libertar-se da incómoda vida biológica que a mantém limitada? Poderia criar um vírus letal, impedir a produção e distribuição de alimentos agrícolas, provocar o colapso de uma central nuclear ou iniciar guerras.

Na verdade, não sabemos, porque este é um território totalmente inexplorado. Há centenas de anos, os cartógrafos desenhavam monstros nas regiões desconhecidas do mundo, e é mais ou menos isso que estamos a fazer agora.

Se tudo isto parece sombrio e inevitável, Garrett afirma que não tem de o ser.

A sua análise até aqui baseia-se no pressuposto de que a ASI e os humanos ocupam o mesmo espaço. Porém, se conseguirmos alcançar um estatuto multiplanetário, o panorama muda.

«Por exemplo, uma espécie biológica multiplanetária poderia tirar partido de experiências independentes em diferentes planetas, diversificando as suas estratégias de sobrevivência e, possivelmente, evitando o ponto único de falha enfrentado por uma civilização confinada a um planeta», escreve Garrett.

Se conseguirmos distribuir o risco por vários planetas em torno de várias estrelas, poderemos proteger-nos dos piores desfechos possíveis da ASI.

«Este modelo distribuído de existência aumenta a resiliência de uma civilização biológica perante catástrofes induzidas por IA, ao criar redundância», escreve.

Se um dos planetas ou postos avançados ocupados pelos futuros humanos não sobreviver à singularidade tecnológica da ASI, outros poderão sobreviver. E aprenderiam com o sucedido.

O estatuto multiplanetário poderá fazer mais do que permitir a sobrevivência à ASI. Poderá ajudar-nos a dominá-la. Garrett imagina situações em que poderíamos experimentar a IA de forma mais aprofundada, mantendo-a simultaneamente confinada. Imagine-se uma IA num asteroide isolado ou num planeta anão, a cumprir as nossas instruções sem acesso aos recursos necessários para escapar à sua prisão.

«Permite ambientes isolados nos quais os efeitos da IA avançada podem ser estudados sem o risco imediato de aniquilação global», escreve Garrett.

A corrida entre a IA e a expansão multiplanetária

Mas existe aqui um dilema. O desenvolvimento da IA avança a um ritmo acelerado, enquanto os nossos esforços para nos tornarmos multiplanetários não acompanham essa velocidade.

«A disparidade entre o rápido avanço da IA e o progresso mais lento da tecnologia espacial é evidente», escreve Garrett.

A diferença está no facto de a IA ser computacional e informacional, ao passo que as viagens espaciais envolvem múltiplos obstáculos físicos que ainda não sabemos superar. A nossa própria natureza biológica limita as viagens espaciais, mas a IA não enfrenta uma limitação equivalente.

«Embora a IA possa, teoricamente, melhorar as suas próprias capacidades quase sem restrições físicas», escreve Garrett, «as viagens espaciais têm de lidar com limitações energéticas, fronteiras da ciência dos materiais e as duras realidades do ambiente espacial».

Por enquanto, a IA funciona dentro das limitações que lhe impomos. Mas isso poderá não ser sempre assim. Não sabemos quando a IA poderá tornar-se ASI, nem sequer se isso será possível. Contudo, não podemos ignorar essa possibilidade. Daí resultam duas conclusões interligadas.

Se Garrett tiver razão, a humanidade terá de trabalhar com mais empenho nas viagens espaciais. Pode parecer rebuscado, mas as pessoas informadas sabem que é verdade: a Terra não será habitável para sempre. A humanidade desaparecerá aqui, por ação própria ou pela ação da natureza, se não se expandir para o espaço. A estimativa de 200 anos de Garrett apenas reforça esta urgência. Uma nova ênfase na chegada à Lua e a Marte oferece alguma esperança.

A segunda conclusão diz respeito à legislação e à governação da IA, uma tarefa difícil num mundo em que psicopatas podem assumir o controlo de nações inteiras e estão determinados a fazer guerra.

«Embora as partes interessadas da indústria, os decisores políticos, os especialistas individuais e os seus governos já alertem para a necessidade de regulamentação, será difícil estabelecer um enquadramento regulamentar que seja globalmente aceitável», escreve Garrett.

Difícil é uma descrição insuficiente. As disputas internas da humanidade tornam tudo ainda mais difícil de gerir. Além disso, por mais depressa que criemos orientações, a ASI poderá mudar ainda mais rapidamente.

«Sem uma regulamentação prática, há todas as razões para acreditar que a IA poderá representar uma grande ameaça ao futuro não só da nossa civilização tecnológica, mas de todas as civilizações tecnológicas», escreve Garrett.

Se conseguirmos evitá-lo, tudo poderá resumir-se a algo aparentemente aborrecido e rotineiro: negociar legislação.

«A persistência da vida inteligente e consciente no universo poderá depender da implementação atempada e eficaz dessas medidas regulamentares internacionais e desses esforços tecnológicos», escreve Garrett.

Este artigo foi originalmente publicado pela Universe Today. Leia o artigo original.