Pesquisadores identificam falha em inteligência artificial que pode gerar falsos positivos na detecção de vida

Pesquisadores da Universidade Estadual de Míchigan identificaram uma vulnerabilidade crítica em sistemas de inteligência artificial (IA) que podem ser utilizados para a detecção de vida em missões espaciais. O estudo, intitulado "A IA consegue detectar vida? Lições da vida artificial", revela que modelos de aprendizado de máquina são propensos a gerar falsos positivos com alta confiança ao analisarem amostras que fogem do seu conjunto de dados de treinamento.

O trabalho, desenvolvido por Ankit Gupta e Christoph Adami, será apresentado em agosto, na Conferência de 2026 sobre Vida Artificial, em Waterloo, no Canadá.

A falha no reconhecimento de padrões

A base da IA, assim como a cognição humana, reside no reconhecimento de padrões. No entanto, ambos os sistemas são suscetíveis a erros. Enquanto humanos podem experienciar a pareidolia — como enxergar rostos em rochas —, a IA pode ser enganada por dados "fora da distribuição".

Isso ocorre porque os sistemas de aprendizado de máquina são treinados com distribuições implícitas de dados. Se um sistema for treinado apenas para distinguir cães de gatos, ele poderá classificar erroneamente um cavalo como um dos dois animais com total certeza, simplesmente por não ter sido exposto a esse novo dado durante seu treinamento.

Simulação com vida artificial

Para testar essa fragilidade em nível molecular, os cientistas utilizaram a Avida Digital Evolution Platform, um software de vida artificial que permite estudar a biologia evolutiva por meio de organismos digitais. Esses programas autorreplicantes mutam e competem por recursos, simulando a seleção natural em um ambiente computacional.

O experimento seguiu as seguintes etapas:
1. Treinamento: A rede neural foi treinada com milhares de organismos digitais, alguns capazes de se replicar (vivos) e outros não (inertes). Inicialmente, a IA atingiu 99,7% de precisão na distinção.
2. Teste de estresse: Os pesquisadores introduziram amostras fora da distribuição original.
3. Manipulação: Partindo de um organismo incapaz de se replicar, a equipe substituiu gradualmente partes do código.

O resultado foi que, após apenas 150 modificações, a IA afirmou com 100% de confiança ter detectado vida, mesmo que o organismo digital continuasse incapaz de se reproduzir. Gupta e Adami observaram que a probabilidade de encontrar sequências de comandos capazes de enganar o sistema é considerável, ocorrendo em todas as execuções do teste.

Impactos em missões astrobiológicas

A descoberta é preocupante para futuras missões de exploração espacial, como as realizadas por rovers em Marte. Como não existe uma bioassinatura química universal, a IA seria encarregada de identificar moléculas que codifiquem informações — uma propriedade básica da vida, similar ao DNA.

Contudo, como as amostras extraterrestres provavelmente diferem das bióticas e abióticas terrestres usadas no treinamento, há um risco elevado de a IA classificar erroneamente materiais inertes como organismos vivos.

A necessidade de supervisão humana

A vulnerabilidade apontada por Adami, professor de microbiologia, genética molecular, física e astronomia, sugere que a IA não pode operar de forma autônoma em diagnósticos científicos de alta relevância. O erro de classificação, embora trivial em modelos de linguagem (LLMs) usados para tarefas cotidianas, pode ser devastador em missões de milhões de dólares.

Os autores concluem que a dependência exclusiva de IA para a detecção de vida poderia minar a confiança pública na astrobiologia, caso falsos positivos sejam aceitos como verdades científicas antes de uma auditoria humana. Para mitigar esse risco, os pesquisadores defendem a implementação de métodos independentes de verificação, garantindo que um humano esteja sempre presente no processo de análise.

O próximo passo da pesquisa consistirá em testar a facilidade com que a IA é enganada utilizando dados do mundo real.