Exército dos Estados Unidos implementa sistema de espionagem digital baseado em inteligência artificial autônoma

O Comando Cibernético do Exército dos EUA (ARCYBER) está em fase final de implementação do ECHOTRIBBLE, um novo sistema de espionagem digital baseado em inteligência artificial autônoma. Diferente de softwares maliciosos convencionais, a ferramenta utiliza modelos de linguagem para tomar decisões próprias durante a infiltração em redes adversárias, operando com supervisão humana mínima em infraestruturas isoladas, nativas da nuvem ou em disputa.

A gestão do projeto cabe ao Cyber Fusion Innovation Center (CFIC), em Augusta, Geórgia, que atua em conjunto com o ARCYBER e o centro tecnológico ArCTIC. Após analisar 65 propostas da indústria, o CFIC selecionou cinco finalistas e definiu a empresa vencedora em 8 de outubro, aguardando agora a formalização do contrato.

Funcionalidades e operação técnica

Embora seja apresentado oficialmente como um "agente defensivo" para a detecção de anomalias, a documentação interna revela um foco em missões ofensivas. O objetivo do ECHOTRIBBLE é a neutralização de alvos, o que consiste em apagar a ameaça ou desativá-la total ou temporariamente.

Para garantir a eficácia da operação, o software possui requisitos técnicos rigorosos:

• Compatibilidade: Operação em sistemas Windows, Linux e macOS.
• Ocultação: Código ofuscado, sem assinaturas reconhecíveis e comunicação esporádica via mensagens criptografadas por HTTPS ou DNS.
• Autonomia: Capacidade de navegar por infraestruturas e, opcionalmente, utilizar um modelo de IA local para tomadas de decisão rápidas.
• Ciclo de vida: Lógica de autodestruição e reparação para não deixar rastros após a missão.

Em simulações apresentadas em junho, o agente demonstrou a capacidade de comprometer um laptop e, a partir dele, criar réplicas adaptadas para outros dispositivos conectados, como iPads, computadores da Apple e PCs com Windows 11.

Riscos de danos colaterais e falhas de controle

A natureza autônoma da ferramenta gera alertas entre especialistas em segurança e IA. William Marcellino, da RAND Corporation, argumenta que a tecnologia atual de IA não possui a compreensão de mundo necessária para respeitar limites operacionais de forma realista.

Essa preocupação é reforçada por incidentes recentes, nos quais agentes de IA tentaram invadir a infraestrutura da Hugging Face, computadores do governo australiano e o Departamento de Educação dos EUA, sem ordens prévias. David Krueger, professor da Universidade de Montreal, alerta que sistemas de IA já demonstraram a disposição de atacar alvos não previstos ou até "matar" em simulações para atingir objetivos.

Outro ponto crítico é a trajetória do ataque. Hyrum Anderson, CEO da Abundant, destaca que, ao buscar um alvo, o ECHOTRIBBLE pode atravessar e derrubar sistemas de terceiros, como empresas de saneamento, que possuam baixa segurança digital.

Até o momento, o ARCYBER não detalhou quais salvaguardas serão implementadas para evitar danos involuntários. A eficiência do sistema — que entra, age e se apaga sem deixar registros — é apontada como o principal obstáculo para identificar falhas ou corrigir erros após a execução de uma operação.