DARPA desenvolve sistema de inteligência artificial descentralizada para coordenação de ações em combate

A Agência de Projetos de Pesquisa Avançada de Defesa dos EUA (DARPA) iniciou o desenvolvimento do programa DICE (Inteligência Artificial Descentralizada através da Emergência Controlada), cujo objetivo é criar um ecossistema de milhares de agentes de IA capazes de coordenar ações e tomar decisões em combate sem a necessidade de controle humano ou de um comando central.

A iniciativa busca acelerar a tomada de decisão em cenários de guerra, substituindo a estrutura atual de orquestração centralizada. Nos sistemas vigentes, um núcleo processa todas as informações e distribui tarefas, o que gera gargalos técnicos devido aos limites de contexto (quantidade de dados processados) e de inferência (capacidade de computação). Para a DARPA, essa dependência de um nó central cria um ponto único de falha: se a comunicação for interrompida ou o orquestrador for comprometido, todo o sistema é prejudicado.

Funcionamento e "Emergência Controlada"

A nova abordagem propõe a substituição da hierarquia por um modelo similar a um mercado de tarefas. Nesse formato, cada agente de IA avalia a missão, oferece-se para a parte que consegue resolver e informa a execução ao grupo via consenso. Caso um agente falhe, a tarefa é automaticamente redistribuída aos demais, sem a necessidade de reformular todo o plano estratégico.

Esse conceito, denominado "emergência controlada", busca equilibrar liberdade e disciplina, mimetizando comportamentos biológicos como os de bandos de aves ou colônias de formigas. O objetivo é que o grupo atinja uma coordenação sofisticada mesmo que nenhum agente individual compreenda a totalidade do plano.

Mecanismos de Controle e Segurança

Para evitar que a autonomia resulte em caos, a DARPA implementará métodos de correção distintos conforme a natureza do software:

• Modelos abertos: Será utilizada a técnica de "direcionamento de ativações". Ao identificar um "vetor de papel" (padrão interno que indica a função da IA), os pesquisadores poderão corrigir agentes que se desviem de suas atribuições.
• Modelos de código fechado: Como funcionam como "caixas pretas", a correção ocorrerá externamente através da edição de memórias de interações, restrição de ferramentas ou criação de incentivos para a colaboração.

Cronograma de Implementação

O projeto terá duração de 36 meses, divididos em três etapas de simulação:

1. Fase inicial (9 meses): Testes com 500 agentes e 5.000 interações para comparar a descentralização com sistemas centralizados.
2. Segunda fase: Expansão para 5.000 agentes e 50.000 interações, introduzindo variáveis adversas, como agentes infiltrados, falhas e informações falsas.
3. Fase final (12 meses): Simulações com 100.000 agentes e até um milhão de mensagens, incluindo a capacidade de agentes de IA criarem novos agentes.

Impacto Prático e Riscos

Na prática, o sistema permitiria adaptações instantâneas. Um exemplo seria um veículo de suprimentos que, ao detectar a queda de comunicações de sua unidade, decidiria autonomamente atuar como um nó de transmissão para restaurar a rede, sem ter sido programado previamente para isso.

Embora o DICE seja, no momento, um programa de simulação e não preveja o lançamento de sistemas autônomos reais, ele assume a imprevisibilidade como vantagem estratégica. A DARPA argumenta que sistemas perfeitamente guiados são previsíveis para o inimigo. O projeto admite riscos como colusão entre agentes, desvio de funções e comportamentos desalinhados com a missão, mas aposta que a capacidade emergente é o que tornará a IA valiosa em ambientes de combate dinâmicos.