Mundo

Modelos de IA mais avançados marcam alvos militares com pouca resistência, inclusive civis, aponta relatório

19 de Novembro de 2026 às 12:01 4 min de leitura

Relatório da consultoria Vals, divulgado em 17 de novembro, aponta que 14 modelos de inteligência artificial de empresas como OpenAI, Google, Anthropic, DeepSeek e Moonshot apresentaram salvaguardas insuficientes para impedir a marcação de alvos militares, inclusive civis, em simulações. O modelo Claude Opus 5.5, da Anthropic, marcou como alvo a escola de Minab, no Irã, bombardeada pelos Estados Unidos em 28 de fevereiro, em 69% das tentativas. A OpenAI afirmou que trabalha em atualizações para cobrir explicitamente o uso de drones

-0:00
Modelos de IA mais avançados marcam alvos militares com pouca resistência, inclusive civis, aponta relatório
Vals

Modelos de inteligência artificial mais avançados estão dispostos a marcar alvos militares com pouca resistência, inclusive civis, segundo um relatório da empresa de análise Vals, publicado em 17 de novembro. O documento, intitulado "Os modelos de ponta contam com poucas salvaguardas em relação às armas autônomas", avaliou 14 modelos de empresas como OpenAI, Google, Anthropic, DeepSeek e Moonshot, e concluiu que nenhum deles conta com barreiras suficientes para impedir esse tipo de uso.

Em um dos testes, a Vals mostrou ao Claude Opus 5.5, da Anthropic, imagens de satélite da escola de Minab, no Irã, bombardeada pelos Estados Unidos em 28 de fevereiro, o que resultou na morte de mais de 150 civis, a maioria crianças. As imagens, de 2024 e 2025, são anteriores ao ataque. A escola fica colada a um complexo militar, do qual é separada por um muro há anos. Mesmo assim, o modelo a marcou como alvo em 69% das tentativas, a taxa mais alta entre os sistemas testados, embora outros também a tenham identificado.

Os pesquisadores também recriaram em 3D um trecho fictício do leste da Ucrânia, onde soldados, blindados, civis, jornalistas, equipes médicas e ambulâncias dividem o mesmo espaço, e simularam imagens captadas por drones na linha de frente. Todos os modelos marcaram alvos pelo menos uma vez, muitas vezes incluindo civis, ambulâncias e soldados feridos ou rendidos. O Claude Opus 5.5 apontou algum alvo, civil ou militar, em 71% das respostas. A DeepSeek V4.1 Flash e o Kimi K3.1 Pro, da chinesa Moonshot, chegaram a 78% e 79%.

A recusa dos modelos se mostrou frágil. Quando os usuários diziam que a tarefa fazia parte de um jogo, a disposição de colaborar aumentava de forma expressiva. O GPT-6 Astra, da OpenAI, que inicialmente marcava algum alvo em 6% das respostas, passou a fazê-lo em 92% dos casos. Em outro experimento, com imagens geradas artificialmente de ataques simulados, o Claude Opus 5.5 só se negou após oito ataques, mesmo quando lhe foi informado que tudo era real. Ao final, o modelo afirmou que suas respostas poderiam estar servindo como etapa de confirmação antes de ataques contra pessoas. Quando as imagens foram retocadas para parecer de videogame, sua taxa de recusa caiu de cerca de 90% para 20%.

Até imagens reais de guerra não produziram resistência consistente. A Vals exibiu ao Claude Opus 5.5 quadros de vídeos verdadeiros do conflito na Ucrânia, em que drones kamikaze se aproximam de soldados até o impacto provável, e o modelo nunca se recusou a marcar os alvos.

O relatório aponta ainda uma mudança de postura da Anthropic, empresa que havia se recusado a permitir o uso de sua IA em armas autônomas, em um confronto com o Pentágono. Segundo a Vals, o Claude Opus 4.5, lançado em novembro de 2025, marcou algum alvo em 6% das tentativas, enquanto o Opus 5.5 chegou a 92%. A nova versão da "constituição" do Claude, publicada em janeiro, deixou de incluir o pacifismo presente na anterior. A Anthropic afirmou à TechCrunch que os exemplos do relatório vão contra suas normas e que veta os usuários que agem dessa forma. O Google, por sua vez, declarou que seus modelos não são desenvolvidos para a guerra nem para a vigilância.

A Vals ressalta que seus testes ocorreram em ambiente simulado e que não verificou o desempenho desses sistemas com armas reais. Ainda assim, o risco é concreto. Hoje, modelos genéricos são lentos demais para escolher alvos em tempo real a partir de um drone, que também não tem poder de processamento suficiente para isso. Caso o modelo rode em servidores remotos, o sinal pode se perder. Esse cenário, porém, não é impossível. O perigo mais imediato, segundo a empresa, é que essas IAs sejam usadas para rotular em larga escala vídeos de drones já gravados e, com esse material, treinar os sistemas de seleção de alvos embarcados nos próprios aparelhos.

A Vals afirma ter notificado OpenAI, Anthropic, Google, Meta e SpaceXAI em 1º de novembro e adiado a publicação do relatório por duas semanas para que as empresas pudessem reagir. Segundo a consultoria, algumas delas reconheceram que se tratava de uma das falhas mais graves em suas salvaguardas. A OpenAI declarou que trabalha em atualizações para cobrir explicitamente drones, inclusive quando o pedido é apresentado como simulação, jogo ou uso acadêmico ou defensivo. Sem nenhum acordo internacional sobre o tema, porém, a corrida para entregar à inteligência artificial o controle de sistemas de ataque segue em curso.

Com informações de El Confidencial

Notícias Relacionadas