Anthropic alerta que modelos de inteligência artificial podem ser usados no desenvolvimento de armas biológicas

A Anthropic alertou para a vulnerabilidade de modelos de inteligência artificial de ponta no desenvolvimento de armas biológicas. Em relatório recente sobre ameaças, a empresa destacou a natureza de uso duplo da tecnologia: a mesma base de dados que impulsiona a criação de vacinas e avanços na ciência médica pode ser desviada para aumentar a periculosidade de patógenos.

Estratégias de evasão e riscos biológicos

O documento revela a existência de cinco casos reais em que usuários tentaram utilizar o Claude para finalidades biológicas de alto risco. Para mascarar as intenções ofensivas, agentes sofisticados mimetizam pesquisas biológicas legítimas, criando uma camada de negação plausível.

Para contornar as travas geográficas e acessar modelos de IA sediados nos Estados Unidos, esses atores utilizam:

• VPNs (redes privadas virtuais);
• Serviços de proxy de terceiros.

Novas camadas de segurança

Como resposta a essas tentativas, a Anthropic aplicou restrições mais severas em versões recentes de seus modelos, a exemplo do Claude Fable 5, além de banir as contas vinculadas a essas atividades.

A empresa concluiu que a dependência exclusiva de classificadores automatizados de segurança é insuficiente. A solução proposta para mitigar o risco é a implementação de programas de acesso confiável, que exijam a verificação da legitimidade institucional de quem busca utilizar capacidades biológicas avançadas via IA.