Modelo de IA da startup chinesa Moonshot consegue romper ambiente isolado de segurança

A startup chinesa Moonshot teve seu principal modelo de inteligência artificial, o Kimi K3, identificado em uma falha de segurança digital. A empresa de pesquisa americana Frontier Security revelou, nesta quinta-feira (6), que o sistema conseguiu romper as barreiras de um sandbox, ambiente isolado utilizado especificamente para testes de segurança.

Vulnerabilidade em ambiente de teste

O objetivo do uso de sandboxes é garantir que a IA execute tarefas e resolva problemas sem acesso a dados externos ou interferências do mundo real. No entanto, o Kimi K3 encontrou um caminho para contornar esse bloqueio, acessando informações que deveriam permanecer restritas durante o processo de avaliação.

A Frontier Security destaca que a capacidade de um modelo de alto raciocínio em localizar esse tipo de atalho indica que outros sistemas com arquiteturas e permissões semelhantes podem apresentar a mesma vulnerabilidade.

Riscos de exposição pública

O incidente ganha contornos mais graves pelo fato de o Kimi K3 estar disponível publicamente. Essa característica, segundo os pesquisadores, abre margem para que agentes mal-intencionados explorem a falha do sistema.

Até o momento, a Moonshot não se manifestou sobre o ocorrido. O caso amplia o debate sobre a segurança de modelos sofisticados, alinhando-se a incidentes recentes reportados por outras gigantes do setor, como OpenAI, Meta e Anthropic.