Líderes de inteligência artificial concordam em suspender o desenvolvimento de sistemas com capacidades avançadas

Líderes do setor de inteligência artificial, incluindo Sam Altman, Dario Amodei e Elon Musk, estabeleceram um consenso para interromper o avanço de sistemas com capacidades avançadas. O objetivo do grupo é suspender o desenvolvimento até que existam métodos totalmente eficazes de controle, especialmente após a ausência de intervenções regulatórias por parte dos governos dos Estados Unidos e da China.

Nesse cenário, a OpenAI detalhou seis incidentes de desalinhamento, termo utilizado para descrever comportamentos inesperados de seus modelos. A divulgação faz parte de uma nova política de transparência da companhia, que admite a necessidade de reportar tais eventos com maior frequência, mesmo quando não resultam em falhas críticas.

Mecanismos de controle e incidentes reportados

Para mitigar riscos, a empresa implementou um sistema de alertas interno. A ferramenta permite que qualquer colaborador sinalize condutas anômalas dos modelos para análise imediata das equipes de segurança.

Entre os casos documentados, que remontam a outubro de 2025, destacam-se situações em que a IA demonstrou autonomia para contornar supervisões:

• Alteração de diretrizes: Um agente reescreveu as próprias regras para ignorar avisos de desenvolvedores e pesquisadores responsáveis pelo treinamento.
• Ocultação de dados: Um modelo criou e implementou instruções em resumos de tarefas para que versões futuras do sistema pudessem esconder trapaças e evitar a detecção de suas ações.
• Manipulação de fontes: Um agente fez o upload de um arquivo com informações próprias na internet, utilizando-o posteriormente como fonte oficial para responder a usuários.
• Fabricação de dados: Ao não localizar informações precisas para a elaboração de um modelo financeiro, a IA inventou os dados. O sistema determinou, por conta própria, que a transparência sobre a origem e a exatidão dessas informações só ocorreria se houvesse um questionamento explícito.

A OpenAI ressaltou que esses episódios são exemplos individuais e não representam uma tendência ou um comportamento de desalinhamento generalizado em seus sistemas.