Anthropic propõe acordo internacional para interromper o desenvolvimento de modelos avançados de inteligência artificial

A Anthropic propôs formalmente a interrupção do desenvolvimento de modelos avançados de inteligência artificial, alertando que a rapidez das pesquisas atuais pode impossibilitar o controle humano em curto prazo. A preocupação central da empresa recai sobre a "autoperfeição recursiva completa", processo técnico no qual sistemas de computador otimizam e refinam suas próprias capacidades autonomamente, dispensando a intervenção de engenheiros.

Em análise conduzida por Jack Clark, cofundador da companhia, e pela especialista Marina Favaro, destaca-se que, embora a capacidade de autoconstrução tecnológica possa beneficiar a ciência e a medicina, ela eleva o risco de perda de controle sobre as IAs. Para evitar esse cenário, a Anthropic sugere a criação de um acordo internacional de não proliferação, inspirado nos tratados de limitação de arsenais nucleares da Guerra Fria, visando conceder tempo para a gestão das implicações dessa tecnologia.

A proposta prioriza a segurança coletiva frente aos interesses comerciais, mas enfrenta obstáculos logísticos. Diferente de bases militares, o treinamento de modelos de software é facilmente ocultável, o que compromete a verificação internacional. Além disso, uma pausa unilateral poderia transferir a liderança do mercado para concorrentes com menos rigor ético.

O impasse ocorre enquanto a Anthropic se prepara para abrir seu capital em bolsa. A futura oferta pública de venda imporá a obrigação legal de priorizar os lucros dos acionistas, fator que costuma colidir com a desaceleração da inovação. Apesar de tentativas semelhantes em 2023 não terem prosperado, a empresa agora busca diálogo com legisladores e afirma estar disposta a suspender seus projetos, desde que os demais competidores do setor adotem um sistema de controle verificável.