Sam Altman defende cooperação internacional para evitar que a inteligência artificial imponha visões de mundo

Sam Altman, CEO da OpenAI, alertou o Conselho de Segurança da ONU sobre a necessidade de evitar que a inteligência artificial seja utilizada por indivíduos, empresas ou nações para impor visões de mundo específicas. Durante reunião presidida pelo ministro das Relações Exteriores da França, Jean-Noël Barrot, o executivo defendeu que a evolução dos sistemas mais potentes deve ser pautada pela cooperação internacional e permanecer sob rigoroso controle humano.

Riscos de autonomia e supervisão técnica

Um dos pontos centrais da preocupação de Altman reside na velocidade de evolução dos modelos, que pode dificultar a compreensão humana sobre o funcionamento da tecnologia ou a capacidade de intervenção em momentos críticos. O foco de alerta recai sobre sistemas capazes de programar e aprimorar a própria arquitetura.

Para mitigar esse cenário, o CEO da OpenAI propôs:

• Reforço imediato nas avaliações técnicas;
• Implementação de salvaguardas mais rígidas;
• Ampliação dos mecanismos de supervisão antes de qualquer nova expansão de capacidades.

Governança global e competição corporativa

Altman argumentou que a disputa de mercado entre empresas de tecnologia não deve servir de justificativa para a pressa no lançamento de ferramentas. Ele relembrou que a OpenAI já reduziu a velocidade de seus desenvolvimentos de forma unilateral no passado e afirmou que a empresa manterá essa postura sempre que necessário.

A concentração de poder tecnológico foi apontada como a segunda grande ameaça. Segundo o executivo, a influência extraordinária concedida por modelos avançados exige a criação de padrões nacionais e internacionais para a medição de capacidades, verificação de segurança e análise de riscos. Ele sugeriu que, mesmo em contextos de rivalidade geopolítica, as nações devem se unir em prol do bem coletivo diante de tecnologias disruptivas.

Colaboração e impacto humano

O debate no Conselho de Segurança, que reuniu também representantes da Anthropic e Hugging Face, discutiu perigos como a perda de controle sobre os modelos e a ocorrência de ataques cibernéticos autônomos.

Como alternativa ao cenário de substituição, Altman defendeu a criação de uma IA projetada para expandir a capacidade de decisão humana. O executivo concluiu que, embora a OpenAI seja a criadora da tecnologia, a empresa não deve ser a protagonista do processo, delegando o papel principal ao talento humano.