Sam Altman defende a criação de limites e controles rigorosos para a evolução da inteligência artificial

Sam Altman, CEO da OpenAI, defende que a evolução da inteligência artificial deve ser acompanhada por limites e controles rigorosos para evitar que o avanço tecnológico se torne irreversível. O executivo argumenta que a prioridade das empresas de vanguarda deve ser a implementação de mecanismos de segurança que evoluam na mesma velocidade que as capacidades dos modelos.

Riscos ao controle humano e concentração de poder

O gestor identifica dois cenários críticos que precisam ser evitados. O primeiro é a perda de controle humano sobre sistemas cada vez mais autônomos, reforçando que a IA deve atuar estritamente a serviço das pessoas. Para mitigar esse risco, Altman sustenta que as técnicas de alinhamento e segurança devem preceder a expansão das capacidades dos modelos.

O segundo risco reside na governança da tecnologia. Altman alerta para a possibilidade de uma concentração excessiva de poder, onde um único país, empresa, laboratório ou indivíduo detivesse o controle de uma IA avançada, podendo impor sua visão globalmente, o que resultaria em cenários distópicos.

Propostas de regulação e mudanças internas

Para enfrentar esses desafios, o CEO da OpenAI propõe a criação de um marco federal nos Estados Unidos. Esse sistema estabeleceria requisitos de segurança padronizados para todas as empresas do setor, utilizando a fiscalização de auditores independentes para garantir a responsabilidade no desenvolvimento de tecnologias capazes.

Internamente, a OpenAI já alterou seus processos. Enquanto as políticas anteriores focavam na implantação de modelos finalizados, a empresa agora prioriza a segurança durante a fase de desenvolvimento. Isso inclui a formulação de casos de segurança específicos antes de etapas de aprendizado por reforço, fase em que as capacidades do modelo costumam sofrer saltos significativos.

Equilíbrio entre inovação e segurança

A estratégia não visa interromper a evolução da inteligência artificial, mas sim ajustar sua cadência. Altman afirma que o progresso continuará rápido, porém deve ser mais lento do que o limite técnico permitiria. Segundo o executivo, investir em supervisão e alinhamento é um custo necessário para impedir que a competição comercial ou geopolítica priorize a potência da IA em detrimento do controle humano.