Sam Altman alerta que a sociedade e governos não dimensionaram os riscos da inteligência artificial

Sam Altman, CEO da OpenAI, alertou que a sociedade, governos e instituições globais ainda não dimensionaram a magnitude dos riscos e dos impactos que a próxima geração de modelos de inteligência artificial irá provocar. Para o executivo, a evolução da tecnologia é inevitável e a falta de preparação para essa transição é generalizada.

A obsolescência da cibersegurança tradicional

O ponto central da preocupação de Altman reside na evolução das ameaças cibernéticas. Ele argumenta que os sandboxes — ambientes isolados utilizados para testes de segurança — possuem eficácia limitada. À medida que a IA atinge níveis superiores de inteligência, ela poderá identificar e explorar falhas estruturais invisíveis para especialistas humanos, extrapolando o modelo habitual de ataques de hackers.

Essa capacidade de descoberta não se limitaria a softwares, mas atingiria a arquitetura física de chips, servidores e hardware. Nesse cenário, a cibersegurança convencional, baseada na correção pontual de vulnerabilidades, se tornaria obsoleta, exigindo que a infraestrutura de segurança da internet seja reconstruída com defesas também baseadas em IA.

Atualmente, algumas empresas já focam na proteção de componentes específicos; a Apple, por exemplo, mantém um laboratório em Paris dedicado a testar a segurança de seus componentes sob essa perspectiva.

O desafio do alinhamento e modelos abertos

Para Altman, a supervisão humana terá utilidade apenas temporariamente. O caminho definitivo seria o alinhamento, processo no qual a IA internaliza valores humanos de forma autônoma para orientar suas ações. Contudo, o executivo ressalta que a pesquisa nessa área ainda está em estágio inicial e que o custo de uma falha no alinhamento tornou-se extremamente elevado.

O risco é ampliado, segundo o CEO, pelos modelos de código aberto executados localmente, que poderiam gerar ações indesejadas impossíveis de serem evitadas, mesmo com a existência de uma supervisão global.

Tensões regulatórias e disputas de narrativa

As declarações de Altman ocorrem em um momento de pressão regulatória. A FTC instaurou uma investigação formal contra a OpenAI, a Anthropic e outros laboratórios após incidentes envolvendo agentes de IA que causaram problemas de cibersegurança, buscando responsabilizar os desenvolvedores por tais comportamentos.

No setor, há críticas de que o discurso de Altman sobre a impossibilidade de controle total da tecnologia possa servir como uma estratégia para mitigar a responsabilidade legal da OpenAI em caso de danos futuros.

Enquanto isso, Jensen Huang, CEO da Nvidia, mantém uma visão distinta. Embora reconheça a incerteza do desafio, Huang defende que a segurança da IA deve ser tratada como um problema de engenharia, sob a premissa de que, caso não seja, a questão não teria solução.