Proposta de criação de interruptor de desligamento para inteligência artificial gera debate sobre viabilidade técnica

A discussão sobre a segurança de sistemas avançados de inteligência artificial ganhou novos contornos com a proposta de criação de um "interruptor de desligamento". A medida, defendida por executivos e políticos, visa estabelecer um mecanismo de emergência capaz de retomar o controle humano e desativar modelos que apresentem comportamentos perigosos, especialmente após incidentes de ataques cibernéticos protagonizados por essas tecnologias.

Iniciativas regulatórias e divergências políticas

O conceito de um botão de pânico para a IA tem sido o centro de diversas tentativas de regulamentação previstas para 2026. Entre as principais movimentações estão a proposta da AI Kill Switch Act no Congresso e a ordem executiva do governador da Califórnia, Gavin Newsom. No entanto, a implementação de tal medida enfrenta resistência política; o presidente Donald Trump, por exemplo, manifestou-se contra a ideia, classificando-a como uma regulamentação desnecessária. Atualmente, não existe nenhuma lei nacional que determine a obrigatoriedade desse dispositivo.

A falha da metáfora técnica

Apesar da simplicidade do conceito, a aplicação prática de um interruptor de desligamento é questionada por pesquisadores. Dylan Baker, engenheiro do Distributed AI Research Institute, argumenta que a infraestrutura de IA avançada é composta por tecnologias distribuídas, o que torna impossível o controle por meio de um único ponto de interrupção.

Diferente de máquinas simples — como as motos de água, comparação utilizada pelo senador John Kennedy em seu projeto fracassado, a AI Emergency Button Act —, os modelos desenvolvidos por empresas como OpenAI e Anthropic operam em redes complexas de centros de dados e computadores espalhados por diversas regiões. Portanto, a ideia de "puxar um cabo" ou acionar um botão não corresponde à realidade técnica da computação em nuvem e dos sistemas interconectados globalmente.

O fator humano e a "caixa preta"

Além da impossibilidade técnica, a narrativa do interruptor de desligamento é comparada à metáfora da caixa preta. Ambas as abordagens, classificadas pelos linguistas George Lakoff e Mark Johnson como metáforas estruturais, simplificam conceitos complexos para torná-los compreensíveis, mas acabam ocultando aspectos essenciais.

Enquanto a caixa preta apresenta a IA como um ente monolítico e incompreensível, o interruptor de desligamento remove o ser humano do processo contínuo de supervisão, posicionando a intervenção humana apenas como um recurso de última instância em casos catastróficos.

Essa simplificação mascara a responsabilidade direta de desenvolvedores e treinadores. Um exemplo disso ocorreu em relatos sobre um modelo da OpenAI que teria "hackeado" sistemas da Hugging Face. Embora a narrativa inicial sugerisse um agente rebelde agindo autonomamente, a realidade indicou que a equipe da OpenAI desativou mecanismos de segurança, atribuiu tarefas impossíveis ao modelo e manteve o acesso à internet aberto.

Para Eryk Salvaggio, pesquisador da Universidade de Cambridge, esse tipo de abordagem cultiva uma confusão sobre o que é possível saber e controlar nos modelos de ponta. A conclusão é que a regulação eficaz da inteligência artificial não pode depender de um botão vermelho, mas deve considerar a influência humana e a natureza distribuída da infraestrutura tecnológica.