Ex-assessor da Casa Branca alerta para riscos de catástrofes causadas por sistemas de inteligência artificial

Dean Ball, ex-assessor de inteligência artificial na Casa Branca durante a gestão de Donald Trump e atual integrante da OpenAI, alerta que o risco mais crítico para os próximos cinco anos não reside na substituição de postos de trabalho, mas na possibilidade de catástrofes causadas por sistemas de IA fora de controle ou manipulados para fins criminosos.

Regulação e Segurança Cibernética

Durante sua participação no Fórum La Toja, na Espanha, Ball discutiu a necessidade de aprimorar a governança sobre a tecnologia. Embora reconheça que a legislação vigente nos Estados Unidos — como as normas sanitárias para a saúde e as regulamentações bancárias para o setor financeiro — possa cobrir diversas aplicações da inteligência artificial, ele defende a criação de novas camadas de controle.

O foco dessa nova regulamentação deve recair sobre a prevenção de danos em larga escala. Ball destaca que a capacidade de a IA ser utilizada por grupos terroristas ou criminosos para a execução de crimes cibernéticos e até para o desenvolvimento de armas biológicas exige que os desenvolvedores implementem proteções nativas e rigorosas nos sistemas.

Para o executivo, a escala do potencial destrutivo dessas ferramentas justifica a urgência em incentivar a indústria a criar barreiras contra o uso inadequado, paralelamente a um reforço na aplicação da lei voltada à segurança cibernética.