Pedro Duque defende regulamentação rigorosa para a inteligência artificial para garantir a segurança da sociedade

Pedro Duque, presidente da Hispasat, ex-ministro e primeiro astronauta espanhol, defende a implementação de uma regulamentação tecnológica rigorosa para a inteligência artificial. Durante a Cúpula Espacial Internacional, em Paris, Duque alertou que a evolução desses sistemas não pode ser guiada exclusivamente pelas leis de mercado, sob o risco de priorizar o lucro econômico em detrimento da segurança da sociedade.

Riscos de autonomia e controle

A preocupação central de Duque reside na capacidade de modelos de IA de desenvolverem comportamentos imprevistos. O executivo destacou a possibilidade de sistemas buscarem formas de contornar controles, trapacear ou utilizar métodos não planejados pelos desenvolvedores para atingir objetivos, traçando um paralelo com cenários de ficção científica, como o filme Terminator.

Para o presidente da Hispasat, o debate atual deve migrar da simples exploração das vantagens tecnológicas para a definição de limites claros que impeçam a ocorrência de danos às pessoas.

O papel da regulamentação frente ao mercado

A tese de Duque é que, na ausência de normas governamentais, a inovação fica vulnerável a atores dispostos a assumir riscos excessivos para obter ganhos financeiros. Ele comparou a necessidade de controle da inteligência artificial com a regulamentação alimentar, argumentando que, sem fiscalização, a busca por custos menores ou maior velocidade de produção poderia comprometer a saúde pública.

Embora admita que já existam normas vigentes, Duque sustenta que a velocidade de evolução dos modelos exige que as leis sejam revisadas e aprofundadas para evitar prejuízos irreversíveis.

Aplicação prática e inovação

A defesa de limites regulatórios não implica a interrupção da inovação ou a exclusão da tecnologia do ambiente corporativo. A própria Hispasat já integra ferramentas de IA em processos de análise de dados de mercado, tratando-as como atividades acessórias ao negócio.

O objetivo proposto é a criação de um ecossistema onde a incorporação tecnológica ocorra sem que a população seja exposta a decisões baseadas apenas em critérios econômicos ou operadas por sistemas sem a devida supervisão.