União Europeia inicia aplicação de regras de transparência para a inteligência artificial

A União Europeia iniciou, em 2 de agosto, a aplicação de novas obrigações de transparência estabelecidas pelo AI Act, o Regulamento Europeu de Inteligência Artificial. A medida visa garantir que cidadãos e instituições consigam distinguir conteúdos autênticos de produções sintéticas, exigindo a identificação clara de deepfakes e a implementação de mecanismos que revelem a origem de informações manipuladas ou geradas por sistemas automatizados.

Da experimentação à responsabilidade técnica

A nova legislação marca a transição da inteligência artificial de uma fase de experimentação para um modelo baseado em gestão de riscos, rastreabilidade e responsabilidade. Mais do que a simples rotulagem de conteúdos, a norma obriga as organizações a detalharem o funcionamento de seus sistemas, incluindo a origem dos dados utilizados no desenvolvimento, a supervisão das decisões e a mitigação de vieses.

A governança agora exige a capacidade de explicar como a IA alcança recomendações ou conclusões, transformando a transparência em um requisito para a adoção generalizada da tecnologia por empresas e administrações públicas, que necessitam de controle e auditoria para operar com segurança.

Riscos de segurança e a Shadow AI

A expansão da IA ampliou a superfície de exposição a ataques e falhas, tornando a segurança cibernética um pilar central da conformidade. Um dos principais desafios identificados é a Shadow AI, que ocorre quando funcionários e departamentos utilizam ferramentas de IA generativa sem o conhecimento ou controle dos mecanismos de supervisão da organização.

Essa prática compromete a proteção de dados e a conformidade regulatória, especialmente quando esses sistemas são conectados a bancos de dados, e-mails e aplicações críticas. Para mitigar esses riscos, a legislação e as boas práticas de segurança sugerem:

• Criação de um inventário confiável de todos os sistemas de IA em uso;
• Controle rigoroso dos dados de entrada e limitação de privilégios de acesso;
• Implementação de auditorias para garantir a rastreabilidade de incidentes;
• Adoção de ferramentas para detecção de comportamentos anormais.

Impacto na gestão pública e prazos

No setor público, a exigência de transparência é ainda mais rigorosa. As administrações devem assegurar que qualquer decisão automatizada seja revisável e protegida contra erros ou manipulações, garantindo a confiança do cidadão nos serviços governamentais.

Embora a simplificação do cronograma europeu tenha adiado algumas obrigações para sistemas de alto risco para os anos de 2027 e 2028, as regras de transparência já são exigíveis. O cumprimento do AI Act demandará a integração entre as áreas jurídica, de negócios, de proteção de dados e de segurança cibernética para evitar lacunas de controle operacional.