União Europeia exige transparência em sistemas de inteligência artificial sob pena de multas milionárias

A União Europeia iniciou a implementação de novas regras de transparência para sistemas de inteligência artificial, exigindo que plataformas informem explicitamente aos usuários quando houver interação com máquinas ou quando conteúdos forem alterados por essas tecnologias.

A medida impacta diretamente desenvolvedores de ferramentas como o ChatGPT (OpenAI), Gemini (Google) e Claude (Anthropic), que devem projetar seus sistemas para garantir a identificação imediata da natureza artificial da interação. A regra se estende a serviços públicos, ferramentas de atendimento corporativo e sistemas de gestão de denúncias de fraude.

Fiscalização e Penalidades

Para assegurar o cumprimento das normas, a Comissão Europeia ampliou as competências da Agência de Inteligência Artificial. O órgão agora possui autoridade para supervisionar modelos generativos e aplicar sanções.

As penalidades para empresas que violarem as obrigações podem chegar a 15 milhões de euros ou 3% do faturamento anual global, prevalecendo o valor mais alto. No caso de descumprimentos por instituições ou organismos da própria UE, a multa pode atingir 750 mil euros.

Identificação de Conteúdo e Restrições

A partir de 2 de dezembro, entra em vigor a obrigatoriedade de marcas d'água em textos, imagens, vídeos ou áudios manipulados, facilitando a identificação da origem artificial pelo cidadão.

Existem diretrizes específicas sobre a responsabilidade e a aplicação dessas regras:

• Responsabilidade do usuário: Em serviços como redes sociais e chatbots, a obrigação de informar a alteração do conteúdo recai sobre o usuário, e não sobre a plataforma.
• Interesse público: Conteúdos sobre saúde pública, processos eleitorais, informações judiciais ou temas de debate público devem ser sinalizados, a menos que passem por revisão humana prévia.
• Exceções: As regras de sinalização não se aplicam a obras artísticas, satíricas ou de ficção.
• Biometria: O uso de IA para categorização biométrica ou reconhecimento de emoções exige aviso prévio aos analisados, exceto em casos legais para prevenção ou perseguição de crimes.

Ainda em dezembro, será proibida a criação de imagens sexualizadas via IA sem consentimento. A medida surge após controvérsias envolvendo o Grok, ferramenta da rede social X, que deve implementar salvaguardas até o fim do ano.

Auditoria de Modelos de Alto Risco

A Agência de IA já pode solicitar a empresas como a Anthropic o acesso a modelos classificados como de alto risco, a exemplo do Mythos, para a avaliação de perigos inerentes.

Atualmente, Bruxelas negocia com a Anthropic um acordo para que a Agência de Cibersegurança da UE (ENISA) examine o Mythos sem expor informações sensíveis ou comprometer infraestruturas críticas europeias.

Apesar do avanço regulatório, existem questionamentos sobre a capacidade técnica da Comissão para realizar tais auditorias e sobre a viabilidade do acesso aos modelos caso os Estados Unidos imponham restrições a cidadãos estrangeiros, como ocorreu temporariamente em junho.