Plataformas de tecnologia implementam ferramentas para identificar e denunciar conteúdos gerados por inteligência artificial

Empresas de tecnologia estão implementando mecanismos para que usuários denunciem ou identifiquem conteúdos gerados por inteligência artificial. O movimento visa combater o chamado AI slop — termo utilizado para descrever a inundação de materiais de baixa qualidade, como textos, vídeos e imagens produzidos em massa para atrair visualizações e gerar lucro, mas que carecem de valor real para o consumidor.

A facilidade de uso das ferramentas de IA acelerou a produção desses conteúdos, levando plataformas a adotarem medidas rigorosas para "limpar" seus feeds e proteger a reputação de suas marcas, evitando a percepção de que a tecnologia serve apenas para criar publicações falsas.

Novas ferramentas de detecção e denúncia

Diversas plataformas atualizaram suas políticas e interfaces para lidar com a produção automatizada:

• LinkedIn: Implementou um botão de denúncia específico para postagens que "parecem lixo de IA". A rede social está desenvolvendo classificadores para reduzir a recomendação desses conteúdos fora da rede de contatos do usuário.
• Substack: Em parceria com o software Pangram, a plataforma de newsletters agora exibe a porcentagem estimada de texto escrito por IA, indicando se o material é 100% humano, assistido ou totalmente gerado por máquina.
• Snapchat: No feed Spotlight, a empresa deixou de recomendar publicações totalmente geradas por IA, mantendo a elegibilidade apenas para conteúdos editados ou aprimorados pela tecnologia, desde que possuam indicadores de transparência.
• YouTube: A plataforma removeu a monetização de vídeos genéricos com narrativas repetitivas feitas por IA, exigindo que os criadores entreguem histórias e ensinamentos que agreguem valor real ao público.
• TikTok e Instagram: Já disponibilizam a opção para que os próprios usuários sinalizem quando suas publicações contaram com o auxílio de IA.

Padronização técnica e regulação global

A pressão por transparência também é impulsionada por marcos regulatórios, como o AI Act da União Europeia. O artigo 50 da norma, em vigor desde 2 de agosto, obriga a identificação clara de conteúdos manipulados ou gerados por IA. Para se adequar, o Claude passou a identificar textos e imagens criados por sua tecnologia.

No campo técnico, o Google expandiu o uso do SynthID, tecnologia de identificação de imagens e vídeos sintéticos, que será incorporada aos produtos da OpenAI, Kakao e ElevenLabs.

Riscos de desinformação e a "corrida" tecnológica

A urgência em controlar a IA reflete riscos concretos de segurança. Recentemente, o Google precisou remover um recurso do Google Earth que criava imagens falsas a partir de satélites reais, após a ferramenta ser utilizada para gerar cenas fictícias de guerras em locais reais.

Especialistas apontam que a disputa entre a criação de modelos de IA e o desenvolvimento de detectores é constante. Como cada nova geração de modelos busca escapar da identificação, a infraestrutura de rotulagem deve evoluir continuamente, sem a perspectiva de um padrão único e estabilizado a curto prazo.