Estudantes de Recife criam ferramenta digital para analisar riscos de publicações nas redes sociais

Estudantes de 14 anos, do 9º ano do Colégio e Curso Desafio, em Recife, desenvolveram o Pense Bem, uma ferramenta digital projetada para analisar o risco de publicações antes que sejam compartilhadas na internet. Criado por Alice Gomes, Beatriz Vasconcellos e Letícia de Oliveira, o sistema busca mitigar os impactos negativos de conteúdos gerados por inteligência artificial e a propagação de fake news.

A plataforma funciona como um filtro preventivo. O usuário submete o conteúdo que pretende postar e a ferramenta realiza um cálculo de risco para prever se a publicação pode gerar um "efeito dominó" negativo ou escalonar danos. Para chegar a esse diagnóstico, o Pense Bem conduz o usuário por uma série de questionamentos, como:

• Se o material foi editado ou gerado por IA;
• Se há a presença de pessoas reconhecíveis e se houve consentimento;
• Se o conteúdo apresenta os fatos conforme ocorreram;
• Se envolve material íntimo, sexual ou nudez de menores de 18 anos ou de qualquer pessoa sem autorização.

Após a análise, a ferramenta classifica o nível de risco e sugere adequações no texto ou na postagem para evitar a desinformação e danos à população.

Combate à desinformação e impacto social

O desenvolvimento do projeto foi fundamentado em pesquisas e entrevistas com especialistas, professores e outros alunos. O grupo identificou que a desinformação digital afeta a socialização, a saúde psicológica dos indivíduos e a estabilidade da democracia, independentemente de períodos eleitorais.

A iniciativa surge em um cenário onde a Unesco classifica a desinformação como o principal risco global para 2025, posicionando-a acima de crises ambientais, fluxos migratórios, violência e terrorismo. As estudantes destacam que a facilidade de criação de textos, imagens e vídeos via IA reduz a tendência do usuário de questionar a veracidade das fontes, especialmente em aplicativos de mensagens como o WhatsApp.

Expansão e educação midiática

Além da plataforma de análise, o projeto prevê a criação de jogos e módulos de formação em educação digital para serem implementados em escolas. Este é o segundo projeto do trio voltado ao tema; anteriormente, as estudantes criaram o "Fato ou Boato", sistema que analisa a veracidade de notícias a partir de links.

A experiência com o desenvolvimento tecnológico motivou Alice e Letícia a considerarem carreiras na área de tecnologia, enquanto Beatriz planeja seguir a medicina. O projeto, que já está no ar mas passará por aprimoramentos antes do lançamento oficial, resultou em uma mudança de comportamento das próprias criadoras quanto ao consumo e compartilhamento de informações online.