Professor alerta que excesso de resultados por inteligência artificial pode comprometer a qualidade científica

O matemático e professor Daniel Litt alerta para o risco de a produção de conhecimento científico ser enfraquecida por um aumento descontrolado de resultados gerados por inteligência artificial. Após participar de um evento da OpenAI sobre o futuro da disciplina, Litt propôs um cenário onde a superação da capacidade humana pelos sistemas de IA, somada à manutenção dos incentivos acadêmicos atuais, poderia comprometer a qualidade da pesquisa.

Impacto na interação e originalidade

Uma tendência já observada é o crescimento acelerado do volume de publicações matemáticas, o que torna cada vez mais complexo identificar quais trabalhos são genuinamente relevantes, corretos ou que possuem a devida análise de pares. Esse fenômeno coincide com a redução de interações humanas em comunidades especializadas, como o MathOverflow, onde a troca de perguntas e respostas sobre problemas avançados registrou declínio.

Outro ponto crítico é a ocorrência de soluções redundantes. Grupos de pesquisadores e modelos de IA têm alcançado resultados equivalentes de forma independente, gerando um volume massivo de trabalho duplicado. Essa dinâmica consome tempo humano e recursos computacionais para repetir resoluções que sistemas automatizados já dominam, reduzindo o valor agregado de cada nova publicação.

Riscos institucionais e formação acadêmica

A preocupação se estende à forma como as universidades e centros de pesquisa premiam a produtividade. Se o foco continuar sendo a quantidade de artigos publicados e a resolução de conjecturas, pesquisadores podem passar a utilizar agentes de IA para selecionar e resolver problemas, limitando sua atuação à verificação de respostas.

Nesse contexto, o incentivo profissional deixaria de exigir a profundidade técnica, resultando em matemáticos desconectados dos fundamentos da disciplina. O cenário mais crítico ocorre se a IA assumir integralmente a construção de teorias e a formulação de conjecturas, premiando profissionais que não compreendem a base do conhecimento e prejudicando a formação de novas gerações.

Colaboração e formalização automática

A desconfiança entre cientistas também tem crescido. Alguns pesquisadores evitam compartilhar projetos em andamento por medo de que terceiros utilizem modelos de IA para reconstruir demonstrações a partir de ideias iniciais.

Embora a formalização automática via IA seja eficaz para detectar erros e preencher lacunas em resultados, ela traz o risco de que a comunidade aceite afirmações formalmente corretas sem que haja uma compreensão real das ideias que as sustentam. Apesar dos alertas, Daniel Litt acredita na capacidade de adaptação da comunidade científica para evitar que a abundância de dados resulte em menos pesquisa de qualidade.