Uso de inteligência artificial na ciência acelera descobertas mas gera crise de confiança acadêmica

A integração da inteligência artificial (IA) na ciência tem acelerado descobertas complexas, mas também instaurado uma crise de confiança sobre a originalidade e a precisão de pesquisas acadêmicas. Enquanto a tecnologia permite processar volumes de dados impossíveis para a mente humana, surge o risco de que a automação comprometa a integridade do método científico.

O potencial de aceleração biológica e material

A capacidade de processamento da IA já demonstrou resultados históricos. A Google DeepMind, por exemplo, desenvolveu o AlphaFold, modelo que previu a estrutura de 200 milhões de proteínas em um ano — tarefa que exigiria centenas de milhões de anos em laboratório. O feito, que rendeu o Prêmio Nobel de Química aos líderes do projeto, é fundamental porque a forma das proteínas define funções vitais, como o combate a infecções.

Essa tendência de "mapear a biologia" é seguida por iniciativas como a Basecamp Research, em Londres. A empresa armazena 100 bilhões de genes com o objetivo de criar uma IA capaz de compreender a linguagem biológica, utilizando uma lógica similar aos Large Language Models (LLMs), como o ChatGPT. O médico Oliver Vince, cofundador da Basecamp, busca aplicar essa tecnologia na busca por curas para o câncer.

A DeepMind também expandiu sua atuação para a previsão de novos materiais, alegando ter identificado mais de 2 milhões de estruturas cristalinas. No entanto, a descoberta foi questionada por químicos da Universidade da Califórnia, que, após análise de amostras, argumentaram que muitos desses compostos eram adaptações triviais de materiais já conhecidos, evidenciando o risco de a IA superestimar a importância de seus achados.

Riscos à integridade e a "alucinação" científica

Apesar dos avanços, a ciência enfrenta o fenômeno da "alucinação", onde a IA gera informações falsas. Na academia, isso se manifesta no AI slop (conteúdo tosco), com a criação de artigos que citam estudos inexistentes. Uma pesquisa da Universidade de Cornell revelou que, no ano passado, cerca de 147 mil referências bibliográficas inventadas foram citadas em trabalhos científicos.

Outros problemas detectados incluem:

• Contaminação de publicações: Um estudo do professor Dmitry Kobak, da Universidade de Ghent, indicou que quase 90% de mais de 1 milhão de artigos biomédicos analisados apresentavam indícios de uso de IA até dezembro de 2023.
• Comprometimento da revisão por pares: Pesquisadores de Stanford constataram que até 17% dos pareceres de avaliadores em conferências de ciência da computação foram substancialmente alterados por modelos de linguagem.
• Dúvidas sobre originalidade: A OpenAI enfrentou questionamentos do matemático Tristan Buckmaster, da Universidade de Nova York, que suspeitou que rascunhos de sua pesquisa, armazenados na ferramenta Codex, pudessem ter influenciado a solução de um problema matemático (equações de Navier-Stokes) anunciada pela empresa. A OpenAI negou o acesso aos dados.

Medidas de controle e a importância da supervisão humana

Para conter a erosão da confiança, editoras como a Elsevier implementaram cerca de 100 indicadores para identificar textos que exijam rigorosa avaliação humana. Já as revistas do grupo Nature proibiram imagens geradas por IA, e a plataforma arXiv passou a suspender por um ano pesquisadores que utilizem referências inventadas.

Especialistas alertam que a dependência excessiva da automação pode levar ao descarte de anomalias que, historicamente, foram a base de grandes descobertas, como a penicilina e a radioatividade. A intuição humana permanece essencial para reconhecer a importância de resultados inesperados.

O uso responsável da tecnologia, porém, continua viável. A professora Andrea Pauli, do Vienna BioCenter, utilizou a IA para auxiliar na descoberta de uma proteína no peixe-zebra que funciona como uma "chave" para a entrada do espermatozoide no óvulo. Para Pushmeet Kohli, da DeepMind, a IA deve ser vista como uma calculadora: uma ferramenta poderosa, mas que exige que o cientista assuma a responsabilidade final pelo resultado e pela veracidade das conclusões.