IA pode levar cientistas a publicar mais artigos de pior qualidade, sugere estudo
Pesquisa teórica mostra que, mesmo funcionando perfeitamente, modelos de linguagem podem piorar a ciência ao economizar tempo que é usado para começar novos projetos em vez de melhorar os existentes.
Um estudo teórico argumenta que a inteligência artificial pode piorar a ciência ao economizar tempo que cientistas usam para começar novos projetos em vez de aprofundar os existentes. Em dois de três cenários modelados, a qualidade média de cada publicação caiu após a adoção de IA, mesmo assumindo que os modelos de linguagem funcionem sem erros.
Um novo estudo teórico argumenta que a inteligência artificial pode estar prejudicando a qualidade da pesquisa científica — mesmo que os modelos de linguagem (sistemas de IA que geram e entendem texto, como o ChatGPT) funcionassem perfeitamente. A conclusão, publicada por pesquisadores que modelaram matematicamente o comportamento de cientistas, é contraintuitiva: ao economizar tempo, a IA não leva pesquisadores a fazer menos trabalho melhor, mas sim a fazer mais trabalho de forma mais superficial.
A lógica por trás da previsão é econômica. Quando a IA acelera tarefas como escrever introduções, revisar literatura ou formatar dados, cada hora restante do pesquisador se torna mais valiosa — afinal, ele agora pode produzir mais no mesmo período. Segundo o estudo, divulgado pelo site The Decoder, isso cria um incentivo para começar novos projetos em vez de investir tempo polindo e aprofundando os estudos já em andamento.
Os pesquisadores construíram três cenários diferentes usando modelos matemáticos. Em dois deles, a qualidade média de cada publicação individual caiu depois da adoção de ferramentas de IA. O problema não está em erros ou alucinações (quando um modelo de linguagem inventa informações falsas apresentando-as como fatos) — mesmo assumindo que a tecnologia funcione sem falhas, o efeito persiste.
A raiz da questão está no sistema de incentivos da ciência acadêmica, onde quantidade de publicações costuma pesar mais do que qualidade na avaliação de carreiras. Se a IA torna mais fácil produzir um artigo mediano, pesquisadores racionais vão preferir publicar cinco estudos regulares a investir o mesmo tempo em um único trabalho excepcional. O estudo não propõe soluções, mas levanta um alerta: acelerar a produção científica sem mudar como avaliamos e recompensamos pesquisa pode ter o efeito oposto do desejado.
