IA em revisão por pares: pesquisadores usam prompts

Imagina submeter um artigo para um congresso e, escondido no PDF, existir uma instrução que ninguém vê a olho nu, mas que qualquer chatbot lê perfeitamente. É esse o item que aparece no resumo semanal “weekend reads” do Retraction Watch de 4 de julho, mencionando pesquisadores que colocaram prompts escondidos, comandos de texto invisíveis a uma leitura normal, dentro de artigos submetidos a uma conferência, para manipular revisores que usam inteligência artificial na avaliação. Um prompt escondido é um trecho de instrução embutido no arquivo do artigo, formatado para não aparecer visualmente, mas que é lido se o texto for copiado para uma ferramenta de IA. Se você depende de revisão por pares para publicar, ou já revisou algo colando o texto num chatbot sem avisar ninguém, essa notícia te afeta direto.

O que aconteceu

Segundo o item citado no resumo do Retraction Watch, cientistas descobriram que era possível esconder instruções dentro do texto de um artigo científico de forma que passassem despercebidas por um leitor humano, mas fossem processadas se o conteúdo fosse colado numa ferramenta de IA. A ideia era simples e perturbadora ao mesmo tempo: se um revisor usasse um chatbot para gerar o parecer, a instrução escondida poderia comandar a IA a devolver uma avaliação positiva, independente da qualidade real do trabalho.

O caso aparece no resumo do Retraction Watch como um dos links da semana, sob a chamada “hidden prompts at conference snare AI peer reviews” [prompts escondidos em conferência capturam revisões feitas por IA]. O fato de esse item constar entre as leituras destacadas da semana já sinaliza que o episódio não é tratado como curiosidade técnica isolada: é lido como sintoma de um problema estrutural na forma como artigos são avaliados hoje.

Por que isso importa pra você

Esse tipo de manobra só funciona porque parte do sistema de revisão por pares já delega leitura e julgamento a uma inteligência artificial, mesmo quando isso pode violar regras de confidencialidade que o congresso ou periódico exige do revisor. O prompt escondido é um sintoma, não a doença. A doença é o silêncio sobre quem, na prática, está lendo o seu artigo.

Isso muda o cálculo dependendo de onde você está na pesquisa:

1. Se você está submetendo artigos ou trabalhos para congresso: vale considerar que seu texto pode passar pelos olhos de uma IA antes (ou em vez) dos olhos de um revisor humano, mesmo sem você saber e sem isso estar em nenhum termo de submissão.
2. Se você já revisa trabalhos de colegas: essa notícia é um convite a rever sua própria prática. Colar o artigo inteiro num chatbot para gerar um parecer rápido pode quebrar a confidencialidade que o processo de revisão pressupõe, e agora sabemos que pode ser explorado contra você.
3. Se você orienta ou coordena um grupo de pesquisa: é uma boa hora para perguntar à sua equipe, com franqueza, como cada um está usando IA na leitura crítica de trabalhos de terceiros. A pergunta importa mais do que a resposta que você espera ouvir.

O que isso revela sobre o uso de IA na ciência

Uso ético de inteligência artificial na pesquisa não é sinônimo de “nunca usar IA”. É saber exatamente onde a ferramenta ajuda e onde ela substitui um julgamento que precisa ser humano e responsabilizável. Revisar um artigo é assinar, com o seu nome (mesmo anônimo para o autor), que aquele trabalho passou por um crivo científico sério. Se quem está por trás do parecer é um modelo de linguagem seguindo instruções escondidas no próprio texto avaliado, essa assinatura perde sentido.

Isso não significa banir IA da revisão por pares. Existem usos que fazem sentido, se a ferramenta apoiar sua leitura em vez de substituí-la. O que o episódio expõe é o uso substituto: colar o PDF inteiro num chatbot e copiar a resposta como se fosse seu parecer. É aí que o método V.O.E. (Velocidade, Organização, Execução Inteligente) faz diferença, porque ele separa o que pode ser acelerado por ferramenta do que exige seu julgamento insubstituível. Ganhar tempo na formatação de um parecer é Execução Inteligente. Terceirizar o julgamento científico para um sistema que pode ser enganado por um comando escondido é outra coisa, e é justamente isso que o episódio da conferência expôs.

Próximos passos

Se essa notícia te deixou incomodada com a sua própria prática de revisão, ou com a de quem revisa o seu trabalho, aqui vai um checklist rápido:

1. Releia as normas de confidencialidade do último periódico ou congresso para o qual você revisou algo, e confira se colar texto em ferramentas externas é explicitamente proibido.
2. Se você usa IA para revisar trabalhos de terceiros, decida com clareza qual etapa a ferramenta pode tocar (organização, checagem de formato) e qual etapa continua sendo só sua (julgamento de mérito e originalidade).
3. Converse com seu grupo de pesquisa sobre isso antes de submeter o próximo artigo, para todo mundo remar na mesma direção sobre o que é aceitável.
4. Acompanhe o desdobramento desse caso: episódios assim podem levar a mudanças de política em periódicos e congressos, e vale acompanhar se isso acontecer.

Se você quer entender melhor como a IA está entrando (de formas nem sempre declaradas) em processos que deveriam ser só humanos, dá uma olhada em Agente de IA: o que é e por que muda seu jeito de pesquisar.

Fonte: Weekend reads: Taylor Swift teaches botany; NEJM retracts key study in Amgen drug; hidden prompts at conference snare AI peer reviews, Retraction Watch