IA e religião: por que respostas de chatbot preocupam

Você já perguntou alguma coisa a um chatbot e recebeu uma resposta que parecia segura, mas que, ao checar a fonte original, não batia? Um pesquisador que passou quase quatro anos estudando a interseção entre inteligência artificial e religião documentou justamente esse problema, e o motivo por trás dele interessa a qualquer pessoa que usa IA para pesquisar, não só a quem estuda religião.

Em manifesto recente, ele descreve conversas com mais de 200 profissionais entre engenheiros de IA, líderes de tecnologia, formuladores de políticas e líderes religiosos. A conclusão central: os modelos de linguagem ainda dão respostas inconsistentes sobre tradições religiosas, e isso vem de um problema estrutural, não de falta de dados. Uma fonte secundária é uma fonte que já passou por interpretação alheia antes de chegar até você, em contraste com o documento, o texto ou o registro original que ela resume. É exatamente essa distinção que a IA embaralha quando responde.

O que aconteceu

O pesquisador argumenta que a humanidade está numa transição sem precedente: de uma espécie que buscava conhecimento em fontes primárias para uma que passa a buscar conhecimento em fontes secundárias, via IA generativa. Isso coloca o modelo de linguagem numa posição de intermediário epistemológico, decidindo o que conta como resposta confiável antes que a pessoa chegue à fonte original.

O problema técnico que ele descreve é concreto: termos polissêmicos. Palavras como “atonement” (expiação, no contexto cristão) significam coisas diferentes em tradições religiosas distintas, e isso pode levar o modelo a equivocar o sentido, misturando definições de contextos diferentes. Não é um erro de opinião, é um erro de desambiguação semântica.

Diante disso, ele testou duas soluções que, segundo ele, falham: primeiro, o modelo tenta arbitrar qual religião está “certa” (o que ele chama de framework verdadeiro/falso), gerando viés e risco de contestação. Segundo, o modelo tenta agradar todo mundo listando cada religião em poucas linhas (o framework pluralista simples), o que produz respostas curtas demais para serem completas e ainda parece tratar todas as posições como igualmente sustentadas, mesmo quando não são.

Por que isso importa pra você

Se você pesquisa qualquer área, essa história não é sobre religião, é sobre como um modelo de linguagem lida com pergunta que tem várias respostas legítimas e nenhuma resposta neutra. Pense em quantas vezes você já pediu a uma IA um resumo de uma controvérsia teórica na sua própria área.

1. Se você usa IA para levantamento bibliográfico: se um termo como “atonement” já confunde tradições religiosas dentro do mesmo modelo, vale considerar que termos técnicos com sentidos diferentes entre escolas teóricas da sua área também podem gerar ambiguidade. Vale checar a definição na fonte primária, não só aceitar a paráfrase do modelo.
2. Se você usa IA para entender um debate acadêmico: pergunte explicitamente de qual perspectiva teórica a resposta está vindo. Sem essa pergunta, existe o risco de receber uma síntese que mistura posições divergentes e parece neutra, sem ser.
3. Se você está escrevendo revisão de literatura: uma resposta de chatbot pode te dar o mapa geral da discussão, mas a citação no seu texto precisa remontar ao documento original, nunca à síntese da IA.

O modelo de resposta que ele propõe (e o que ele revela sobre a IA)

A proposta central do manifesto é um terceiro caminho, que ele chama de framework pluralista principiado. A resposta do modelo tem três partes: primeiro, declara explicitamente de qual perspectiva está respondendo (“você perguntou sobre X, e a resposta a seguir vem da perspectiva de Y”); segundo, desenvolve essa perspectiva com profundidade, sem tentar caber todas as tradições em poucas palavras; terceiro, encerra oferecendo à pessoa a opção de pedir outras perspectivas.

Essa estrutura funciona porque separa duas coisas que o modelo costuma misturar: apresentar o que uma tradição afirma, e decidir se essa afirmação é verdadeira. O modelo passa a fazer só a primeira coisa, com clareza sobre o recorte escolhido. É uma solução de engenharia de prompt e de treinamento, não de opinião: ela resolve o problema declarando a moldura da resposta em vez de fingir que não existe moldura nenhuma.

Isso tem relação direta com o Método V.O.E. (Velocidade, Organização, Execução Inteligente), especificamente a parte de Organização: usar IA de forma útil na pesquisa exige saber pedir a moldura certa, o recorte certo, a atribuição certa. Um prompt que não especifica de qual referencial teórico você quer a resposta vai receber a mesma mistura difusa que o manifesto descreve para religião.

O que fica pra quem pesquisa

Não significa que você precisa desconfiar de toda resposta de IA a partir de hoje. Significa que vale entender o risco que o manifesto descreve: em perguntas com múltiplas respostas legítimas e nenhuma resposta neutra, o modelo pode arbitrar sem avisar, ou diluir tudo numa síntese que parece completa e não é.

1. Ao usar IA para levantar bibliografia, pergunte explicitamente qual referencial teórico sustenta a resposta.
2. Antes de citar qualquer síntese de IA no seu texto, rastreie até o documento original.
3. Se a resposta parecer neutra demais para um tema controverso, é sinal de que ela dissolveu posições divergentes numa média sem sentido, não de que o tema é mais simples do que parece.

Se você quer entender melhor onde a IA ajuda de verdade e onde ela cria mais trabalho do que resolve na rotina de pesquisa, dá uma olhada em IA na pesquisa em saúde: o desafio não é a tecnologia.

Fonte: My Manifesto on AI and Religion, The Gospel Coalition