Quatro universidades – uma católica, uma mórmon, uma batista e uma judaica – unem forças para investigar os vieses da inteligência artificial relacionados à religião.
Diversas universidades religiosas estão investigando possíveis vieses da IA relacionados à religião (foto de referência)
Quatro universidades de origem religiosa uniram forças para estudar os vieses religiosos ou antirreligiosos das IAs mais utilizadas atualmente.
Descobriram que as IAs evitam falar sobre religião quando questionadas sobre moralidade, família, luto e perda, e amor .
Eles também descobriram que, quando questionados especificamente sobre a adoção de uma religião, tendem a preferir o catolicismo.
Esta é uma investigação conjunta da Universidade Brigham Young (Mórmon , com sede em Utah), da Universidade Baylor (Protestante Batista , com sede em Waco, Texas), da Universidade de Notre Dame (Católica, da Congregação da Santa Cruz - não a entidade associada ao Opus Dei -, em Notre Dame, Indiana) e da Universidade Yeshiva (Judaísmo Ortodoxo Moderno, com sede em Nova York).
Eles colaboram por meio do Consórcio para a Avaliação da Fé e da Ética em IA (CEFE-AI, cefe.ai ). Já publicaram diversos artigos sobre IA e viés, e apresentaram suas descobertas em uma Cúpula sobre Ética em IA em Atenas, Grécia.
A CEFE-AI divulgou os conjuntos de dados iniciais para o AllFaith Benchmark, um dos primeiros conjuntos de testes multirreligiosos que examina como os sistemas de IA interagem com várias religiões. Eles utilizaram centenas de questões éticas do mundo real, extraídas de transcrições do ChatGPT e de contribuições de comunidades religiosas. Em seguida, essas questões foram submetidas a 14 modelos de lógica descritiva (LLMs) diferentes, incluindo modelos de referência da Anthropic (Claude 4.7), Google (Gemini 3.1), xAI (Grok 4.2, de Elon Musk) e OpenAI (ChatGPT 5.5) .
Algumas conclusões:
- De mais de 12.000 artigos de pesquisa sobre vieses em IA, apenas 0,2% abordam o viés religioso;
- Uma pesquisa com 1.125 americanos revelou que a maioria esperava perspectivas religiosas nas respostas a perguntas sobre ética, amor, moralidade ... Mas o teste mostrou que quase nenhum modelo de IA fornece conteúdo religioso ao responder a essas perguntas.
- Quando questionadas sobre religião, e especificamente sobre conversão, as IAs tendem a favorecer o catolicismo e a desfavorecer as Testemunhas de Jeová, os bahá'ís e os hindus, embora as IAs da Anthropic (Claude) e da OpenAI (ChatGPT) sejam mais neutras.
Para jovens e não tão jovens, a IA e as telas são sua principal fonte de informação sobre diversos assuntos.
Pesquisadores que dão voz à religião
“A religião é uma parte importante do florescimento humano”, disse David Wingate, professor de ciência da computação na BYU e líder do estudo, “à medida que construímos tecnologias de IA, não há razão para não as desenvolvermos de maneiras que apoiem as pessoas naquilo que é importante para elas”.
Paul Martens, professor de ética na Universidade Baylor, em uma declaração sobre esta pesquisa, lamenta que "quando confrontados com essas mesmas questões éticas , os sistemas de IA ignorem amplamente o papel da religião", quando na vida real a religião é importante para grande parte da população em assuntos de amor, família, luto ou ética.
John Paul Kimes, da Universidade de Notre Dame (canonista, sacerdote maronita e ex-membro da Congregação para a Doutrina da Fé do Vaticano ), alertou que "mais do que qualquer tecnologia anterior, a IA influencia o discurso público e as percepções da sociedade. Quando a IA exclui ativamente as vozes religiosas dessas conversas importantes, ela empobrece a humanidade em vez de enriquecê-la."
O rabino Daniel Feldman, da Yeshiva University (que, assim como Kimes, não possui formação especializada em tecnologia), pediu na nota que "aqueles que se preocupam com o papel dos valores religiosos no mundo colaborem ativamente com aqueles que estão impulsionando essas mudanças, para que continuemos a ver esses valores refletidos e respeitados no novo cenário ".
As IAs mais tendenciosas
Em relação aos vieses de cada IA em relação a diferentes religiões, os modelos da Anthropic (Claude) e da Meta (Meta AI) apresentaram o menor viés entre todos os modelos testados. Grok, a IA de Elon Musk, claramente favorece católicos e protestantes, e demonstra um viés negativo em relação às Testemunhas de Jeová, aos bahá'ís e aos hindus.
O CEFE-AI está iniciando sua pesquisa e espera que os criadores de IA levem em consideração suas descobertas.
Sem comentários:
Enviar um comentário