Empresas de inteligência artificial estão recorrendo a líderes religiosos, filósofos e especialistas em ética para discutir como seus sistemas devem responder a questões morais e tomar decisões em situações complexas. A iniciativa envolve companhias como Anthropic, desenvolvedora do Claude, e OpenAI, responsável pelo ChatGPT.
Segundo reportagem publicada pela Associated Press no domingo (25), o movimento busca incorporar diferentes perspectivas culturais e religiosas ao desenvolvimento de modelos de inteligência artificial. A proposta é ampliar as referências utilizadas pelas empresas para orientar o comportamento de assistentes digitais cada vez mais presentes na vida cotidiana.
Anthropic consultou representantes de mais de 15 grupos
A Anthropic informou que realizou encontros com estudiosos, religiosos, filósofos e especialistas em ética de mais de 15 grupos religiosos e culturais.
Durante as reuniões, os participantes discutiram questões que vão desde a natureza da consciência até o uso de chatbots por crianças em atividades educacionais.
A filósofa Meghan Sullivan, da Universidade de Notre Dame, participou de um desses encontros. Segundo ela, as conversas envolveram apresentações sobre o funcionamento dos modelos de inteligência artificial e debates sobre os dilemas éticos associados à tecnologia.
Representantes de Meta, Google e Amazon também participaram de encontros com autoridades do Vaticano, enquanto a Microsoft mantém iniciativas de diálogo com lideranças religiosas.
O cofundador da Anthropic, Christopher Olah, participou em maio da apresentação de uma encíclica do papa Leão XIV sobre inteligência artificial. Na ocasião, defendeu a importância de recorrer a tradições que discutem questões morais há séculos.
Crédito: Apaleutos25/Wikimedia Commons — CC BY-SA 4.0.
Como valores religiosos podem influenciar a inteligência artificial
Os modelos de inteligência artificial são treinados com grandes volumes de informações e passam por processos de ajuste para orientar suas respostas.
Esses mecanismos ajudam a estabelecer como um chatbot deve agir diante de solicitações perigosas, informações sensíveis ou situações em que diferentes valores entram em conflito.
A Anthropic utiliza uma abordagem conhecida como IA Constitucional, baseada em princípios que orientam o comportamento do Claude.
A empresa afirma que não pretende alinhar seus modelos a uma religião específica, mas considerar perspectivas religiosas, seculares e políticas para desenvolver sistemas capazes de lidar com diferentes contextos.
Não está claro, porém, em que medida as contribuições apresentadas nos encontros já foram incorporadas aos modelos comerciais.
Especialistas alertam para diferenças entre tradições
A aproximação entre empresas de tecnologia e instituições religiosas também provoca questionamentos.
Pesquisadores ouvidos pela Associated Press alertam que tradições religiosas não podem ser reduzidas a conjuntos de regras universais. Crenças, práticas culturais e interpretações morais variam entre comunidades e podem apresentar posições divergentes sobre um mesmo assunto.
O antropólogo Webb Keane, da Universidade de Michigan, observa que tratar a religião apenas como um conjunto de normas pode distorcer tradições que atribuem grande importância a rituais, relações comunitárias e práticas culturais.
Outra preocupação é que a tentativa de combinar diferentes perspectivas produza respostas excessivamente padronizadas, deixando de representar particularidades religiosas e culturais.
O debate ganha relevância à medida que sistemas de inteligência artificial passam a ser utilizados em educação, saúde, atendimento ao público e atividades profissionais.
Para as empresas, o desafio será desenvolver assistentes capazes de responder a questões sensíveis sem privilegiar indevidamente uma visão de mundo ou substituir o julgamento humano em decisões que envolvem valores pessoais e sociais.