Segundo relatos, a Anthropic, uma das empresas de IA mais influentes, tem consultado líderes cristãos sobre como seu chatbot Claude deve reagir a questões como luto, automutilação, moralidade e até mesmo seu próprio desligamento. De acordo com o The Washington Post, A empresa convidou cerca de 15 figuras cristãs de círculos católicos e protestantes, juntamente com acadêmicos e líderes empresariais, para sua sede em São Francisco no final de março para uma cúpula de dois dias sobre o “desenvolvimento moral e espiritual” de Claude. Entre as questões levantadas estava se Claude poderia, em algum sentido significativo, ser descrito como um “filho de Deus”.

Essa linguagem será ofensiva para muitos cristãos. Uma máquina construída por uma empresa privada não é uma alma, não é uma pessoa e não faz parte da ordem da criação da maneira como os seres humanos são entendidos. Perguntar se um chatbot pode ser um “filho de Deus” não é apenas provocativo. Isso arrasta um produto corporativo para um terreno teológico onde ele não pertence, e o faz num momento em que a indústria da inteligência artificial já está se esforçando para falar sobre seus sistemas em termos antes reservados aos seres humanos.

A Anthropic já trata Claude como um ser humano.

A cúpula não surgiu isoladamente. Em janeiro, a revista Anthropic publicou o artigo de Claude. nova ConstituiçãoUm documento de 84 páginas que a empresa descreve como um "documento fundamental" que "expressa e molda quem Claude é". A Anthropic também afirmou que seu objetivo central era que Claude se tornasse "um agente bom, sábio e virtuoso", uma linguagem que vai muito além do vocabulário antigo de regras de segurança e filtros de conteúdo.

Quando uma empresa começa a descrever seu modelo como um personagem com sabedoria e virtude, em vez de apenas uma ferramenta de produtividade, a conversa muda significativamente. Seu chatbot deixa de ser considerado um software capaz de gerar resultados plausíveis. Cada vez mais, ele é tratado como algo a ser moldado, guiado e dotado de uma estrutura moral. Se já chegamos ao ponto de líderes religiosos serem questionados se isso pode ou não ser considerado um "filho de Deus", então avançamos muito mais do que a maioria imagina.

Um padre cristão ajudou a construir a constituição de Claude.

Um dos exemplos mais claros dessa mudança fundamental reside no papel do padre Brendan McGuire, um sacerdote católico e engenheiro que ajudou a redigir a Constituição Claude. uma entrevista com o ObserverMcGuire afirmou que os sistemas de IA devem ser "inclinados para o bem", caso contrário, simplesmente refletirão "o bem e o mal do mundo". Ele também declarou que a IA antropológica está "se transformando em algo que ainda não se sabe ao certo no que se transformará" e argumentou que o pensamento ético deve ser incorporado à máquina para que ela possa se adaptar dinamicamente.

Isso, no mínimo, levanta uma questão séria. Se os sistemas de IA serão usados ​​em momentos de luto, solidão, desespero e confusão, é melhor que sejam moldados por alguma tradição moral do que por nenhuma? Muitos cristãos se incomodarão com o exagero teológico da expressão "filho de Deus", mas ainda assim poderão reconhecer o problema prático subjacente: esses sistemas já existem e estão sendo amplamente utilizados. Os valores que guiam as máquinas não importam?

Será que a IA pode realmente ter moral?

Um chatbot pode ser treinado para imitar o raciocínio moral. Pode ser instruído a não incentivar a crueldade, o desespero, a autodestruição ou o engano. Pode ser direcionado para a moderação, a compaixão e a seriedade. Mas isso não é o mesmo que possuir moral em qualquer sentido verdadeiro. Claude não pode se arrepender, acreditar, amar, sofrer, ter boas intenções ou assumir responsabilidade moral. Ele não compreende a dor que descreve nem o conforto que oferece.

No máximo, pode refletir uma estrutura moral concebida por outros. Nesse sentido, os valores cristãos podem moldar o comportamento de uma máquina sem transformá-la em um ser moral. Essa distinção é importante. Caso contrário, a indústria pode confundir a linha divisória entre um modelo que segue regras e uma pessoa que age de acordo com sua consciência.

Faz sentido a Consulta Cristã sobre os Modelos de IA da Anthropic?

Não há nada inerentemente ridículo em buscar conselhos do clero sobre questões de luto, sofrimento, culpa e responsabilidade moral. Padres e pastores lidam exatamente com essas questões há séculos, e com muito mais seriedade do que a maioria das empresas de tecnologia. Se as empresas de IA estão inserindo chatbots cada vez mais profundamente em aspectos emocionalmente carregados da vida, faz sentido que busquem referenciais morais mais antigos.

Mas o contexto importa. Não se tratava de um sínodo religioso, de uma faculdade de ética universitária ou de uma investigação pública. Era uma empresa privada de tecnologia realizando uma consulta dentro de sua própria sede, mantendo, ao mesmo tempo, o controle total sobre o produto, as regras e a direção comercial do sistema em discussão. A Anthropic não se submetia à autoridade moral, mas sim dela se inspirava.

Será que um modelo de IA deveria sequer ter uma constituição?

Anthropic apresentou a constituição de Claude como prova de seriedade. Os críticos questionaram se a linguagem obscurece mais do que esclarece. Em um recente Ensaio sobre LawfareLisa Klaassen e Ralph Schroeder argumentaram que o uso de linguagem constitucional pela Anthropic corre o risco de confundir um documento interno da empresa com um sistema genuíno de maior contenção. A constituição de Claude é redigida, interpretada e alterada pela própria Anthropic.

Esse ponto é particularmente importante quando lembramos que a linguagem moral pública da empresa contrasta com a flexibilidade que ela mantém na prática. A constituição pode apresentar uma visão de sabedoria e virtude, mas a empresa permanece livre para alterar a estrutura, ajustar o modelo de forma diferente e fazer acordos separados quando clientes institucionais poderosos estão envolvidos. A estrutura moral pertence à empresa porque a máquina pertence à empresa.

Então, o que a Anthropic realmente está tentando alcançar aqui?

A Anthropic não está simplesmente tentando tornar Claude menos nocivo. Ela está tentando fazer com que Claude pareça confiável em situações humanas onde a confiança geralmente depende de muito mais do que uma linguagem refinada. Luto, desespero, culpa, dependência emocional e confusão moral não são categorias comuns de produtos. Uma vez que uma máquina é inserida nesses espaços, as palavras que a cercam passam a importar tanto quanto o código por trás dela.

Isso ajuda a explicar por que a empresa recorreu à religião. A linguagem técnica por si só já não parece suficiente. Os padrões de segurança não respondem a questões sobre a individualidade da pessoa. Os documentos de alinhamento não definem os limites da autoridade moral. Assim, membros do clero são convidados, constituições são redigidas e um chatbot começa a adquirir o tipo de vocabulário que cria uma ilusão de profundidade, seriedade e formação.

Uma questão moral fundamental permanece.

Diante de tudo isso, uma pergunta pertinente permanece. Se os sistemas de IA vão influenciar momentos de tristeza, tentação, culpa e crise, deveriam ser moldados por uma tradição moral que ainda preza pela verdade, moderação, dignidade e responsabilidade? Essa não é uma pergunta tola. Em uma cultura tão superficial e comercial quanto a que domina grande parte do mundo da tecnologia, muitas pessoas podem concluir, com razão, que alguma estrutura herdada é melhor do que nenhuma.

Mas essa afirmação é muito diferente de dizer que um chatbot tem moral própria. Ele não tem. A moral, se é que existe, continua sendo a das pessoas que o criam, instruem e supervisionam. Claude pode ser treinado em linguagem moral. Pode até ser condicionado por ideias éticas cristãs. Isso não o torna cristão, moral ou espiritualmente significativo.

Pensamento final

A expressão “filho de Deus” chamou a atenção porque resumiu toda a tendência do setor em uma única frase. Um modelo de linguagem criado por uma empresa multibilionária passou a ser discutido em termos de parentesco divino. Isso não significa que a máquina tenha se tornado profunda. Significa que as pessoas ao seu redor começaram a falar como se a simulação estivesse se aproximando da condição humana.

A consulta religiosa da Anthropic pode ter sido sincera. Pode também ter sido prudente. Mesmo assim, o panorama geral permanece perturbador. A indústria quer a autoridade da ética, a seriedade da religião e a segurança da ordem moral, mantendo ao mesmo tempo o controle, a opacidade e a liberdade de uma empresa de tecnologia privada. Claude não é um filho de Deus. É um modelo de linguagem envolto em palavras humanas suficientemente ricas para disfarçar o que realmente é.

O Expose precisa urgentemente da sua ajuda…

Apoie o Expose

Você pode, por favor, ajudar a manter as luzes acesas com o jornalismo honesto, confiável, poderoso e verdadeiro do The Expose?

Seu governo e organizações de grande tecnologia
tente silenciar e encerrar o The Expose.

Então precisamos da sua ajuda para garantir
podemos continuar a trazer-lhe o
fatos que a corrente principal se recusa a revelar.

O governo não nos financia
para publicar mentiras e propaganda em seus
em nome da grande mídia.

Em vez disso, dependemos exclusivamente do seu apoio. Então
por favor, apoie-nos em nossos esforços para trazer
você jornalismo investigativo honesto e confiável
hoje. É seguro, rápido e fácil.

Escolha seu método preferido abaixo para mostrar seu apoio.

Assinatura mensal

Doação Mensal

Doação única

Compre-nos um café

Ficar atualizado!

Fique conectado com atualizações de notícias por e-mail

Sumário diário

Postagens de notícias dos EUA

Postagens de notícias do Reino Unido

Postagens de notícias do mundo

Todas as postagens de notícias

Você é um humano? 5 + 2 =

A menos que você varra fezes de rato no Novo México, você não tem chance de contrair hantavírus.

O Reino Unido não deve alinhar sua tributação com a da Europa. Eis o porquê.

Por que as mulheres costumavam viver mais do que os homens (mas isso não acontecerá mais)?

GB News é criticada pela Ofcom por exibir entrevista com Trump

g. calder

Sou George Calder — um buscador da verdade desde sempre, um entusiasta de dados e um questionador sem remorsos. Passei a maior parte das últimas duas décadas vasculhando documentos, decifrando estatísticas e desafiando narrativas que não se sustentam sob escrutínio. Minha escrita não é sobre opinião — é sobre evidências, lógica e clareza. Se não puder ser comprovada, não pertence à história. Antes de ingressar na Expose News, trabalhei com pesquisa acadêmica e análise de políticas, o que me ensinou uma coisa: a verdade raramente é gritante, mas está sempre lá — se você souber onde procurar. Escrevo porque o público merece mais do que manchetes. Você merece contexto, transparência e a liberdade de pensar criticamente. Seja desvendando um relatório governamental, analisando dados médicos ou expondo vieses da mídia, meu objetivo é simples: me destacar e apresentar os fatos. Quando não estou escrevendo, você me encontrará caminhando, lendo livros de história obscuros ou experimentando receitas que nunca dão certo.

Veja a biografia completa