o Papa e a IA

Siga @pierofranceschi no Instagram e leia suas contribuições e análises em Humanos, por Piero Franceschi.

Um ano após assumir o comando da Igreja Católica, o Papa Leão XIV divulgou ontem (25 de maio) o documento Magnifica Humanitas, ou “Magnífica Humanidade”, em tradução livre do latim para o português. Trata se da primeira encíclica de seu pontificado e o tema escolhido já diz muito: como salvaguardar o humano na era da inteligência artificial.

Na tradição católica, encíclicas estão entre os textos mais importantes do magistério de um papa. São documentos em que o líder da Igreja consolida uma visão doutrinária sobre temas decisivos para seu tempo. Por isso, a escolha do tema importa tanto. Leão XIV não está apenas comentando uma tecnologia emergente. Está praticamente apresentando seu cartão de visitas: seu pontificado nasce marcado pela preocupação com a dignidade humana diante da aceleração tecnológica, da concentração de poder digital e da transformação do trabalho, da verdade e da liberdade.

Nesse ponto fica claro que a sua escolha por usar o nome Leão não foi acidental. Ela já apontava para uma referência histórica inevitável: Leão XIII, o papa da encíclica Rerum Novarum, publicada em 1891. A encíclica de Leão XIII foi um marco porque a Igreja decidiu entrar no coração da questão social da era industrial: capital, trabalho, exploração, salário justo, propriedade, trabalhadores e desigualdade. Ou seja, não foi apenas um texto religioso. Foi uma tentativa de interpretar a grande reorganização econômica e social produzida pela industrialização.

Agora, a Magnifica Humanitas faz um movimento parecido. Se a Rerum Novarum respondeu às novas questões da era industrial, a nova encíclica tenta responder às novas questões da era algorítmica. 

Nesse momento, a questão social mudou de forma. Não se trata apenas da fábrica, do operário e do capital industrial. Trata se da IA, dos dados, da automação, da robótica, das plataformas, da concentração computacional, da verdade pública, do desemprego tecnológico, da dependência digital e da perda progressiva de controle humano sobre sistemas que moldam decisões.

Os sete pontos que você precisa entender sobre o documento

O documento não é uma condenação da inteligência artificial. Também não é uma celebração ingênua do progresso. Sua força está justamente no meio: ele reconhece a potência da tecnologia, mas recusa a ideia de que potência técnica seja automaticamente progresso humano. Esse é o ponto mais importante para ler a encíclica corretamente.

Abaixo estão os 7 pontos centrais que na minha visão tornam o documento relevante para empresas, governos, lideranças e para qualquer pessoa tentando entender o lugar do humano na era da IA.

1. A IA não é neutra, porque carrega a visão de quem a cria

O documento afirma que a tecnologia, em si, pode ser um dado profundamente humano, ligado à autonomia e à liberdade. Mas faz uma distinção decisiva: na prática, a tecnologia não é neutra, porque tem o rosto daqueles que a concebem, financiam, regulam e utilizam. Essa frase muda muita coisa. Ela tira a IA do lugar de ferramenta objetiva e a coloca no campo do poder.

A análise crítica aqui é direta: toda IA carrega escolhas. O que mede, o que ignora, o que classifica, o que otimiza, o que considera sucesso e o que transforma em ruído. Quando empresas dizem que seus sistemas são apenas técnicos, escondem a parte mais importante da discussão: todo modelo traz uma antropologia embutida. Uma ideia de humano, de eficiência, de risco, de valor e de comportamento desejável.

Isso tem implicação direta para negócios. Se um algoritmo decide crédito, emprego, acesso a serviços, visibilidade ou reputação, ele não está apenas processando informação. Está reorganizando possibilidades humanas. A pergunta central deixa de ser “a IA funciona?” e passa a ser “que tipo de sociedade ela está ajudando a produzir?”. Esse é um salto de maturidade no debate.

2. IA não é inteligência humana, mesmo quando parece ser

O documento evita um erro comum: equiparar a inteligência artificial à inteligência humana. Ele reconhece que sistemas de IA podem superar humanos em velocidade e amplitude de cálculo, mas lembra que permanecem presos ao tratamento de dados. Não possuem corpo, experiência, sofrimento, alegria, relação, amor, trabalho, amizade ou responsabilidade moral.

Essa distinção é fundamental. A IA pode simular linguagem, empatia, julgamento e compreensão, mas simulação não é experiência. Pode produzir respostas convincentes, mas não assume o peso das consequências. Pode imitar cuidado, mas não cuida. Pode organizar argumentos, mas não carrega consciência. Isso não diminui sua utilidade. Apenas delimita seu lugar.

Minha leitura é que esse ponto ataca uma das ilusões centrais da era atual: confundir performance com humanidade. O fato de uma máquina responder bem não significa que ela compreenda. O fato de parecer sensível não significa que ela se importe. Em um mundo fascinado por outputs, essa distinção será cada vez mais importante. O risco não é só a máquina parecer humana. É o humano começar a aceitar simulação como substituto de relação e tornar-se submisso e dependente de máquinas.

3. Ou a verdade vira bem comum, ou a democracia enfraquece

A encíclica dedica uma parte importante ao tema da verdade. Ela afirma que plataformas digitais e sistemas de IA aceleram mudanças profundas na comunicação pública e política, misturando dados, opiniões, narrativas distorcidas e conteúdos manipuláveis. A desinformação não nasceu com a IA, mas encontra nela um multiplicador poderoso.

Aqui a conexão com democracia é direta. O documento diz que a vida democrática não se sustenta apenas por regras e procedimentos, mas por uma relação leal com os acontecimentos. Quando a distinção entre verdadeiro e falso perde relevância, a democracia enfraquece. Isso conversa diretamente com uma tese central: sem realidade compartilhada, o voto continua existindo, mas a decisão perde qualidade.

A análise crítica é dura: a IA transforma a crise da verdade em crise de escala. Antes, mentiras dependiam de redes humanas de distribuição. Agora, podem ser personalizadas, automatizadas e amplificadas em velocidade industrial. A verdade deixa de ser apenas um tema filosófico e passa a ser infraestrutura democrática. Em terra de deepfake, algoritmo e hiperconteúdo, a democracia depende de uma ecologia da comunicação. (já falei sobre isso umas semana atrás por aqui)

4. O trabalho não pode ser reduzido a custo ou tarefa automatizável

O documento retoma uma tradição antiga da Doutrina Social: o trabalho não é apenas meio de renda. É lugar de maturidade, relação, contribuição, identidade e participação social. A encíclica alerta que automação, robótica e IA estão transformando a própria estrutura do trabalho, e que as novas formas de trabalhar não são automaticamente melhores.

O ponto crítico é que a IA pode desqualificar trabalhadores, submetê-los a vigilância automatizada e empurrá-los para funções mais rígidas, repetitivas ou subordinadas à velocidade da máquina. Ou seja, a tecnologia que promete libertar o humano pode, se mal desenhada, adaptar o humano ao ritmo do sistema técnico. Em vez de a máquina servir o trabalho humano, o trabalhador passa a servir a lógica da máquina.

Minha análise é que esse talvez seja o centro econômico da encíclica. O texto rejeita a ideia de que produtividade seja critério suficiente para avaliar progresso. Se uma inovação aumenta margem, mas reduz dignidade, autonomia, formação, participação e sentido do trabalho, ela não é progresso humano completo. É apenas eficiência com custo antropológico escondido. (também já explorei esse tema por aqui)

5. A educação precisa ensinar também quando não usar IA

Um dos trechos mais fortes do documento está na ideia de uma nova aliança educativa para a era digital. A encíclica afirma que educar para o uso da IA implica também educar para decidir quando não utilizá-la. Esse ponto é enorme. Não basta ensinar prompt, ferramenta, automação e produtividade. É preciso ensinar discernimento.

O texto fala inclusive em proteger o desejo de fazer perguntas. A facilidade de obter respostas prontas pode extinguir a paciência necessária para investigar, pensar, debater e amadurecer entendimento. A IA responde rápido, mas a compreensão humana exige atrito, tempo, confronto com ideias e esforço. Uma educação que terceiriza cedo demais a resposta forma usuários eficientes, mas pensadores frágeis.

Minha leitura crítica é que esse ponto deveria entrar imediatamente nas discussões de escolas, universidades e empresas. A pergunta não é apenas como usar IA melhor. É como impedir que o uso da IA atrofie capacidades humanas essenciais. O futuro da educação não será ensinar máquinas a responder. Será ensinar humanos a não perderem o desejo e a coragem de pensar.

6. A liberdade humana está ameaçada pela dependência e pela mercantilização

A encíclica trata a economia da atenção como uma forma concreta de ameaça à liberdade. Plataformas e serviços digitais são desenhados para capturar tempo, olhar e comportamento, explorando fragilidades humanas. Quando modelos de negócio prosperam à custa da vulnerabilidade, a pessoa é tratada como meio e não como fim.

O documento também fala do controle social gerado pela coleta massiva de dados. Cada deslocamento, compra, preferência e interação deixa rastros que podem ser usados para traçar perfis, prever comportamentos e orientar decisões. A liberdade, nesse contexto, deixa de ser apenas interior. Vira questão pública, regulatória e institucional.

Minha análise é que esse ponto é decisivo para entender a IA como ambiente, não apenas como ferramenta. Não estamos apenas usando sistemas. Estamos vivendo dentro de sistemas que observam, classificam, recomendam e modulam comportamento. A nova liberdade humana dependerá menos de “ter opções” e mais de saber se essas opções foram moldadas antes por arquiteturas invisíveis de influência.

7. Não basta regular a IA. Será preciso desarmá-la

Talvez uma das expressões mais fortes do documento seja “desarmar a IA”. O texto afirma que desarmar não significa renunciar à tecnologia, mas subtraí la da lógica da competição armada, econômica e cognitiva. Significa quebrar a equivalência entre poder técnico e direito de governar. Significa tornar a IA discutível, contestável, plural e habitável. Essa é uma formulação importante porque desloca o debate da simples regulação para a arquitetura do poder.

A dimensão militar torna esse ponto ainda mais grave. A encíclica afirma que a cultura do poder vem normalizando a guerra, reabilitando o conflito como instrumento de política internacional e degradando os critérios éticos que antes limitavam o uso da força. Ao conectar IA e armamentos, o texto alerta que sistemas com autonomia operativa tornam a guerra mais “viável” e menos sujeita ao controle humano, justamente porque comprimem o tempo da decisão, tornam a violência mais impessoal e reduzem vítimas a dados.

Esse é um dos pontos mais duros da encíclica: não existe algoritmo que torne a guerra moralmente aceitável. A IA pode aumentar precisão, velocidade e capacidade de previsão, mas isso não resolve o problema moral central. Ao contrário, pode baixar a barreira psicológica e política para o uso da força. Quando matar se torna uma decisão mediada por sistemas, telas, sensores e modelos, o risco é transformar tragédia humana em operação técnica.

Minha leitura crítica é que “desarmar a IA” significa impedir que a tecnologia seja capturada por três lógicas simultâneas: a lógica militar da vantagem estratégica, a lógica econômica do monopólio e a lógica cognitiva do controle da realidade. 

Não basta perguntar se a IA está alinhada a valores humanos abstratos. É preciso perguntar quem define esses valores, quem controla a infraestrutura, quem lucra com sua aplicação e quem paga o preço quando ela erra.

A pergunta central: onde é o lugar do humano

A grande contribuição da encíclica não é dizer que a IA é boa ou ruim. É tirar o debate da superfície. O texto mostra que a inteligência artificial não é apenas uma nova tecnologia, mas uma nova prova histórica para a humanidade. Ela testa nossas instituições, nossa economia, nosso trabalho, nossa educação, nossa democracia, nossa liberdade e nossa capacidade de preservar dignidade quando tudo parece poder ser medido, otimizado e automatizado.

O ponto central é que a IA nos obriga a decidir que tipo de humanidade queremos preservar. Se aceitarmos que eficiência seja a métrica final, construiremos Babel: uma civilização tecnicamente impressionante, mas socialmente desumanizada. Se colocarmos a pessoa no centro, podemos reconstruir Jerusalém: uma sociedade que usa tecnologia para ampliar dignidade, justiça, relação, trabalho e liberdade.

É exatamente aqui que esse documento conversa diretamente com meu livro O trabalho de ser humano. A tese do livro é que o futuro do trabalho não será definido apenas pela inteligência das máquinas, mas pela nossa capacidade de resgatar e amplificar aquilo que continua sendo profundamente humano. A IA nos força a abandonar a fantasia de que competência técnica será suficiente. O desafio agora é mais exigente: preservar densidade humana em um mundo de máquinas cada vez mais eficientes.

No fim, o Papa está dizendo algo que vale para a Igreja, para governos, para empresas e para cada profissional: não basta perguntar o que a IA consegue fazer. A pergunta decisiva é o que nós não podemos deixar de ser. Porque, quando máquinas aprendem a produzir, responder, calcular, simular e decidir, o verdadeiro risco não é elas ficarem humanas. É nós deixarmos de fazer um trabalho de ser humano.