Leão XIV alerta: a inteligência artificial jamais deve decidir sobre a vida humana

Em encontro com especialistas internacionais, o Papa defende que o desenvolvimento da inteligência artificial seja orientado por princípios éticos, supervisionado por pessoas e colocado a serviço do bem comum.

A inteligência artificial avança em ritmo acelerado e transforma diferentes dimensões da sociedade. Diante desse cenário, o Papa Leão XIV fez um importante alerta: por mais sofisticados que sejam os sistemas tecnológicos, as decisões que envolvem a vida humana, a liberdade e o uso da força não podem ser entregues às máquinas.

A reflexão foi apresentada durante o encontro “O Futuro da IA: Um Diálogo entre o Vaticano e o Mundo Científico sobre os Avanços e as Aplicações das Tecnologias Inteligentes”, organizado pela Pontifícia Academia para a Vida e pelo Instituto Futuro da Vida. A reunião contou com especialistas de diversos países e colocou em discussão os desafios éticos relacionados ao desenvolvimento e à aplicação da inteligência artificial.

Em seu discurso, o Pontífice desenvolveu cinco considerações, tomando como referência sua encíclica Magnifica humanitas. A partir delas, destacou a responsabilidade humana na condução das novas tecnologias e a necessidade de estabelecer limites que protejam a dignidade de cada pessoa.

O futuro da inteligência artificial depende das escolhas humanas

O primeiro ponto apresentado pelo Papa foi a compreensão de que o futuro da inteligência artificial não está determinado de antemão. Por ser uma tecnologia criada e desenvolvida pelos seres humanos, seus rumos dependem das decisões tomadas pela sociedade.

Isso significa que não basta acompanhar os avanços técnicos ou reconhecer as possibilidades oferecidas pelos novos sistemas. É necessário avaliar suas finalidades, seus efeitos e as consequências de sua utilização.

O Papa recordou que a humanidade tem a responsabilidade de orientar, transformar e, quando necessário, rejeitar determinadas aplicações da inteligência artificial. Por isso, a pergunta fundamental não deve se limitar à capacidade das máquinas, mas considerar o propósito para o qual elas estão sendo utilizadas.

Nesse sentido, afirmou:

"Aqueles que encaram seu desenvolvimento meramente como uma corrida a ser vencida correm o risco de se concentrar exclusivamente na linha de chegada, esquecendo-se daqueles que ficam para trás."

A advertência chama a atenção para um perigo presente em qualquer processo de inovação: priorizar a velocidade, a competição e os resultados econômicos, deixando em segundo plano as pessoas que podem ser prejudicadas ou excluídas. O progresso tecnológico, na perspectiva apresentada pelo Papa, precisa considerar toda a sociedade, especialmente aqueles que se encontram em situação de maior vulnerabilidade.

Máquinas são ferramentas, não pessoas

A segunda consideração de Leão XIV diz respeito à natureza dos sistemas de inteligência artificial. O Pontífice recordou que as máquinas são ferramentas e não pessoas.

A observação foi acompanhada de uma advertência sobre propostas que pretendem atribuir direitos ou até mesmo personalidade jurídica a esses sistemas. Segundo o Papa, iniciativas dessa natureza podem obscurecer uma questão essencial: a responsabilidade pelas decisões e pelos efeitos da tecnologia continua sendo humana.

A inteligência artificial pode processar informações, produzir respostas e executar tarefas complexas. Entretanto, isso não a transforma em uma pessoa nem elimina a responsabilidade daqueles que desenvolvem, controlam e utilizam seus recursos.

A reflexão estabelece uma distinção importante entre a capacidade técnica de um sistema e a responsabilidade moral pelas escolhas realizadas. A tecnologia pode auxiliar o ser humano em inúmeras atividades, mas não deve servir como justificativa para que pessoas e instituições deixem de responder por suas decisões.

Decisões sobre a vida e a liberdade exigem supervisão humana

Um dos pontos mais importantes do discurso foi a defesa de limites claros para a utilização da inteligência artificial em situações que envolvem direitos fundamentais.

Leão XIV afirmou que determinadas decisões jamais devem ser delegadas integralmente aos sistemas automatizados. Entre elas estão aquelas que afetam a vida humana, a liberdade e o uso da força.

O Papa declarou:

"As decisões que afetam a vida humana, a liberdade e o uso da força devem permanecer sempre sujeitas a uma supervisão humana eficaz, informada e responsável"

Como exemplo, mencionou os bancos de dados utilizados no controle de fronteiras, área na qual decisões automatizadas podem ter consequências significativas para a vida das pessoas.

A preocupação também se estende ao desenvolvimento de armamentos que utilizam inteligência artificial para identificar alvos e executar ataques sem uma decisão humana efetiva. Nesse contexto, o Pontífice encorajou os Estados que participarão de uma reunião em Genebra, prevista para novembro, a adotarem medidas concretas para proibir armas autônomas letais.

Ao tratar do assunto, reiterou que a inteligência artificial deve ser "desarmada".

A expressão sintetiza a necessidade de impedir que o desenvolvimento tecnológico amplie os riscos de violência e de perda do controle humano sobre decisões que podem resultar em morte e destruição.

A tecnologia precisa estar a serviço do bem comum

A quarta consideração apresentada pelo Papa foi a necessidade de orientar as tecnologias inteligentes para o bem comum.

O desenvolvimento da inteligência artificial não pode beneficiar exclusivamente um pequeno grupo privilegiado, enquanto seus riscos e consequências recaem sobre o restante da sociedade. Os avanços tecnológicos precisam contribuir para uma vida mais digna, favorecer a inclusão e estar a serviço de toda a humanidade.

Essa perspectiva coloca em evidência uma questão fundamental: não é suficiente perguntar se determinada tecnologia é eficiente ou lucrativa; é preciso avaliar se ela contribui efetivamente para o bem das pessoas.

O progresso não pode ser medido apenas pela capacidade de produzir mais, acelerar processos ou ampliar vantagens econômicas. Também precisa ser avaliado a partir de seus efeitos sobre a dignidade humana, a justiça e as condições de vida da população.

Instituições internacionais e princípios éticos são indispensáveis

Na quinta consideração, Leão XIV destacou aquele que considera o desafio mais urgente: a criação de instituições, especialmente em âmbito internacional, capazes de transformar princípios éticos em orientações concretas para o desenvolvimento e a utilização da inteligência artificial.

O Papa ressaltou que não basta reconhecer a importância da ética. É necessário estabelecer mecanismos que permitam acompanhar, avaliar e corrigir as aplicações dessa tecnologia.

Ao explicar essa necessidade, afirmou:

"Isso exige normas compartilhadas, supervisão independente e mecanismos claros de prestação de contas, para que as decisões relativas ao desenvolvimento e ao uso da IA possam ser examinadas, questionadas quando necessário e acompanhadas de medidas corretivas adequadas para qualquer dano causado."

A proposta envolve a construção de normas comuns, a existência de fiscalização independente e a definição de responsabilidades. Dessa maneira, decisões relacionadas à inteligência artificial poderão ser examinadas e questionadas, e os danos eventualmente provocados deverão receber respostas e medidas corretivas adequadas.

A dimensão internacional desse esforço é especialmente importante porque os sistemas de inteligência artificial ultrapassam fronteiras e produzem consequências em diferentes países. Por isso, a proteção da dignidade humana exige diálogo, cooperação e compromissos que não fiquem restritos a iniciativas isoladas.

Ao concluir o encontro, Leão XIV agradeceu aos participantes por suas contribuições e os incentivou a continuar trabalhando em conjunto, "em espírito de diálogo e responsabilidade compartilhada pelo bem comum".

A dignidade humana deve permanecer no centro do progresso tecnológico

As considerações apresentadas por Leão XIV oferecem uma orientação importante para a reflexão da Igreja e da sociedade sobre a inteligência artificial. O debate não se limita às possibilidades técnicas das novas ferramentas, mas alcança questões fundamentais sobre a pessoa humana, a liberdade, a responsabilidade e o futuro da convivência social.

A perspectiva apresentada pelo Papa recorda que a tecnologia deve servir à humanidade, e não colocar a humanidade a serviço da tecnologia.

Para os cristãos, essa reflexão também convida a reconhecer que toda inovação precisa ser examinada à luz da dignidade da pessoa, da justiça, da solidariedade e da busca pelo bem comum. A inteligência artificial pode oferecer contribuições importantes à educação, à ciência, à comunicação e a muitos outros campos, mas seu desenvolvimento não dispensa o discernimento ético e a responsabilidade humana.

O verdadeiro progresso não consiste apenas em criar máquinas cada vez mais capazes. Consiste em utilizar o conhecimento e os recursos disponíveis para construir uma sociedade na qual cada pessoa seja respeitada e protegida.

A advertência de Leão XIV aponta, portanto, para um princípio que não pode ser esquecido: nenhum avanço tecnológico justifica colocar em risco a vida, a liberdade e a dignidade do ser humano.

Para aprofundar a reflexão

A relação entre fé, dignidade humana, responsabilidade social e os desafios do mundo contemporâneo merece ser acompanhada por meio da leitura dos documentos da Igreja e de uma formação cristã permanente.

• Documentos da Igreja: textos do Magistério e documentos eclesiais para aprofundar o pensamento e a orientação pastoral da Igreja.
  https://documentosdaigreja.blogspot.com

• Formação em Liturgia: conteúdos de formação para compreender e viver melhor a fé celebrada pela Igreja.
  https://formacaoemliturgia.blogspot.com/

• Novos Artigos de Liturgia: reflexões sobre a liturgia, a vida cristã e a missão evangelizadora.
  https://artigosdeliturgia.blogspot.com/