Inteligência artificial e paz
No início do novo ano, tempo de graça concedido
pelo Senhor a cada um de nós, quero dirigir-me ao Povo de Deus, às nações, aos
Chefes de Estado e de Governo, aos Representantes das diversas religiões e da
sociedade civil, a todos os homens e mulheres do nosso tempo para lhes
expressar os meus votos de paz.
1. O progresso da ciência e da tecnologia
como caminho para a paz
A Sagrada Escritura atesta que Deus deu aos
homens o seu Espírito a fim de terem «sabedoria, inteligência e capacidade para
toda a espécie de trabalho» (Ex 35, 31). A inteligência é expressão da
dignidade que nos foi dada pelo Criador, que nos fez à sua imagem e semelhança
(cf. Gn 1, 26) e nos tornou capazes, através da liberdade e do
conhecimento, de responder ao seu amor. Esta qualidade fundamentalmente
relacional da inteligência humana manifesta-se de modo particular na ciência e
na tecnologia, que são produtos extraordinários do seu potencial criativo.
Na Constituição pastoral Gaudium et spes,
o Concílio Vaticano II reafirmou esta verdade, declarando que «sempre o homem
procurou, com o seu trabalho e engenho, desenvolver mais a própria vida».[1] Quando
os seres humanos, «recorrendo à técnica», se esforçam por que a terra «se torne
habitação digna para toda a humanidade»,[2] agem segundo o desígnio divino
e cooperam com a vontade que Deus tem de levar à perfeição a criação e difundir
a paz entre os povos. Assim o próprio progresso da ciência e da técnica – na
medida em que contribui para uma melhor organização da sociedade humana, para o
aumento da liberdade e da comunhão fraterna – leva ao aperfeiçoamento do homem
e à transformação do mundo.
Justamente nos alegramos e sentimos
reconhecidos pelas extraordinárias conquistas da ciência e da tecnologia,
graças às quais se pôs remédio a inúmeros males que afligiam a vida humana e
causavam grandes sofrimentos. Ao mesmo tempo, os progressos técnico-científicos,
que permitem exercer um controle – até agora inédito – sobre a realidade,
colocam nas mãos do homem um vasto leque de possibilidades, algumas das quais
podem constituir um risco para a sobrevivência humana e um perigo para a casa
comum.[3]
Deste modo os progressos notáveis das novas
tecnologias da informação, sobretudo na esfera digital, apresentam
oportunidades entusiasmantes mas também graves riscos, com sérias implicações
na prossecução da justiça e da harmonia entre os povos. Por isso torna-se
necessário interrogar-nos sobre algumas questões urgentes: quais serão as
consequências, a médio e longo prazo, das novas tecnologias digitais? E que
impacto terão elas sobre a vida dos indivíduos e da sociedade, sobre a
estabilidade e a paz?
2. O futuro da inteligência artificial,
por entre promessas e riscos
Os progressos da informática e o
desenvolvimento das tecnologias digitais, nas últimas décadas, começaram já a
produzir profundas transformações na sociedade global e nas suas dinâmicas. Os
novos instrumentos digitais estão a mudar a fisionomia das comunicações, da
administração pública, da instrução, do consumo, dos intercâmbios pessoais e de
inúmeros outros aspetos da vida diária.
Além disso as tecnologias que se servem duma
multiplicidade de algoritmos podem, dos vestígios digitais deixados na internet,
extrair dados que permitem controlar os hábitos mentais e relacionais das
pessoas para fins comerciais ou políticos, muitas vezes sem o seu conhecimento,
limitando o exercício consciente da sua liberdade de escolha. De facto, num
espaço como a web caraterizado por uma sobrecarga de informações,
pode-se compor o fluxo de dados segundo critérios de seleção nem sempre
enxergados pelo utente.
Devemos recordar-nos de que a pesquisa
científica e as inovações tecnológicas não estão desencarnadas da realidade nem
são «neutrais»,[4] mas estão sujeitas às influências culturais. Sendo
atividades plenamente humanas, os rumos que tomam refletem opções condicionadas
pelos valores pessoais, sociais e culturais de cada época. E o mesmo se diga
dos resultados que alcançam: enquanto fruto de abordagens especificamente
humanas do mundo envolvente, têm sempre uma dimensão ética, intimamente ligada
às decisões de quem projeta a experimentação e orienta a produção para
objetivos particulares.
Isto aplica-se também às formas de inteligência
artificial. Desta, até ao momento, não existe uma definição unívoca no mundo da
ciência e da tecnologia. A própria designação, que já entrou na linguagem
comum, abrange uma variedade de ciências, teorias e técnicas destinadas a fazer
com que as máquinas, no seu funcionamento, reproduzam ou imitem as capacidades
cognitivas dos seres humanos. Falar de «formas de inteligência», no plural,
pode ajudar sobretudo a assinalar o fosso intransponível existente entre estes
sistemas, por mais surpreendentes e poderosos que sejam, e a pessoa humana: em
última análise, aqueles são «fragmentários» já que têm possibilidades de imitar
ou reproduzir apenas algumas funções da inteligência humana. Além disso o uso
do plural destaca que tais dispositivos, muito diferentes entre si, devem ser
sempre considerados como «sistemas sociotécnicos». Com efeito o seu impacto,
independentemente da tecnologia de base, depende não só da projetação, mas
também dos objetivos e interesses de quem os possui e de quem os desenvolve,
bem como das situações em que são utilizados.
Por conseguinte a inteligência artificial deve
ser entendida como uma galáxia de realidades diversas e não podemos presumir a
priori que o seu desenvolvimento traga um contributo benéfico para o futuro da
humanidade e para a paz entre os povos. O resultado positivo só será possível
se nos demonstrarmos capazes de agir de maneira responsável e respeitar valores
humanos fundamentais como «a inclusão, a transparência, a segurança, a
equidade, a privacidade e a fiabilidade».[5]
E não é suficiente presumir, por parte de quem
projeta algoritmos e tecnologias digitais, um empenho por agir de modo ético e
responsável. É preciso reforçar ou, se necessário, instituir organismos
encarregados de examinar as questões éticas emergentes e tutelar os direitos de
quantos utilizam formas de inteligência artificial ou são influenciados por
ela.[6]
Assim, a imensa expansão da tecnologia deve ser
acompanhada por uma adequada formação da responsabilidade pelo seu
desenvolvimento. A liberdade e a convivência pacífica ficam ameaçadas, quando
os seres humanos cedem à tentação do egoísmo, do interesse próprio, da ânsia de
lucro e da sede de poder. Por isso temos o dever de alargar o olhar e orientar
a pesquisa técnico-científica para a prossecução da paz e do bem comum, ao
serviço do desenvolvimento integral do homem e da comunidade.[7]
A dignidade intrínseca de cada pessoa e a
fraternidade que nos une como membros da única família humana devem estar na
base do desenvolvimento de novas tecnologias e servir como critérios
indiscutíveis para as avaliar antes da sua utilização, para que o progresso
digital possa verificar-se no respeito pela justiça e contribuir para a causa
da paz. Os avanços tecnológicos que não conduzem a uma melhoria da qualidade de
vida da humanidade inteira, antes pelo contrário agravam as desigualdades e os
conflitos, nunca poderão ser considerados um verdadeiro progresso.[8]
A inteligência artificial tornar-se-á cada vez
mais importante. Os desafios que coloca não são apenas de ordem técnica, mas
também antropológica, educacional, social e política. Deixa esperar, por
exemplo, poupança de esforços, produção mais eficiente, transportes mais fáceis
e mercados mais dinâmicos, bem como uma revolução nos processos de recolha,
organização e verificação de dados. Precisamos de estar conscientes das rápidas
transformações em curso e geri-las de forma a salvaguardar os direitos humanos fundamentais,
respeitando as instituições e as leis que promovem o progresso humano integral.
A inteligência artificial deveria estar ao serviço dum melhor potencial humano
e das nossas mais altas aspirações, e não em competição com eles.
3. A tecnologia do futuro: máquinas que
aprendem sozinhas
Nas suas múltiplas formas, a inteligência
artificial, baseada em técnicas de aprendizagem automática (machine learning),
embora ainda numa fase pioneira, já está a introduzir mudanças notáveis no
tecido das sociedades, exercendo uma influência profunda nas culturas, nos
comportamentos sociais e na construção da paz.
Desenvolvimentos como a aprendizagem automática
(machine learning) ou a aprendizagem profunda (deep learning) levantam questões
que transcendem os âmbitos da tecnologia e da engenharia e têm a ver com uma
compreensão intimamente ligada ao significado da vida humana, aos processos
basilares do conhecimento e à capacidade que tem a mente de alcançar a verdade.
A capacidade de alguns dispositivos produzirem
textos sintática e semanticamente coerentes, por exemplo, não é garantia de
fiabilidade. Diz-se que podem «alucinar», isto é, gerar afirmações que à
primeira vista parecem plausíveis, mas na realidade são infundadas ou
preconceituosas. Isto coloca um sério problema quando a inteligência artificial
é utilizada em campanhas de desinformação que espalham notícias falsas e levam
a uma desconfiança crescente relativamente aos meios de comunicação. A
confidencialidade, a posse dos dados e a propriedade intelectual são outros
âmbitos em que as tecnologias em questão comportam graves riscos, aos quais se
vêm juntar outras consequências negativas ligadas a um uso indevido, como a
discriminação, a interferência nos processos eleitorais, a formação duma
sociedade que vigia e controla as pessoas, a exclusão digital e a exacerbação
dum individualismo cada vez mais desligado da coletividade. Todos estes fatores
correm o risco de alimentar os conflitos e obstaculizar a paz.
4. O sentido do limite, no paradigma
tecnocrático
O nosso mundo é demasiado vasto, variado e
complexo para ser completamente conhecido e classificado. A mente humana nunca
poderá esgotar a sua riqueza, nem sequer com a ajuda dos algoritmos mais
avançados. De facto, estes não oferecem previsões garantidas do futuro, mas
apenas aproximações estatísticas. Nem tudo pode ser previsto, nem tudo pode ser
calculado; no fim de contas, «a realidade é superior à ideia»[9] e, por
mais prodigiosa que seja a nossa capacidade de calcular, haverá sempre um
resíduo inacessível que escapa a qualquer tentativa de quantificação.
Além disso, a grande quantidade de dados
analisados pelas inteligências artificiais não é, por si só, garantia de
imparcialidade. Quando os algoritmos extrapolam informações, correm sempre o
risco de as distorcer, replicando as injustiças e os preconceitos dos ambientes
onde têm origem. Quanto mais rápidos e complexos eles se tornam, mais difícil é
compreender por que produziram um determinado resultado.
As máquinas inteligentes podem desempenhar as
tarefas que lhes são atribuídas com uma eficiência cada vez maior, mas a
finalidade e o significado das suas operações continuarão a ser determinados ou
capacitados por seres humanos com o seu próprio universo de valores. O risco é
que os critérios subjacentes a certas escolhas se tornem menos claros, que a
responsabilidade de decisão seja ocultada e que os produtores possam
subtrair-se à obrigação de agir para o bem da comunidade. Em certo sentido,
isto é favorecido pelo sistema tecnocrático, que alia a economia à tecnologia e
privilegia o critério da eficiência, tendendo a ignorar tudo o que não esteja
ligado aos seus interesses imediatos.[10]
Isto deve fazer-nos refletir sobre um aspeto
transcurado frequentemente na atual mentalidade tecnocrática e eficientista,
mas decisivo para o desenvolvimento pessoal e social: o «sentido do limite».
Com efeito o ser humano, mortal por definição, pensando em ultrapassar todo o
limite mediante a técnica, corre o risco, na obsessão de querer controlar tudo,
de perder o controle sobre si mesmo; na busca duma liberdade absoluta, de cair
na espiral duma ditadura tecnológica. Reconhecer e aceitar o próprio limite de
criatura é condição indispensável para que o homem alcance ou, melhor, acolha a
plenitude como uma dádiva; ao passo que, no contexto ideológico dum paradigma
tecnocrático animado por uma prometeica presunção de autossuficiência, as
desigualdades poderiam crescer sem medida, e o conhecimento e a riqueza
acumular-se nas mãos de poucos, com graves riscos para as sociedades
democráticas e uma coexistência pacífica.[11]
5. Temas quentes para a ética
No futuro, a fiabilidade de quem solicita um
mútuo, a idoneidade dum indivíduo para determinado emprego, a possibilidade de
reincidência dum condenado ou o direito a receber asilo político ou assistência
social poderão ser determinados por sistemas de inteligência artificial. A
falta de níveis diversificados de mediação que tais sistemas introduzem está
particularmente exposta a formas de preconceito e discriminação: os erros do
sistema podem multiplicar-se facilmente, gerando não só injustiças em casos individuais,
mas também, por efeito dominó, verdadeiras formas de desigualdade social.
Além disso, por vezes, as formas de
inteligência artificial parecem capazes de influenciar as decisões dos
indivíduos através de opções predeterminadas associadas a estímulos e
dissuasões, ou então através de sistemas de regulação das opções pessoais baseados
na organização das informações. Estas formas de manipulação ou controle social
requerem atenção e vigilância cuidadosas, implicando uma clara responsabilidade
legal por parte dos produtores, de quem os contrata e das autoridades
governamentais.
O ato de se confiar a processos automáticos que
dispõem os indivíduos por categorias, por exemplo, através dum uso invasivo da
vigilância ou da adoção de sistemas de crédito social, poderia ter repercussões
profundas também no tecido civil, estabelecendo classificações inadequadas
entre os cidadãos. E estes processos artificiais de classificação poderiam
levar também a conflitos de poder, envolvendo não apenas destinatários
virtuais, mas também pessoas de carne e osso. O respeito fundamental pela
dignidade humana requer a rejeição de que a unicidade da pessoa seja
identificada com um conjunto de dados. Não se deve permitir que os algoritmos
determinem o modo como entendemos os direitos humanos, ponham de lado os
valores essenciais da compaixão, da misericórdia e do perdão, ou eliminem a
possibilidade de um indivíduo mudar e deixar para trás o passado.
Neste contexto, não podemos deixar de
considerar o impacto das novas tecnologias no âmbito laboral: trabalhos, que
outrora eram prerrogativa exclusiva da mão-de-obra humana, acabam rapidamente
absorvidos pelas aplicações industriais da inteligência artificial. Também
neste caso, há substancialmente o risco duma vantagem desproporcionada para
poucos à custa do empobrecimento de muitos. A Comunidade Internacional, ao ver
como tais formas de tecnologia penetram cada vez mais profundamente nos locais
de trabalho, deveria considerar como alta prioridade o respeito pela dignidade
dos trabalhadores e a importância do emprego para o bem-estar económico das
pessoas, das famílias e das sociedades, a estabilidade dos empregos e a
equidade dos salários.
6. Transformaremos as espadas em relhas de
arado?
Nestes dias, contemplando o mundo que nos
rodeia, não se pode ignorar as graves questões éticas relacionadas com o setor
dos armamentos. A possibilidade de efetuar operações militares através de
sistemas de controle remoto levou a uma perceção menor da devastação por eles
causada e da responsabilidade da sua utilização, contribuindo para uma
abordagem ainda mais fria e destacada da imensa tragédia da guerra. A pesquisa
sobre as tecnologias emergentes no setor dos chamados «sistemas de armas letais
autónomas», incluindo a utilização bélica da inteligência artificial, é um
grave motivo de preocupação ética. Os sistemas de armas autónomos nunca poderão
ser sujeitos moralmente responsáveis: a exclusiva capacidade humana de
julgamento moral e de decisão ética é mais do que um conjunto complexo de
algoritmos, e tal capacidade não pode ser reduzida à programação duma máquina
que, por mais «inteligente» que seja, permanece sempre uma máquina. Por esta
razão, é imperioso garantir uma supervisão humana adequada, significativa e
coerente dos sistemas de armas.
Também não podemos ignorar a possibilidade de
armas sofisticadas caírem em mãos erradas, facilitando, por exemplo, ataques
terroristas ou intervenções visando desestabilizar instituições legítimas de
Governo. Em resumo, o mundo não precisa realmente que as novas tecnologias
contribuam para o iníquo desenvolvimento do mercado e do comércio das armas,
promovendo a loucura da guerra. Ao fazê-lo, não só a inteligência, mas também o
próprio coração do homem, correrá o risco de se tornar cada vez mais «artificial».
As aplicações técnicas mais avançadas não devem ser utilizadas para facilitar a
resolução violenta dos conflitos, mas para pavimentar os caminhos da paz.
Numa ótica mais positiva, se a inteligência
artificial fosse utilizada para promover o desenvolvimento humano integral,
poderia introduzir inovações importantes na agricultura, na instrução e na
cultura, uma melhoria do nível de vida de inteiras nações e povos, o
crescimento da fraternidade humana e da amizade social. Em última análise, a
forma como a utilizamos para incluir os últimos, isto é, os irmãos e irmãs mais
frágeis e necessitados, é a medida reveladora da nossa humanidade.
Um olhar humano e o desejo dum futuro melhor
para o nosso mundo levam à necessidade dum diálogo interdisciplinar voltado
para um desenvolvimento ético dos algoritmos – a algor-etica -, em
que sejam os valores a orientar os percursos das novas tecnologias.[12] As
questões éticas deveriam ser tidas em consideração desde o início da pesquisa,
bem como nas fases de experimentação, projetação, produção, distribuição e
comercialização. Esta é a abordagem da ética da projetação, na qual as
instituições educativas e os responsáveis pelo processo de decisão têm um papel
essencial a desempenhar.
7. Desafios para a educação
O desenvolvimento duma tecnologia que respeite
e sirva a dignidade humana tem implicações claras para as instituições
educativas e para o mundo da cultura. Ao multiplicar as possibilidades de
comunicação, as tecnologias digitais permitiram encontrar-se de novas formas.
Todavia continua a ser necessária uma reflexão contínua sobre o tipo de
relações para onde nos estão encaminhando. Os jovens estão a crescer em
ambientes culturais impregnados de tecnologia, o que não pode deixar de pôr em
causa os métodos de ensino e formação.
A educação para o uso de formas de inteligência
artificial deveria visar sobretudo a promoção do pensamento crítico. É
necessário que os utentes das várias idades, mas principalmente os jovens,
desenvolvam uma capacidade de discernimento no uso de dados e conteúdos
recolhidos na web ou produzidos por sistemas de inteligência
artificial. As escolas, as universidades e as sociedades científicas são
chamadas a ajudar os estudantes e profissionais a assumir os aspetos sociais e
éticos do progresso e da utilização da tecnologia.
A formação no uso dos novos instrumentos de
comunicação deveria ter em conta não só a desinformação, as notícias falsas,
mas também a recrudescência preocupante de «medos ancestrais (...) que souberam
esconder-se e revigorar-se por detrás das novas tecnologias».[13] Infelizmente,
encontramo-nos mais uma vez a combater «a tentação de fazer uma cultura dos
muros, de erguer os muros (…), para impedir este encontro com outras culturas,
com outras pessoas»[14] e o desenvolvimento duma coexistência pacífica e
fraterna.
8. Desafios para o desenvolvimento do
direito internacional
O alcance global da inteligência artificial
deixa claro que, juntamente com a responsabilidade dos Estados soberanos de
regular a sua utilização internamente, as Organizações Internacionais podem
desempenhar um papel decisivo na obtenção de acordos multilaterais e na
coordenação da sua aplicação e implementação.[15] A este respeito, exorto
a Comunidade das Nações a trabalhar unida para adotar um tratado internacional
vinculativo, que regule o desenvolvimento e o uso da inteligência artificial
nas suas variadas formas. Naturalmente o objetivo da regulamentação não deveria
ser apenas a prevenção de más aplicações, mas também o incentivo às boas
aplicações, estimulando abordagens novas e criativas e facilitando iniciativas
pessoais e coletivas.[16]
Em última análise, na busca de modelos
normativos que possam fornecer uma orientação ética aos criadores de
tecnologias digitais, é indispensável identificar os valores humanos que
deveriam estar na base dos esforços das sociedades para formular, adotar e
aplicar os quadros legislativos necessários. O trabalho de elaboração de
diretrizes éticas para a produção de formas de inteligência artificial não pode
prescindir da consideração de questões mais profundas relativas ao significado
da existência humana, à proteção dos direitos humanos fundamentais, à busca da
justiça e da paz. Este processo de discernimento ético e jurídico pode
revelar-se preciosa ocasião para uma reflexão compartilhada sobre o papel que a
tecnologia deveria ter na nossa vida individual e comunitária e sobre a forma
como a sua utilização possa contribuir para a criação dum mundo mais equitativo
e humano. Por este motivo, nos debates sobre a regulamentação da inteligência
artificial, dever-se-ia ter em conta as vozes de todas as partes interessadas,
incluindo os pobres, os marginalizados e outros que muitas vezes permanecem
ignorados nos processos de decisão globais.
* * * * *
Espero que esta reflexão encoraje a fazer com
que os progressos no desenvolvimento de formas de inteligência artificial
sirvam, em última análise, a causa da fraternidade humana e da paz. Não é
responsabilidade de poucos, mas da família humana inteira. De facto, a paz é
fruto de relações que reconhecem e acolhem o outro na sua dignidade
inalienável, e de cooperação e compromisso na busca do desenvolvimento integral
de todas as pessoas e de todos os povos.
No início do novo ano, a minha oração é que o
rápido desenvolvimento de formas de inteligência artificial não aumente as já
demasiadas desigualdades e injustiças presentes no mundo, mas contribua para
pôr fim às guerras e conflitos e para aliviar muitas formas de sofrimento que
afligem a família humana. Possam os fiéis cristãos, os crentes das várias
religiões e os homens e mulheres de boa vontade colaborar harmoniosamente para
aproveitar as oportunidades e enfrentar os desafios colocados pela revolução
digital, e entregar às gerações futuras um mundo mais solidário, justo e
pacífico.
Vaticano, 8 de dezembro de 2023.
FRANCISCO
.jpeg)
Belíssima reflexão. Paz e saúde ao nosso Papa
ResponderExcluir