Na Mensagem para o 60º Dia das Comunicações Sociais, “Preservar vozes e rostos humanos”, o Papa Leão introduz com a expressão: “O rosto e a voz são traços únicos, distintivos, de cada pessoa; manifestam a própria identidade irrepetível e são o elemento constitutivo de cada encontro”. “O rosto e a voz são sagrados. Foram-nos doados por Deus, que nos criou à sua imagem e semelhança, chamando-nos à vida com a Palavra que Ele próprio nos dirigiu”. O Pontífice continua sua introdução recordando que “preservar rostos e vozes humanas significa preservar o “reflexo indelével do amor de Deus. Não somos uma espécie feita de algoritmos bioquímicos, definidos antecipadamente. Cada um de nós tem uma vocação insubstituível e inimitável que emerge da vida e que se manifesta precisamente na comunicação com os outros”.
Papa Leão adverte que se “falharmos nessa preservação”, a tecnologia digital “corre o risco de modificar radicalmente alguns dos pilares fundamentais da civilização humana, que por vezes damos como certos”. Ao simular vozes e rostos humanos, sabedoria e conhecimento, consciência e responsabilidade, empatia e amizade, os sistemas conhecidos como inteligência artificial não apenas interferem nos ecossistemas informativos, mas invadem também o nível mais profundo da comunicação: o da relação entre pessoas humanas”.
“O desafio, portanto, não é tecnológico, mas antropológico” continua o Papa. “Preservar rostos e vozes significa, em última instância, preservar nós mesmos. Acolher com coragem, determinação e discernimento as oportunidades oferecidas pela tecnologia digital e pela inteligência artificial, não significa esconder de nós mesmos os pontos críticos, as opacidades e os riscos”.
Mas hoje acontece que “algoritmos concebidos para maximizar o envolvimento nas redes sociais – lucrativo para as plataformas – recompensam as emoções rápidas”, penalizam as expressões humanas, que necessitam de mais tempo, como o esforço de compreensão e a reflexão”. Ao fechar “grupos de pessoas em bolhas de consenso fácil e de indignação fácil”, “enfraquecem a capacidade de escuta e de pensamento crítico, aumentando a polarização social”. Além disso, em alguns contextos, há “uma confiança ingenuamente acrítica” em relação à IA percebida como “uma espécie de ‘amiga’ onisciente, dispensadora de todas as informações, arquivo de todas as memórias, ‘oráculo’ de todos os conselhos”. Tudo isso pode “enfraquecer” a capacidade do homem “de pensar de forma analítica e criativa, de compreender significados, de distinguir entre sintaxe e semântica”, adverte o Pontífice. “Contentando-nos com uma compilação estatística artificial”, corremos o risco de, “a longo prazo, consumir nossas capacidades cognitivas, emotivas e comunicativas”.
Todavia, a questão fundamental não é sobre “o que a máquina consegue ou conseguirá fazer, mas o que podemos e poderemos fazer nós, crescendo em humanidade e conhecimento, com um uso inteligente de ferramentas tão poderosas a nosso serviço”. “Renunciar ao processo criativo e ceder às máquinas as próprias funções mentais e a própria imaginação significa, no entanto, enterrar os talentos que recebemos com o fim de crescer como pessoas em relação a Deus e aos outros. Significa esconder o nosso rosto e silenciar a nossa voz.
Temos dificuldade cada vez maior de identificar se estamos interagindo com outros seres humanos ou com ’bots’ ou ’influencers virtuais’. Os chatbots, adverte o Papa, com sua estrutura dialógica e adaptativa, mimética, “é capaz de imitar os sentimentos humanos e, assim, simular uma relação. Essa antropomorfização, que pode soar até mesmo divertida, é ao mesmo tempo enganosa, especialmente para as pessoas mais vulneráveis”. Com visíveis consequências, pois “tornados excessivamente ’afetuosos’, além de sempre presentes e disponíveis, podem se tornar arquitetos ocultos dos nossos estados emocionais e, desse modo, invadir e ocupar a esfera da intimidade das pessoas”.
“A tecnologia que explora a nossa necessidade de relacionamento pode não apenas ter consequências dolorosas no destino dos indivíduos, mas pode também ferir o tecido social, cultural e político das sociedades”
Leão XIV também faz um alerta sobre “distorções” presentes nos sistemas emergentes, chamadas BIAS, que podem reforçar tendenciosidades existentes e ampliar a discriminação, o preconceito e a estereotipagem. “Estamos imersos em uma multidimensionalidade, onde está se tornando cada vez mais difícil distinguir a realidade da ficção”. “A isso, continua, “se soma o problema da falta de precisão. Sistemas que vendem uma probabilidade estatística como conhecimento estão, na verdade, oferecendo-nos, no máximo, aproximações da verdade que, às vezes, são verdadeiras ’alucinações’.
O desafio” sugere ainda o Papa, “que nos espera não está em frear a inovação digital, mas em orientá-la, em sermos conscientes do seu caráter ambivalente. Cabe a cada um de nós levantar a voz em defesa das pessoas humanas, para que estas ferramentas possam ser verdadeiramente integradas por nós como aliadas”. Esta aliança é possível, mas precisa fundamentar-se em três pilares: responsabilidade, cooperação e educação.
Em primeiro lugar, a responsabilidade. “Esta pode ser articulada, dependendo dos papéis, como honestidade, transparência, coragem, capacidade de visão, dever de compartilhar o conhecimento e direito a ser informado. Para os que estão no comando das plataformas on-line; criadores e desenvolvedores de modelos de IA; aos legisladores nacionais e reguladores supranacionais. Ainda no âmbito da responsabilidade o Papa recorda: “Deve-se tutelar a paternidade e a propriedade soberana do trabalho dos jornalistas e dos outros criadores de conteúdo. A informação é um bem público. Um serviço público construtivo e significativo não se baseia na opacidade, mas na transparência das fontes, na inclusão dos sujeitos envolvidos e em um padrão elevado de qualidade”.
Com relação à cooperação, Leão afirma: “Todos somos chamados a cooperar. Nenhum setor pode enfrentar sozinho o desafio de guiar a inovação digital e a governança da IA”. Continuando afirma a necessidade de “criar mecanismos de salvaguarda. Todas as partes interessadas – da indústria tecnológica aos legisladores, das empresas criativas ao mundo acadêmico, dos artistas aos jornalistas e educadores – devem estar envolvidas na construção e na efetivação de uma cidadania digital consciente e responsável”.
Por fim, com relação à educação, Leão afirma: “aumentar as nossas capacidades pessoais de refletir criticamente, a avaliar a confiabilidade das fontes e os possíveis interesses que estão por trás da seleção das informações que chegam até nós” e “elaborar critérios práticos para uma cultura da comunicação mais saudável e responsável”.
