Congresso da Santa Sé discute inteligência artificial, proteção infantil e ética

A cúpula é organizada pela Pontifícia Academia de Ciências, pela Pontifícia Universidade Gregoriana e pela World Children’s Foundation, que tem o apoio da rainha Silvia da Suécia, e de acadêmicos, formuladores de políticas, representantes de empresas de tecnologia e vítimas de abuso.

Na apresentação do evento no Vaticano, o chanceler da Pontifícia Academia de Ciências, cardeal Peter Turkson, enfatizou a necessidade de proteger as crianças, que “por natureza, amam ferramentas digitais e usam inteligência artificial”.

Nesse contexto, o cardeal disse que “colocar essas ferramentas nas mãos das crianças implica uma grande responsabilidade” e que a regulamentação não pode ser deixada exclusivamente nas mãos de pesquisadores e empresas de tecnologia.

O chanceler da Pontifícia Academia de Ciências disse que o papa Francisco já falou sobre a IA, descrevendo-a como uma ferramenta “interessante, emocionante, mas também aterrorizante”. A Santa Sé tomou medidas como a publicação pelo Governatorato do Estado do Vaticano e pelo Dicastério para a Doutrina da Fé de diretrizes sobre o uso e aplicação da inteligência artificial.

O professor Joachim von Braun, economista agrícola e presidente da Pontifícia Academia de Ciências, destacou em seu discurso os riscos que a inteligência artificial representa para as crianças.

Von Braun disse que a ciência mostrou que a inteligência artificial pode gerar dependência de redes sociais e afetar o desenvolvimento do cérebro das crianças. O professor também falou sobre problemas de privacidade, manipulação do comportamento infantil no mercado e o uso da tecnologia na exploração sexual infantil.

No entanto, o professor também enfatizou que a IA apresenta oportunidades no campo educacional.

“Há jovens de todo o mundo que vão falar na conferência sobre os benefícios da inteligência artificial na educação”, disse Von Braun.

O professor pediu um compromisso global para fortalecer as regulamentações internacionais para proteger as crianças dos efeitos negativos da inteligência artificial. Von Braun também pediu aos desenvolvedores de sistemas de IA que priorizem a segurança, a privacidade e a dignidade das crianças. Sobre isso, ele disse que a Pontifícia Academia das Ciências fala “tanto com os funcionários dos diferentes Estados quanto com os especialistas, e com os cientistas que trabalham em tudo isso”.

“Conversamos com eles e esperamos que, quando voltarem ao Vale do Silício ou onde trabalham, possam influenciar seus colegas no desenvolvimento desses modelos de IA a partir de uma base ética”, disse Von Braun depois de destacar a importância de quem projeta os algoritmos entender seu impacto na sociedade.

Falta de coerência nas políticas de proteção às crianças

O padre jesuíta alemão Hans Zollner, especialista em proteção de menores, ressaltou a importância de garantir a segurança de crianças e adolescentes no ambiente digital. Como diretor do Instituto de Antropologia da Pontifícia Universidade Gregoriana e ex-membro da Pontifícia Comissão para a Tutela dos Menores, Zollner trabalha há anos para aumentar a conscientização sobre o impacto da tecnologia nos jovens.

Ele disse que, em 2017, uma conferência sobre a dignidade dos menores no mundo digital foi organizada no Vaticano junto com a organização italiana Telefono Azzurro e outros parceiros, quando “muito poucas pessoas falavam sobre inteligência artificial, mas já havia alertas sobre a falta de coerência nas políticas de proteção infantil e a falta de envolvimento de grandes empresas de tecnologia”.

No fim desse encontro, o papa Francisco pediu aos governos e agências de aplicação da lei que façam todo o possível para proteger os menores e outras pessoas vulneráveis no mundo digital.

No entanto, segundo o especialista, “o progresso nessa área parou com a pandemia” e, ao mesmo tempo, o uso das redes sociais “aumentou consideravelmente, expondo mais os jovens aos riscos da tecnologia”.

Nesse sentido, ele ressaltou que a proteção dos menores não se trata só de evitar abusos físicos, mas também de garantir “ambientes digitais seguros, pois, para muitos jovens, o mundo digital é o espaço em que eles se comunicam, estabelecem relacionamentos e, infelizmente, em que também podem ser vítimas de diferentes tipos de abuso, como assédio, extorsão sexual e manipulação”.

Na coletiva de imprensa, Zollner, que renunciou à Pontifícia Comissão para a Tutela dos Menores em 2023 depois de acusar o órgão de falta de transparência, disse que a Igreja passou por sua própria crise de abusos e, justamente por isso, deve assumir uma responsabilidade ainda maior na defesa dos menores.

Assine aqui a nossa newsletter diária

Tecnologia, parte do problema e parte da solução

Na apresentação no Vaticano, Paula Guillet de Monthoux, secretária-geral da World Children’s Foundation, também falou, destacando a importância de proteger as crianças especialmente aquelas que estão “em condições de abandono, marginalização ou exclusão social”.

“Essas crianças, entre elas crianças imigrantes, crianças que vivem nas ruas e aquelas sem família, enfrentam alto risco de exploração e abuso sexual, o que requer uma resposta coordenada e eficaz em nível global”, disse Guillet.

Guillet de Monthoux enfatizou que um dos maiores desafios na proteção infantil hoje é a influência da tecnologia.

“A tecnologia é parte do problema, mas também deve ser parte da solução”, disse ela, dizendo que, embora o ambiente digital tenha facilitado o acesso às crianças para fins de exploração, também dá oportunidades para melhorar sua proteção se usado com responsabilidade.

Guillet de Monthoux disse que a fundação da qual ela é secretária mantém um “diálogo constante com empresas como Google e Alphabet, que começaram a formar equipes de ética para analisar os riscos da IA e projetar estratégias para mitigar seus efeitos negativos sobre os menores”.

Nova violência baseada em tecnologia

Em sua fala, a especialista enfatizou que a proteção à criança deve abordar duas frentes simultaneamente. Por um lado, ela disse que “a exploração infantil do passado permanece sem solução” e que muitas vítimas “continuam sem receber justiça”. Ela também enfatizou que os abusadores, apesar das restrições, continuam a encontrar “maneiras de explorar menores no mundo físico”.

Ela disse também que surgiu uma nova forma de violência baseada em inteligência artificial e tecnologia digital.

As crianças, que passam cada vez mais tempo em ambientes virtuais, estão expostas a “novas ameaças, como cyberbullying, manipulação de dados pessoais, abuso online e sexting”, concluiu Guillet de Monthoux.