Ao longo deste ano não faltaram cientistas, CEOs de empresas tecnologia, bilionários e políticos expressaram suas opiniões sobre a inteligência artificial (IA) - e agora, até o Papa se manifestou a respeito dos riscos e perigos da tecnologia emergente.

Em uma carta de 3.412 palavras datada de 8 de dezembro, o Papa Francisco – o chefe supremo da Igreja Católica – lançou um alerta sobre os possíveis riscos da IA para a humanidade e o que poderia ser feito para controlá-la. A carta foi publicada no momento em que a Igreja Católica Romana se prepara para celebrar o Dia Mundial da Paz em 1º de janeiro de 2024.

O Papa Francisco deseja um tratado internacional para regulamentar a IA para garantir que ela seja desenvolvida e usada de forma ética – caso contrário, corremos o risco de cair na espiral de uma "ditadura tecnológica."

"Exorto a comunidade global de nações a trabalhar conjuntamente para adotar um tratado internacional vinculativo que regule o desenvolvimento e o uso da inteligência artificial em suas diversas formas."

A ameaça da IA poderia emergir se os desenvolvedores adotarem um "desejo de lucro ou sede de poder" que se sobreponha ao desejo de existir livre e pacificamente, explicou o Papa.

"A dignidade inerente a cada ser humano [...] deve fundamentar o desenvolvimento de novas tecnologias e servir como critério indiscutível para avaliá-las [...] para que o progresso digital possa ocorrer com o devido respeito à justiça e contribuir para a causa da paz."

As tecnologias que não contribuem para isso "agravam as desigualdades e os conflitos" e, portanto, jamais poderão ser consideradas um verdadeiro progresso, acrescentou.

Ao mesmo tempo, o surgimento de notícias falsas geradas por IA é um "problema sério", acrescentou o Papa, que pode levar a uma crescente desconfiança na mídia.

Em março, o Papa tornou-se personagem de um sistema de IA generativa quando uma imagem falsa dele vestindo uma jaqueta branca de luxo se tornou viral.

Imagem falsa do Papa gerada por IA. Fonte: Boston Globe

O Papa Francisco, no entanto, também reconheceu os benefícios da IA para a fabricação de produtos de forma mais eficiente e mercados mais ajustados, bem como uma revolução nos processos de acumulação, organização e confirmação de dados.

Mas ele também está preocupado com o fato de que a IA beneficiará aqueles que a controlam e deixará uma grande parte da população sem emprego e sem recursos para sobreviver:

"Existe o risco substancial de benefícios desproporcionais para poucos, ao preço do empobrecimento de muitos."

Há muito tempo o Papa Francisco vem alertando sobre o mau uso das tecnologias emergentes, afirmando que "princípios morais teóricos e práticos" precisam ser incorporados a elas. No entanto, ele é tido como mais atualizado no que diz respeito à tecnologia e à visão de futuro do que seus antecessores.

As recentes observações do Papa Francisco foram divulgadas após um ano de protestos organizados em todos os cantos do mundo sobre os possíveis perigos da IA.

Líderes do setor de tecnologia, como o CEO da Tesla, Elon Musk, e o cofundador da Apple, Steve Wozniak, expressaram preocupação com a rapidez com que a IA está avançando. Isso fez com que eles e mais de 2.600 líderes tecnológicos e pesquisadores assinassem uma petição para pausar o desenvolvimento de sistemas de IA em março de 2023, baseada na crença de que uma IA mais avançada do que o GPT-4 pode representar "riscos profundos para a sociedade e a humanidade."

O presidente dos Estados Unidos, Joe Biden, também expressou sua preocupação. Sua administração

Pope Francis’ recent remarks come after a year of outcry from all corners of the world over the potential dangers of AI. Seu governo lançou uma ordem executiva sobre o "desenvolvimento e uso seguro e confiável da inteligência artificial" no final de outubro para abordar os riscos representados pela IA.

Até mesmo cineastas e celebridades de Hollywood estão opinando sobre a questão.

Em julho, o cineasta canadense James Cameron teria dito que vinha alertando sobre os perigos da IA desde O Exterminador do Futuro, que ele dirigiu há quase 40 anos.

"Eu os avisei em 1984 e vocês não me ouviram", disse Cameron à CTV News.

O Exterminador do Futuro (1984)
Dirigido por James Cameron

— Monica Mc Callion (@CallionMonica)

"Acho que o armamento da IA é o maior perigo [...] Acho que entraremos no equivalente a uma corrida armamentista nuclear com a IA e, se não a construirmos, outros com certeza a construirão e, assim, haverá uma escalada", acrescentou.

LEIA MAIS