Mais de 300 especialistas das áreas de tecnologia, inteligência artificial (IA), ética digital e segurança infantil de diversas parte do mundo se reuniram para assinar uma carta aberta pedindo aos governos que tomem "medidas imediatas" para combater as deepfakes produzidas por IA.
A carta, divulgada em 21 de fevereiro e intitulada "Disrupting the Deepfake Supply Chain" (Interrompendo a cadeia de suprimentos de deepfakes, em tradução livre), pede que governos, formuladores de políticas e líderes políticos "imponham obstáculos" para interromper a proliferação de deepfakes.
O documento apresenta três linhas de ação principais, sendo a primeira a criminalização total da pornografia infantil criada com deepfakes – mesmo quando se trata de crianças fictícias.
Ela também solicita a imposição de penalidades criminais para qualquer pessoa que "conscientemente crie ou facilite a disseminação de deepfakes nocivas à sociedade", juntamente com requisitos para desenvolvedores e distribuidores de software para garantir que seus produtos não possibilitem a criação de deepfakes nocivas e penalidades se suas medidas não estiverem de acordo com o padrão pré-determinado.
Os signatários da carta incluem o político dos Estados Unidos e defensor das criptomoedas Andrew Yang, o psicólogo cognitivo Steven Pinker, dois ex-presidentes da Estônia e centenas de outros intelectuais de países como EUA, Canadá, Reino Unido, Austrália, Japão e China.
Andrew Critch, pesquisador de IA da Universidade da Califórnia, Berkeley, do Departamento de Engenharia Elétrica e Ciência da Computação e principal autor da carta, disse:
"Os deepfakes são uma enorme ameaça à sociedade humana e já estão causando danos crescentes a indivíduos, comunidades e ao funcionamento da democracia."
Critch disse que ele e seus colegas elaboraram a carta para que o público global pudesse demonstrar apoio a iniciativas governamentais para impedir a proliferação de deepfakes com "ações imediatas."
- Pesquisadores de segurança revelam ataque de áudio de deepfake de IA que sequestra conversas ao vivo
Joy Buolamwini, fundadora da Algorithmic Justice League (Liga da Justiça Algorítmica, em tradução livre) e autora de Unmasking AI (Desmacarando a IA, em tradução livre), disse que a necessidade de "direitos biométricos" torna-se "cada vez mais evidente."
"Embora ninguém esteja imune ao abuso algorítmico, aqueles que já são marginalizados na sociedade carregam um fardo ainda maior. 98% dos deepfakes não consensuais são de mulheres e meninas. É por isso que cabe a todos nós nos manifestarmos contra os usos nocivos da IA."
Ela disse que deve haver "sérias consequências para abusos flagrantes que utilizem IA."
Outras organizações envolvidas na criação e divulgação da carta incluem o Machine Intelligence and Normative Theory Lab e o Center for AI Safety.
Nos EUA, a legislação em vigor não visa nem proíbe veementemente a produção e a disseminação de deepfakes. Entretanto, eventos recentes fizeram com que os órgãos reguladores tomassem medidas mais enérgicas e imediatas.
Como resposta a uma onda de deepfakes virais envolvendo a cantora pop Taylor Swift que inundou as redes sociais, os congressistas dos EUA propuseram a urging for quick action instituição de uma legislação de efeito imediato para criminalizar a produção de deepfakes.
Alguns dias depois, os EUA proibiram o uso de vozes geradas por IA em ligações automáticas de telemarketing após a circulação de deepfakes que se passavam pelo presidente Joe Biden. Em 16 de fevereiro, a Comissão Federal de Comércio dos EUA propôs atualizações nas regras que proíbem a personificação de empresas ou órgãos governamentais por IA para fins de proteção ao consumidor.
LEIA MAIS