O influencer e candidato à prefeitura de São Paulo, Pablo Marçal (PRTB-SP), divulgou na segunda-feira, 26 de agosto, uma peça de campanha que usa deepfake para atacar Guilherme Boulos (PSOL-SP), seu rival na disputa pelo cargo.
A propaganda publicada por Marçal em suas redes sociais infringe duas diretrizes do Tribunal Superior Eleitoral (TSE) sobre o uso de inteligência artificial (IA) em materiais de campanha nas eleições municipais de 2024.
Além do uso de deepfake, que é totalmente vedado pelo TSE, Marçal não explicitou que a peça foi criada com a utilização de ferramentas de IA, como determina o tribunal.
No vídeo, o rosto de Marçal é utilizado como uma máscara sobre a imagem de uma pessoa não identificada que assopra um pó branco na direção da câmera, enquanto a legenda diz: "POV: Marçal fazendo Bolos."
O vídeo faz parte da campanha de difamação que Marçal está promovendo contra Boulos. As insinuações de Marçal contra o candidato do PSOL estão sendo investigadas pela Polícia Federal (PF) sob suspeita de crime eleitoral.
A intervenção direta sobre o vídeo original com uso de IA pode ser facilmente identificada devido às imperfeições no rosto do deepfake – a máscara de Marçal não acompanha a movimentação do personagem. O próprio texto da postagem que acompanha o vídeo ironiza o uso do rosto de Marçal sobre a imagem: "E aí, ficou parecido?"
Registro da candidatura de Marçal pode ser cassado
Em última instância, a produção e a veiculação de deepfakes e outros conteúdos criados sinteticamente em benefício próprio ou para prejudicar adversários estão sujeitas à cassação do registro da candidatura e à perda do mandato, caso o responsável pelo material seja eleito.
Nesse tipo de caso, pode haver também a abertura de investigações criminais. A divulgação de fatos inverídicos sobre partidos e candidatos, capazes de influenciar o eleitorado, pode resultar em penas de dois meses a um ano de detenção, em caso de condenação.
O uso de conteúdo sintético em peças de campanha está autorizado pelo TSE, desde que seja acompanhado por um aviso explícito de que foi gerado por ferramentas de IA, seja qual for a modalidade da propaganda eleitoral.
Uma peça de rádio, por exemplo, deve ser acompanhada de um aviso sempre que um determinado som criado por IA for utilizado. A mesma regra vale para fotografias e vídeos. Caso não seja voluntariamente desabilitado pelo candidato, as peças de campanha deverão ser retiradas de circulação pelas próprias plataformas ou pela Justiça.
Justiça Eleitoral determinou suspensão das redes sociais de Marçal
No sábado, 24, a Justiça Eleitoral concedeu uma liminar que suspendeu temporariamente as redes sociais e o site oficial da campanha de Marçal até o fim das eleições.
Instagram, TikTok e YouTube acataram a decisão do juiz Antonio Maria Patiño Zorz e retiraram do ar os perfis do candidato do PRTB. Dias depois de encerrar suas operações no Brasil, o X mantém ativo o perfil de Marçal.
O pedido de suspensão das redes sociais de Marçal partiu do PSB, partido da candidata Tabata Amaral, sob a alegação de abuso de poder econômico. Segundo o PSB, Marçal estava remunerando indevidamente seus seguidores para ampliar o alcance de sua campanha nas redes sociais.
Marçal negou quaisquer irregularidades e afirma que as ações de seus seguidores são espontâneas e movidas por interesses financeiros, uma vez que eles estariam obtendo lucros a partir do uso de sua imagem.
A decisão é liminar e o mérito da acusação ainda não foi julgado. A campanha de Marçal afirmou que vai recorrer.
O "poder destrutivo" dos deepfakes foi reconhecido até mesmo pelo bilionário Warren Buffet. Após ser apresentado a uma versão sintética de si próprio, Buffet equiparou os riscos de ferrmentas de inteligência artificial a armas nucleares, conforme noticiou recentemente o Cointelegraph Brasil.