Os congressistas dos Estados Unidos estão se mobilizando para aprovar uma lei que criminalize a produção de imagens deepfake após a ampla circulação de fotos falsas de conteúdo erótico de Taylor Swift. As fotos apareceram em várias plataformas de redes sociais, incluindo o X e o Telegram.

Em uma postagem publicada no X, o deputado dos EUA Joe Morelle expressou veemente desaprovação à disseminação das imagens falsas, descrevendo-as como terríveis. Ele destacou o Preventing Deepfakes of Intimate Images Act (Lei de prevenção de deepfakes de imagens íntimas), que é um projeto de lei que ele escreveu para tornar os deepfakes não consensuais um crime federal e pediu ações urgentes a respeito.

Os deepfakes utilizam inteligência artificial (IA) para criar vídeos manipulados, alterando o rosto ou o corpo de indivíduos. Embora nenhuma lei federal trate do compartilhamento ou da criação de imagens deepfake, alguns congressistas estão tomando medidas para tentar resolver a questão.

A publicação de imagens de nudez não consensual (NCN) é estritamente proibida no X e temos uma política de tolerância zero em relação a esse tipo de conteúdo. Nossas equipes estão removendo ativamente todas as imagens identificadas e tomando as medidas apropriadas contra as contas responsáveis por publicá-las. Estamos acompanhando de perto...

— Safety (@Safety)

A deputada Yvette Clarke declarou no X que a situação envolvendo Taylor Swift não é nova. Ela destacou que as mulheres têm sido vítimas dessa tecnologia há anos, enfatizando que a criação de deepfakes se tornou mais acessível e econômica com os avanços da IA.

Em um comunicado, o X mencionou que está removendo ativamente as imagens e tomando as medidas apropriadas contra as contas responsáveis por divulgá-las. A plataforma disse que está monitorando de perto a situação para resolver prontamente quaisquer outras violações e garantir a remoção de conteúdos impróprios.

No Reino Unido, o compartilhamento de pornografia deepfake tornou-se ilegal como parte da Lei de Segurança Online de 2023. O relatório Estado das Deepfakes de 2023 revelou que a maioria dos deepfakes publicados on-line envolve pornografia, e aproximadamente 99% das vítimas desse conteúdo são mulheres.

As preocupações com conteúdos gerados por IA aumentaram, e o Fórum Econômico Mundial destacou os resultados adversos das tecnologias de IA em seu 19º Relatório de Riscos Globais. O relatório delineou as consequências negativas intencionais ou não intencionais dos avanços em IA e recursos tecnológicos relacionados (incluindo IA generativa) sobre indivíduos, empresas, ecossistemas e economias.

A principal agência nacional de inteligência do Canadá, o Serviço Canadense de Inteligência de Segurança, também expressou preocupação com as campanhas de desinformação na Internet que utilizam deepfakes gerados por IA.

Em um relatório de 12 de junho, as Nações Unidas destacaram a mídia gerada por IA como uma ameaça significativa e urgente à integridade das informações, especialmente nas mídias sociais. A ONU afirmou que o risco de desinformação on-line aumentou devido aos rápidos avanços tecnológicos, principalmente na inteligência artificial generativa, com foco específico em deepfakes.

Em um relatório divulgado em 12 de junho, a Organização das Nações Unidas (ONU) destacou as mídias geradas por IA como uma ameaça significativa e urgente à integridade das informações, especialmente nas redes sociais. A ONU afirmou que o risco de desinformação on-line aumentou devido aos rápidos avanços tecnológicos, principalmente no campo de inteligência artificial generativa, com foco específico em deepfakes.

LEIA MAIS