O Procurador da Cidade de San Francisco entrou com uma ação judicial contra os proprietários de 16 sites que permitiram aos usuários “nudificar” mulheres e meninas usando IA.
O escritório do Procurador da Cidade de San Francisco, David Chiu, em 15 de agosto afirmou que estava processando os proprietários de 16 dos “sites mais visitados” que permitem aos usuários “despir” pessoas em uma foto para criar “imagens nuas não consensuais de mulheres e meninas”.
Uma versão redigida do processo protocolada no Tribunal Superior da cidade alega que os proprietários dos sites incluem indivíduos e empresas de Los Angeles, Novo México, Reino Unido e Estônia que violaram as leis da Califórnia e dos Estados Unidos sobre pornografia deepfake, vingança pornográfica e material de abuso sexual infantil.
Os sites estão longe de ser desconhecidos. A queixa afirma que eles acumulam 200 milhões de visitas apenas no primeiro semestre do ano.
Um site se gabou de permitir que seus usuários “vejam qualquer pessoa nua”. Outro diz: “Imagine perder tempo levando-a para encontros quando você pode simplesmente usar [o site] para conseguir os nudes dela”, segundo a queixa.
Os modelos de IA usados pelos sites são treinados com imagens de pornografia e material de abuso sexual infantil, afirmou o escritório de Chiu.
Basicamente, qualquer pessoa pode fazer upload de uma foto de seu alvo para gerar uma versão pornográfica realista dessa pessoa. Alguns sites limitam suas gerações apenas a adultos, mas outros permitem até a criação de imagens de crianças.
O escritório de Chiu disse que as imagens são “praticamente indistinguíveis” da realidade e têm sido usadas para “extorquir, intimidar, ameaçar e humilhar mulheres e meninas”, muitas das quais não têm como controlar as imagens falsas uma vez que foram criadas.
Em fevereiro, imagens nuas geradas por IA de 16 alunas do oitavo ano — que normalmente têm entre 13 e 14 anos — foram compartilhadas por alunos de uma escola secundária na Califórnia, segundo o escritório.
Em junho, a ABC News relatou que a Polícia de Victoria prendeu um adolescente por supostamente ter circulado 50 imagens de estudantes do nono ao décimo segundo ano que frequentavam uma escola fora de Melbourne, na Austrália.
“Esta investigação nos levou aos cantos mais sombrios da internet, e estou absolutamente horrorizado pelas mulheres e meninas que tiveram que suportar essa exploração”, disse Chiu.
“Todos nós precisamos fazer a nossa parte para reprimir os maus atores que usam IA para explorar e abusar de pessoas reais, incluindo crianças”, acrescentou.
Chiu disse que a IA tem “um enorme potencial”, mas há criminosos explorando a tecnologia, acrescentando: “Precisamos ser muito claros que isso não é inovação — isso é abuso sexual.”