Resumo da notícia:
Órgãos do governo brasileiro notificaram a xAI de Elon Musk exigindo medidas contra a criação de deepfakes pornográficos pelo Grok.
O Idec considera as medidas do governo insuficientes e reforça o pedido de suspensão imediata do X no Brasil por violações à LGPD e ao Marco Civil da Internet.
O impasse ocorre pouco mais de um ano depois de o X ter sido bloqueado por 39 dias no Brasil, em razão do descumprimento de ordens judiciais.
O governo brasileiro recomendou que a rede social X adote uma série de medidas para conter a produção e a disseminação de imagens sexualizadas de mulheres, crianças e adolescentes criadas com o aplicativo de inteligência artificial (IA) generativa Grok.
O X e o Grok são controlados pela xAI, de Elon Musk, que em 2024 entrou em confronto direto com o Ministro do Supremo Tribunal Federal (STF), Alexandre de Moraes.
A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça e Segurança Pública e o Ministério Público Federal (MPF) recomendaram à empresa a criação de procedimentos técnicos para identificar, revisar e remover conteúdos sexuais no X; a suspensão imediata das contas envolvidas em sua divulgação; a implementação de um canal de denúncia específico com tempo de resposta adequado; e a elaboração de relatórios de impacto à proteção de dados pessoais relativos a atividades de geração de conteúdo sintético.
Em nota oficial conjunta, os órgãos declaram que, “caso as recomendações não sejam acatadas, ou sejam implementadas de modo insuficiente para mitigar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições, em sede administrativa e em sede judicial.”
Enquanto ANPD e Senacon avaliam solicitar a suspensão do X no Brasil, o MPF possui a prerrogativa de acionar judicialmente a xAI.
A ofensiva governamental foi motivada por denúncias da sociedade civil e da deputada federal Erika Hilton (PSOL-SP), apontando que o Grok permite a criação de nudes de mulheres e menores de idade reais sem consentimento.
As medidas anunciadas pelo governo foram consideradas insuficientes pelo Idec (Instituto de Defesa dos Consumidores), que na semana passada havia apresentado uma denúncia formal à ANPD, acusando a xAI de violar o Código de Defesa do Consumidor, a Lei Geral de Proteção de Dados (LGPD), o Estatuto da Criança e do Adolescente (ECA) e o Marco Civil da Internet.
No documento, o Idec pedia a suspensão dos serviços da empresa no Brasil. Em nota divulgada após a manifestação do governo, o instituto afirma que “a decisão ignora a gravidade dos milhares de casos de uso indevido de dados pessoais, inclusive de crianças e adolescentes, na geração de imagens sexualizadas por meio da ferramenta, mantendo consumidoras brasileiras em situação de risco.”
“Para o Idec, a resposta das autoridades representa mais um capítulo na história de omissão fiscalizatória brasileira”, acrescenta a nota.
xAI afirma ter restringido recursos de edição de imagens de pessoas reais
Desde o início deste ano, diversos países adotaram medidas para fiscalizar, restringir e, em última instância, suspender os serviços da xAI. Autoridades do Reino Unido, por exemplo, abriram uma investigação formal sobre deepfakes produzidos e divulgados por meio das ferramentas da empresa. A Indonésia e a Malásia bloquearam o acesso da população ao X.
Dados de uma consultoria independente, divulgados pela Bloomberg, revelam que o Grok gerou 6,7 mil imagens sexualmente explícitas em apenas 48 horas (entre 5 e 6 de janeiro). A título de comparação, outras cinco ferramentas de IA generativa dedicadas à criação de imagens registraram uma média de 79 imagens de conotação sexual em 24 horas.
Em resposta, na quarta-feira (14), a xAI afirmou que havia imposto limites à edição de imagens de pessoas reais com “roupas reveladoras como biquínis.”
O próprio Musk negou que o Grok possa ser usado para produção de conteúdo de conotação sexual envolvendo menores de idade:
“Não tenho conhecimento de nenhuma imagem de nudez de menores gerada pelo Grok. Literalmente zero.”
Musk também garantiu que a ferramenta é programada para recusar a produção de “qualquer coisa ilegal.” No entanto, ponderou que os usuários podem recorrer a subterfúgios para burlar as leis da plataforma, provocando resultados inesperados. “Se isso ocorrer, corrigimos o bug imediatamente”, acrescentou.
Em 2024, o embate entre Musk e o governo brasileiro resultou na suspensão do X no país por 39 dias. O bloqueio começou em 30 de agosto de 2024, por decisão do ministro Alexandre de Moraes, devido ao descumprimento de ordens judiciais, que incluíam a indicação de um representante legal no país e o bloqueio de perfis acusados de disseminar informações falsas.
O acesso à rede social foi restabelecido apenas após a nomeação de um representante legal, o pagamento de R$ 28,6 milhões em multas e o compromisso formal de cumprir a legislação brasileira — promessa que agora é posta à prova pela crise das IAs generativas.
