O TikTok, a popular plataforma de mídia social para criar e compartilhar vídeos curtos, disse que agora começará a rotular automaticamente o conteúdo gerado por IA (AIGC) quando for carregado na plataforma.

Em 9 de maio, a gigante das redes sociais disse que está se associando à Coalition for Content Provenance and Authenticity (C2PA) e será a primeira plataforma de compartilhamento de mídia a implementar sua tecnologia de Credenciais de Conteúdo.

O TikTok já vem exigindo que os criadores de conteúdo rotulem AIGC realista há mais de um ano, junto com qualquer coisa feita com seus próprios efeitos de IA do TikTok.

No entanto, o desenvolvimento recente implementa um rótulo automático em conteúdos gerados por IA criados usando outras plataformas. Disse que isso será feito com a tecnologia de Credenciais de Conteúdo, que anexa metadados ao conteúdo que a plataforma pode usar para reconhecer e rotular instantaneamente AIGC.

A declaração disse que o aumento no AIGC rotulado automaticamente no TikTok será "gradual a princípio". Assim que a Credencial de Conteúdo for implementada em outras plataformas para metadados, será capaz de rotular mais conteúdo.

Por enquanto, o recurso estará disponível apenas para imagens e vídeos, com a intenção de trazê-lo para conteúdo de áudio em um futuro próximo.

A plataforma de mídia social também se juntou à Content Authenticity Initiative, liderada pela Adobe. Dana Roa, a consultora geral e diretora de confiança da Adobe, disse:

“Num momento em que qualquer conteúdo digital pode ser alterado, é essencial fornecer formas para o público discernir o que é verdadeiro.”

Além do rótulo de IA, o TikTok disse que também lançará recursos de alfabetização midiática, que foram desenvolvidos em conjunto com a MediaWise e Witness.

A plataforma de mídia social pretende lançar 12 vídeos ao longo do ano destacando habilidades universais de alfabetização midiática e explicando como ferramentas do TikTok, como rótulos de AIGC, podem contextualizar ainda mais o conteúdo.

Isso acontece enquanto a IA continua avançando e tem a capacidade de criar conteúdo mais realista, gerando um aumento nos deepfakes gerados por IA.

Em 8 de maio, autoridades em Hong Kong descobriram uma exchange de criptomoedas fraudulenta e não licenciada que falsificou uma conexão com Elon Musk, publicando vídeos e imagens gerados por IA de Musk em seu site e contas de mídia social.

Alguns dias antes, o cofundador da Berkshire Hathaway, Warren Buffett, disse que o impacto da IA em atividades financeiras ilícitas é comparável ao advento da bomba atômica e das armas nucleares.

Isso aconteceu depois que um deepfake foi feito dele mesmo que foi capaz de imitar realisticamente como ele se vestia, se movia e falava.