Pesquisadores da Universidade de Chicago desenvolveram uma ferramenta que oferece aos artistas a capacidade de "envenenar" as versões digitais de suas obras de arte para evitar que os desenvolvedores as utilizem para treinar sistemas de inteligência artificial (IA).
Chamada de "Nightshade", em homenagem à família de plantas – algumas das quais são conhecidas por suas bagas venenosas – a ferramenta modifica as imagens de forma que sua exploração contamina os conjuntos de dados usados para treinar sistemas de IA com informações incorretas.
De acordo com uma reportagem do MIT Technology Review, o Nightshade altera os pixels de uma imagem digital para induzir um sistema de IA a interpretá-la incorretamente. Como exemplo, a Tech Review cita um caso em que os dados induzem a IA a reconhecer a imagem de um gato como um cachorro e vice-versa.
Ao fazer isso, a capacidade da IA de gerar resultados precisos e sensíveis seria, teoricamente, prejudicada. Usando o exemplo acima, se um usuário solicitasse uma imagem de um "gato" à IA adulterada, ele poderia receber um cachorro rotulado como gato ou um amálgama de todos os "gatos" do conjunto de treinamento da IA, incluindo aqueles que são, na verdade, imagens de cães que foram modificadas pela ferramenta Nightshade.
Um especialista que teve acesso ao trabalho, Vitaly Shmatikov, professor da Universidade de Cornell, opinou que os desenvolvedores de sistemas de IA "ainda não dispõem de defesas robustas contra esses ataques", o que implica que até mesmo modelos robustos, como o ChatGPT da OpenAI, podem estar em risco.
A equipe de pesquisa por trás do Nightshade é liderada por Ben Zhao, professor da Universidade de Chicago. A nova ferramenta é, na verdade, a atualização de um software de proteção de obras de arte chamado Glaze. Em sua versão anterior, eles desenvolveram um método pelo qual um artista poderia ofuscar, ou "encobrir", o estilo de sua obra de arte.
Um artista que criasse um retrato a carvão, por exemplo, poderia ser envidraçado para fazer ser classificad por um sistema de IA como uma obra de arte moderna.
De acordo com a Technology Review, o Nightshade será implementado no Glaze, que atualmente está disponível gratuitamente para uso ou download na Web.
LEIA MAIS