O Conselho Europeu de Proteção de Dados (EDPB) publicou o primeiro relatório de progresso do seu “grupo de trabalho GPT” e as notícias não são boas para o ChatGPT.

Os esforços da OpenAI para alinhar o seu principal modelo de IA, ChatGPT, com as regras da União Europeia, incluindo o abrangente Regulamento Geral de Proteção de Dados (GDPR), foram notados pelo EDPB, mas acabaram por ser considerados insuficientes.

De acordo com o documento EDPB:

“Embora as medidas tomadas para cumprir o princípio da transparência sejam benéficas para evitar interpretações errôneas dos resultados do ChatGPT, elas não são suficientes para cumpri-lo.”

As descobertas surgem no momento em que a OpenAI passou grande parte de 2024 lidando com ordens de interrupção temporária de vários estados-membros europeus.

Conforme relatado pelo Cointelegraph em janeiro, a agência de proteção de dados da Itália descobriu que o ChatGPT e a OpenAI ainda estavam em conflito com as leis de privacidade de dados da Itália e da UE, apesar de terem sido avisados ​​e posteriormente banidos em março de 2023.

Conforme o relatório do EDPB, a OpenAI não fez o suficiente desde então para alinhar o ChatGPT com as leis da UE. A principal reclamação parece ser que o ChatGPT tende a fornecer informações imprecisas.

“Na verdade”, escreve o EDPB, “devido à natureza probabilística do sistema, a atual abordagem de formação conduz a um modelo que também pode produzir resultados tendenciosos ou inventados”.

O relatório também expressa a preocupação do EDPB de que “os resultados fornecidos pelo ChatGPT serão provavelmente considerados factualmente precisos pelos usuários finais”, sejam eles precisos ou não.

Não está claro no momento exatamente como a OpenAI poderia colocar o ChatGPT em conformidade. O modelo GPT-4, por exemplo, contém bilhões de pontos de dados e cerca de um trilhão de parâmetros. Seria inviável para os seres humanos vasculharem o conjunto de dados para verificar a sua precisão a um nível que permitisse que fosse considerado razoavelmente preciso pelos padrões do GDPR. 

Infelizmente, para a OpenAI, o EDPB escreveu explicitamente que “em particular, a impossibilidade técnica não pode ser invocada para justificar o não cumprimento destes requisitos”.

Relacionado: OpenAI suspende voz do ChatGPT acusada de imitar Scarlett Johansson