O Centro de Inteligência Artificial e Política Digital (CAIDP) apresentou uma reclamação à Comissão Federal de Comércio dos Estados Unidos (FTC) na tentativa de impedir o lançamento de poderosos sistemas de IA para os consumidores finais.

A reclamação centrou-se no modelo de linguagem pela OpenAI, o Chat GPT-4, que o CAIDP descreve como “tendencioso, enganoso e um risco à privacidade e à segurança pública” na representação apresentada em 30 de março.

OA CAIDP, uma organização independente de pesquisa sem fins lucrativos, argumentou que o uso comercial do GPT-4 viola a Seção 5 da Lei da FTC, que proíbe ''atos ou práticas injustas ou enganosas no comércio ou que afetem negociações comerciais."

Para apoiar seu argumento, a organização de ética dde IA apontou para o conteúdo do System Card do GPT-4, que afirma:

“Descobrimos que o modelo tem o potencial de reforçar e reproduzir preconceitos e visões de mundo específicos, incluindo associações estereotipadas e degradantes prejudiciais a certos grupos marginalizados.”

No mesmo documento, afirmou: “Os sistemas de IA terão um potencial ainda maior para reforçar ideologias, visões de mundo, verdades e inverdades, e para cimentá-los ou confirmá-los, impedindo futuras contestações, reflexões e melhorias.”

Queixa apresentada contra a OpenAI pelo Centro de Inteligência Artificial e Política Digital. Fonte: CAIDP

O CAIDP acrescentou que a OpenAI lançou comercialmente para o público em geral o GPT-4 com pleno conhecimento desses riscos e que nenhuma avaliação independente do GPT-4 foi realizada antes de seu lançamento.

Como resultado, o CAIDP quer que a FTC conduza uma investigação sobre os produtos da OpenAI e outros operadores de poderosos sistemas de IA:

“É hora de a FTC agir [...] CAIDP insta a FTC a abrir uma investigação sobre a OpenAI, bloqueando novas liberações comerciais do GPT-4 e garantindo o estabelecimento de salvaguardas necessárias para proteger consumidores, empresas e o setor comercial."

Enquanto ChatGPT-3 foi lançado em novembro, sua versão mais recente, o GPT-4 é considerada dez vezes mais inteligente. Após seu lançamento em 14 de março, um estudo descobriu que o GPT-4 foi capaz de passar nos exames mais rigorosos do ensino médio e das faculdades de direito dos EUA entre os candidatos melhores classificados.

Ele também pode detectar vulnerabilidades de contratos inteligentes da Ethereum, entre outras coisas.

Hoje de manhã eu estava hackeando a nova API do ChatGPT e descobri algo super interessante: existem mais de 80 plugins secretos que podem ser utilizados removendo um parâmetro específico de uma chamada de API.

Os plugins secretos incluem um "plugin DAN", "plugin de preços de criptomoedas" e muitos mais.

— (@rez0__) 

A denúncia veio à tona justamente quando Elon Musk, Steve Wozniak da Apple e uma série de especialistas em IA e tecnologia assinaram uma petição solicitando a “pausa” do desenvolvimento de sistemas de IA mais poderosos que o GPT-4.

Sentindo um pouco de angústia existencial por causa da IA hoje

—Elon Musk (@elonmusk)

O presidente do CAIDP, Marc Rotenberg, está entre os outros 2.600 signatários da petição, que foi lançada pelo Future of Life Institute em 22 de março.

Os autores argumentaram que “as IAs avançadas podem causar uma mudança profunda na história da vida na Terra”, para melhor ou para pior.

A Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO) também pediu aos governos que implementem as diretrizes reunidas na “Recomendação sobre a Ética da IA” da ONU.

Depois que +1.000 trabalhadores do setor de tecnologia pediram uma pausa no treinamento dos poderosos sistemas de #IA, a @UNESCO pede aos países que implementem imediatamente sua Recomendação sobre a Ética da IA – o primeiro marco global sobre o tema e que foi adotado pelos 193 Estados-Membros

— Eliot Minchenberg (@E_Minchenberg)

Ainda sobre o tema, um ex-pesquisador de IA do Google alegou recentemente que o "Bard", chatbot do Google, foi treinado usando as respostas do ChatGPT.

Embora o pesquisador tenha renunciado devido ao incidente, os executivos do Google negaram as acusações.

LEIA MAIS