Um grupo de legisladores dos Estados Unidos, liderado pelo deputado Adam Schiff, deu ao CEO da Alphabet/Google, Sundar Pichai, um prazo até 1º de agosto para atender a uma solicitação de informações relacionadas à funcionalidade "Visão Geral da IA" da empresa para pesquisa.
A Visão Geral da IA é uma janela de resumo que aparece no topo das páginas de pesquisa do Google quando um usuário faz uma consulta. Ela geralmente contém uma resposta curta em texto, uma imagem, se relevante, e links de apoio.
De acordo com o gabinete de Schiff, citando vários relatos, a Visão Geral da IA tende a fornecer informações incorretas e/ou potencialmente perigosas.
A denúncia, publicada pelo gabinete de Schiff e co-assinada por quatro outros membros do congresso, solicita respostas a onze perguntas sobre a funcionalidade relacionadas aos esforços da empresa para garantir maior precisão e segurança.
Visão Geral da IA
Alguns dos problemas com a Visão Geral da IA derivam de sua aparente incapacidade de determinar se uma fonte é sátira ou não. “A funcionalidade de Visão Geral da IA do Google dizia aos usuários para comerem pelo menos uma pedra por dia para obter vitaminas e minerais”, escreveram Schiff e os outros membros do congresso, acrescentando que a IA estava citando o site de notícias satíricas “The Onion”.
Em outros casos, como quando os usuários começaram a relatar que a Visão Geral da IA afirmava que Barack Obama foi o primeiro presidente muçulmano dos EUA, o sistema de IA citava diretamente teorias da conspiração desmentidas.
A carta de Schiff reconheceu os esforços contínuos do Google para combater a desinformação, mas afirmou que é necessário fazer mais:
“Apreciamos os esforços do Google para corrigir esses erros, melhorando a funcionalidade por meio de testes contínuos, removendo respostas que violam as políticas de conteúdo da empresa e rotulando respostas geradas por IA como experimentais. No entanto, é necessário fazer mais para garantir adequadamente que o Google possa permanecer uma fonte confiável e confiável de informações para os americanos.”
Raciocínio da IA
Até agora, não há consenso científico de que esses tipos de problemas possam realmente ser resolvidos. O centro do problema é que a IA não "pensa" ou "raciocina", apesar de ambos os termos serem comumente usados no marketing de produtos de IA.
Sistemas de IA generativa imitam a fala humana, mas não têm a capacidade de entender o contexto ou aplicar experiências adquiridas a uma situação.
Esses problemas são pendentes há muito tempo no campo e foram observados em modelos de linguagem grandes iniciais, como o GPT-2 da OpenAI e o agora extinto sistema "Galactica" da Meta, que foi retirado do ar após apenas três dias devido à reação negativa que seu lançamento criou.
Exigências dos EUA
Para entender melhor os esforços do Google, Schiff e seus colegas legisladores exigiram que Pichai e o Google respondam até 1º de agosto com respostas a uma lista de 11 perguntas. Essas incluem consultas sobre os procedimentos de classificação da empresa, verificação automática de fatos, precisão, fontes, transparência e como está trabalhando com as autoridades para garantir a segurança.