Um estudo de duas organizações sem fins lucrativos baseadas na Europa descobriu que o chatbot de inteligência artificial (IA) Bing da Microsoft, agora renomeado como Copilot, produz resultados enganosos sobre informações eleitorais e cita incorretamente suas fontes.

O estudo foi divulgado pela AI Forensics e AlgorithmWatch em 15 de dezembro e descobriu que o chatbot de IA do Bing deu respostas erradas 30% das vezes para perguntas básicas sobre eleições políticas na Alemanha e na Suíça. As respostas imprecisas estavam relacionadas a informações sobre candidatos, pesquisas, escândalos e votação.

Também produziu respostas imprecisas para perguntas sobre as eleições presidenciais de 2024 nos Estados Unidos.

O chatbot de IA do Bing foi usado no estudo porque foi um dos primeiros chatbots de IA a incluir fontes em suas respostas, e o estudo disse que as imprecisões não se limitam ao Bing. Eles relataram que conduziram testes preliminares no ChatGPT-4 e também encontraram discrepâncias.

As organizações sem fins lucrativos esclareceram que as informações falsas não influenciaram o resultado das eleições, embora pudessem contribuir para a confusão pública e desinformação.

“À medida que a IA gerativa se torna mais difundida, isso pode afetar um dos pilares da democracia: o acesso a informações públicas confiáveis e transparentes.”

Além disso, o estudo descobriu que as salvaguardas incorporadas no chatbot de IA foram distribuídas de maneira "desigual", fazendo com que ele fornecesse respostas evasivas 40% do tempo.

De acordo com um relatório do Wall Street Journal sobre o tema, a Microsoft respondeu aos resultados e disse que planeja corrigir os problemas antes das eleições presidenciais dos EUA em 2024. Um porta-voz da Microsoft encorajou os usuários a sempre verificar a precisão das informações obtidas de chatbots de IA.

Em outubro deste ano, senadores nos EUA propuseram um projeto de lei que puniria criadores de réplicas de IA não autorizadas de humanos reais — vivos ou mortos.

Em novembro, a Meta, empresa-mãe do Facebook e Instagram, introduziu um mandato que proíbe o uso de ferramentas de criação de anúncios de IA gerativa para anunciantes políticos como precaução para as próximas eleições.

VEJA MAIS: