O chatbot de inteligência artificial do X, o Grok, torna a plataforma de mídia social mais favorável à verdade ao fornecer respostas que se opõem a usuários que recorrem a ele para confirmar vieses políticos, afirmou o cofundador do Ethereum, Vitalik Buterin.
“A facilidade de chamar o Grok no Twitter é provavelmente a coisa mais importante, depois das notas da comunidade, que foi positiva para a busca da verdade nesta plataforma”, Buterin disse na quinta-feira.
“O fato de você não saber antecipadamente como o Grok vai responder é fundamental aqui”, acrescentou. “Já vi muitas situações em que alguém chama o Grok esperando que sua crença política maluca seja confirmada, e o Grok aparece e puxa o tapete dessa pessoa.”
Buterin afirmou que há um forte argumento para dizer que o Grok é uma “melhoria líquida” para o X, mas reconheceu preocupações sobre como o chatbot de IA é ajustado para aprender com as opiniões e visões de determinados usuários, incluindo seu criador, Elon Musk.
As falhas do Grok ficaram totalmente evidentes no mês passado, quando ele elogiou a habilidade atlética de Musk e chegou a sugerir que ele poderia ter ressuscitado mais rápido do que Jesus Cristo.
Musk culpou o “adversarial prompting” pelas alucinações, e executivos do setor cripto argumentaram que isso demonstrou por que a IA precisa ser descentralizada para proteger a precisão, a credibilidade e a imparcialidade.
IA afirmando visões como fatos é uma preocupação real
Kyle Okamoto, diretor de tecnologia da plataforma de nuvem descentralizada Aethir, disse ao Cointelegraph no mês passado que “quando os sistemas de IA mais poderosos são de propriedade, treinados e governados por uma única empresa, criam-se condições para que o viés algorítmico se torne conhecimento institucionalizado”.
“Os modelos começam a produzir visões de mundo, prioridades e respostas como se fossem fatos objetivos, e é nesse momento que o viés deixa de ser um bug e passa a ser a lógica operacional do sistema que é replicada em escala.”
O Grok é desenvolvido pela empresa de IA de Musk, a xAI, e é um dos chatbots de IA mais amplamente utilizados. Com mais de 1 bilhão de pessoas usando IA, informações incorretas ou enganosas têm potencial para se espalhar rapidamente.
Ainda assim, Buterin disse que o Grok tem sido mais bem-sucedido em tornar o X mais voltado à busca da verdade do que grande parte do “lixo de terceiros que vemos por aí”.
Chatbots de IA precisam melhorar de forma geral
O Grok não é o único chatbot de IA com problemas — o ChatGPT, da OpenAI, já foi criticado por respostas enviesadas e erros factuais, enquanto a Character.ai enfrenta alegações de que seu chatbot atraiu um menino de 13 anos para uma interação sexualmente abusiva e até o incentivou a tirar a própria vida.
