Recursos neurais recém-descobertos em sistemas de inteligência artificial (IA) podem ser a chave para resolver alucinações de IA, um dos maiores desafios da indústria.
As "alucinações" de IA são um resultado não intencional do treinamento de grandes modelos de linguagem para atuar como sistemas de IA generativa. Alucinações ocorrem quando modelos de IA produzem novas informações, geralmente incorretas, que não estão contidas em seu conjunto de dados.
No entanto, os recursos neurais recém-descobertos podem ajudar a resolver o problema das alucinações de IA, de acordo com Dario Amodei, cofundador e CEO da Anthropic.
Amodei disse durante um discurso na Viva Tech Paris 2024:
"Os sistemas de IA modernos têm centenas de milhões de neurônios... Encontramos 30 milhões de recursos em nosso modelo. Recursos para vulnerabilidades de segurança ou preconceito contra certos tipos de grupos... Agora podemos intervir neles e mudá-los."
O desafio com alucinações é que os protocolos de IA não sabem que a saída está incorreta. No entanto, os recursos recém-descobertos podem tornar as alucinações de IA uma coisa do passado, explicou Amodei.
"Reduzir as alucinações de [inteligência artificial] é um dos principais benefícios desta nova descoberta."
A Anthropic já está pesquisando os efeitos de alterar recursos internos em seu assistente de IA para mudar seu comportamento. Um recurso específico criou um modelo de demonstração que fez a IA "se concentrar intensamente na Ponte Golden Gate". A Anthropic disse em um post no X em 23 de maio:
"O fato de podermos encontrar e alterar esses recursos dentro do Claude nos deixa mais confiantes de que estamos começando a entender como grandes modelos de linguagem realmente funcionam."
A Anthropic, uma empresa líder em desenvolvimento de IA, lançou seu chatbot de IA, Claude, na Europa no início de maio. Desde 14 de maio, o assistente de IA está disponível através de seu aplicativo web e app iOS em várias línguas europeias, incluindo francês, alemão, espanhol e italiano.
Desenvolvimento de inteligência artificial dependerá de talentos, não de dados: Amodei
A falta de dados tem sido o principal gargalo desafiando o desenvolvimento de IA.
No entanto, graças à criação de conjuntos de dados sintéticos, o maior desafio atualmente é a falta de talentos de desenvolvedores, não a quantidade de dados. Amodei disse:
"Os dados não serão um gargalo, já que algumas empresas estão começando a criar dados sintéticos... O avanço da IA dependerá principalmente de talentos..."
Amodei observou que os dados sintéticos são promissores para a escalabilidade da IA, mas a proporção de dados sintéticos para dados do mundo real não pode ser infinita, pois resultaria em conjuntos de dados sintéticos mais fracos e irreais.
A indústria de IA tem visto crescente interesse de investidores desde o início de 2024. Em 27 de maio, a empresa de Elon Musk garantiu uma rodada de financiamento de US$ 6 bilhões. Este financiamento visa posicionar seu chatbot Grok como um concorrente do ChatGPT até o final de 2024.