Uma equipe de cientistas na Bélgica pode ter resolvido um dos maiores desafios no campo da IA usando um método de treinamento descentralizado baseado em blockchain. Embora a pesquisa ainda esteja em seus estágios iniciais, suas potenciais implicações podem variar desde revolucionar a exploração espacial até representar uma ameaça existencial para a humanidade.
Em um ambiente simulado, os pesquisadores desenvolveram uma forma de coordenar o aprendizado entre agentes autônomos de IA individuais. A equipe usou a tecnologia blockchain para facilitar e proteger as comunicações dos agentes, criando assim um “enxame” descentralizado de modelos de aprendizado.
Os resultados de treinamento individual de cada agente no enxame foram então usados para desenvolver um modelo de IA maior. Como os dados foram tratados via blockchain, esse sistema maior se beneficiou da inteligência coletiva do enxame sem acessar os dados individuais dos agentes.
Enxames de IA
Aprendizado de máquina, um conceito intimamente relacionado à inteligência artificial, existe de várias formas. O chatbot típico, como o ChatGPT da OpenAI ou o Claude da Anthropic, por exemplo, é desenvolvido usando várias técnicas. Ele é pré-treinado usando um paradigma chamado "aprendizado não supervisionado" e depois ajustado com outro denominado "aprendizado por reforço com feedback humano".
Um dos maiores desafios dessa abordagem é que, normalmente, requer que os dados de treinamento do sistema sejam isolados em um banco de dados centralizado. Isso torna impraticável para aplicações que exigem aprendizado autônomo contínuo ou onde a privacidade é importante.
A equipe de pesquisa conduziu seus estudos de blockchain usando um paradigma de aprendizado chamado "aprendizado federado descentralizado". Ao fazer isso, eles descobriram que podiam coordenar com sucesso os modelos enquanto mantinham a descentralização dos dados.
Segurança do enxame
A maior parte da pesquisa da equipe envolveu o estudo da resiliência do enxame contra vários métodos de ataque. Como a tecnologia blockchain é um livro-razão compartilhado e a rede de treinamento usada no experimento era ela mesma descentralizada, a equipe conseguiu demonstrar robustez contra ataques de hackers tradicionais.
No entanto, eles encontraram um limite definitivo para o número exato de robôs mal-intencionados que o enxame poderia lidar. Os pesquisadores desenvolveram cenários envolvendo robôs projetados intencionalmente para prejudicar a rede. Esses incluíam agentes com agendas nefastas, agentes com informações desatualizadas e robôs codificados com instruções de simples interrupção.
Enquanto os agentes simples e desatualizados eram relativamente fáceis de defender, a equipe descobriu que agentes inteligentes com agendas nefastas poderiam eventualmente perturbar a inteligência do enxame se um número suficiente conseguisse infiltrá-lo.
Esta pesquisa permanece experimental e foi conduzida apenas por meio de simulações. No entanto, pode chegar um momento em que enxames de robôs possam ser coordenados de maneira descentralizada. Isso pode, um dia, permitir que equipes de agentes de IA de diferentes empresas ou países trabalhem juntas para treinar um agente maior sem sacrificar a privacidade dos dados.