O uso desenfreado da inteligência artificial no sistema financeiro pode levar a resultados desastrosos, disse o autor, filósofo e professor de história Yuval Noah Harari a uma audiência no Innovation Summit do Banco de Compensações Internacionais (BIS). Instituições fortes são necessárias para manter a IA sob controle, afirmou ele.
O sistema financeiro cria confiança, argumentou Harari. Dinheiro, títulos e outros dispositivos financeiros permitem que milhões de estranhos trabalhem juntos em direção a objetivos comuns. Mas nenhum esforço foi feito para tornar a regulação financeira compreensível “para os humanos”, ele disse:
“Talvez 1% da população entenda como o sistema financeiro funciona. O que acontece quando esse número cair para zero?”
Harari citou a crise financeira de 2007-2008 como um resultado da inovação financeira incompreensível. Os reguladores não conseguiram entender os novos produtos financeiros o suficiente para regulá-los.
A IA é uma forma alienígena de inteligência que está apenas no início de sua evolução. Ela não raciocina da maneira como os humanos fazem e pode facilmente criar dispositivos financeiros que estão além da imaginação humana, deslocando o poder dos políticos e reguladores para algoritmos. Relacionamentos de confiança seriam construídos entre sistemas de IA, em vez de entre pessoas, e em uma crise financeira, políticos e reguladores seriam forçados a confiar na IA.
Essa ruptura dos relacionamentos de confiança pode levar à instabilidade social. A confiança nos políticos e instituições já está em declínio, observou Harari, acrescentando:
“Precisamos impedir que a IA se torne completamente insondável. […] Precisamos da capacidade de entendê-la e regulá-la.”
A regulamentação não deve ser deixada para os gênios ou “líderes carismáticos”, continuou Harari. Apenas as instituições podem “manter os humanos no ciclo.”
Mesmo assim, há perigos. Inovações que mudam o mundo muitas vezes só têm sucesso após uma série de tentativas fracassadas de usá-las. Harari descreveu o imperialismo, comunismo e nazismo como tentativas fracassadas de construir sociedades industrializadas — com dezenas de milhões de vítimas. Enquanto isso, a IA é capaz de propor ideias sobre como usar a si mesma.
Harari disse que os reguladores precisam se concentrar em construir mais confiança entre as pessoas para garantir que o futuro sistema financeiro seja estável e amigável ao ser humano.