O cofundador da Ethereum, Vitalik Buterin, afirmou que suspender temporariamente recursos computacionais acessíveis globalmente pode ser uma forma de “ganhar mais tempo para a humanidade” diante de uma potencial forma perigosa de superinteligência de IA.

Em uma postagem no blog em 5 de janeiro, como seguimento de sua postagem de novembro de 2023 defendendo a ideia de “aceleracionismo defensivo” ou d/acc, Buterin disse que uma superinteligência de IA pode estar a apenas cinco anos de distância, e não há como prever se o resultado seria positivo.

Buterin sugeriu que uma “pausa suave” no uso industrial de hardware computacional poderia ser uma opção para desacelerar o desenvolvimento da IA, reduzindo o poder computacional global disponível em até 99% por um a dois anos, “para ganhar mais tempo para a humanidade se preparar”.

Fonte: Vitalik Buterin

Superinteligência de IA é um modelo teórico definido como sendo muito mais inteligente do que os humanos mais brilhantes em todos os campos de especialização.

Muitos executivos de tecnologia e pesquisadores expressaram preocupações sobre a IA, com mais de 2.600 assinando uma carta aberta em março de 2023 pedindo a suspensão do desenvolvimento de IA devido a “riscos profundos para a sociedade e a humanidade”.

Buterin observou que sua postagem introduzindo o d/acc fez apenas “apelos vagos para não construir formas arriscadas de superinteligência” e ele queria compartilhar seus pensamentos sobre como lidar com o cenário “onde o risco de IA é alto”.

Mesmo assim, Buterin disse que só defenderia uma pausa suave no hardware se estivesse “convencido de que precisamos de algo mais ‘muscular’ do que regras de responsabilidade,” o que significaria que aqueles que usam, implantam ou desenvolvem IA poderiam ser processados por danos causados pelo modelo.

Ele apontou que as propostas para uma pausa no hardware incluem localizar chips de IA e exigir seu registro. Buterin propôs que hardware de IA em escala industrial poderia ser equipado com um chip que permita sua operação apenas se ele receber um trio de assinaturas de grandes organismos internacionais uma vez por semana. 

“As assinaturas seriam independentes do dispositivo (se desejado, poderíamos até exigir uma prova de conhecimento zero de que foram publicadas em uma blockchain), então seria tudo ou nada,” escreveu Buterin. “Não haveria maneira prática de autorizar um dispositivo a continuar funcionando sem autorizar todos os outros dispositivos.”

A ideia do d/acc apoiada por Buterin defende uma abordagem cautelosa para o desenvolvimento de tecnologia, em contraste com o aceleracionismo efetivo, ou e/acc, que incentiva mudanças tecnológicas irrestritas e desenfreadas.