O cofundador do Ethereum, Vitalik Butertin, compartilhou sua opinião sobre inteligência artificial “superinteligente”, chamando-a de “arriscada” em resposta às mudanças contínuas de liderança na OpenAI.
Em 19 de maio, o Cointelegraph relatou que o ex-chefe de alinhamento da OpenAI, Jan Leike, renunciou após dizer que havia chegado a um "ponto de ruptura" com a gestão sobre as prioridades principais da empresa.
Leike alegou que "a cultura e os processos de segurança ficaram em segundo plano em relação aos produtos brilhantes" na OpenAI, com muitos apontando para desenvolvimentos em torno da inteligência artificial geral (AGI).
A AGI é antecipada como um tipo de IA igualando ou superando as capacidades cognitivas humanas — o que já começou a preocupar os especialistas do setor, que dizem que o mundo não está devidamente equipado para gerenciar tais sistemas de IA superinteligentes.
Este sentimento parece estar alinhado com as opiniões de Buterin. Em uma postagem no X, ele compartilhou sua opinião sobre o assunto, enfatizando que as pessoas não devem agir precipitadamente ou reagir contra quem tenta.
Buterin enfatizou modelos abertos que funcionam em hardware de consumo como uma "proteção" contra um futuro onde um pequeno conglomerado de empresas seria capaz de ler e mediar a maioria dos pensamentos humanos.
"Tais modelos também têm um risco muito menor em termos de perigo do que a megalomania corporativa e militar."
Este é o segundo comentário dele na última semana sobre IA e suas capacidades crescentes.
Em 16 de maio, Buterin argumentou que o modelo GPT-4 da OpenAI passou no teste de Turing, que determina a "humanidade" de um modelo de IA. Ele citou novas pesquisas que afirmam que a maioria dos humanos não consegue determinar quando está conversando com uma máquina.
No entanto, Buterin não é o primeiro a expressar essa preocupação. O governo do Reino Unido também recentemente examinou o aumento da participação das Big Tech no setor de IA, levantando questões relacionadas à concorrência e à dominação do mercado.
Grupos como o 6079 já estão surgindo pela internet, defendendo uma IA descentralizada para garantir que ela permaneça mais democratizada e não seja dominada pelas Big Tech.
Isso segue a saída de outro membro sênior da equipe de liderança da OpenAI em 14 de maio, quando Ilya Sutskever, cofundador e cientista-chefe, anunciou sua renúncia.
Sutskever não mencionou preocupações sobre AGI. No entanto, em uma postagem no X, ele expressou confiança de que a OpenAI desenvolverá uma AGI que seja "segura e benéfica".