Miles Brundage, pesquisador de longa data em segurança da OpenAI, deixará a empresa e, em 23 de outubro, abandonou seu cargo de chefe de "AGI Readiness" para se juntar ou iniciar outra empresa de inteligência artificial.
Brundage, que ingressou na OpenAI em 2018 como pesquisador, ocupava a posição de principal responsável pela segurança da empresa.
Em uma postagem no Substack discutindo sua saída, ele afirmou que a equipe de “AGI Readiness” da OpenAI será dissolvida, possivelmente deixando a empresa sem um departamento de segurança dedicado.
AGI, ou inteligência artificial geral, é um paradigma teórico em que um modelo de IA seria capaz de executar qualquer tarefa que um humano poderia realizar se recebesse os mesmos recursos.
A principal função da equipe de Brundage parecia ser fornecer sugestões de políticas e supervisão de segurança para o desenvolvimento contínuo da empresa em direção à AGI.
Segundo o post, sua saída foi motivada pelo desejo de focar em pesquisas e advocacia independentes. Ele citou vários motivos para sua saída, incluindo o desejo de “ser menos tendencioso” em relação ao seu ambiente corporativo e buscar oportunidades por meio do empreendedorismo ou em outra organização.
Conforme Brundage:
“Pretendo iniciar uma nova organização sem fins lucrativos (e/ou me juntar a uma existente) e trabalhar com pesquisa e advocacy de políticas de IA. Provavelmente farei uma mistura de pesquisa e advocacia, mas os detalhes e proporções ainda estão por definir.”
No entanto, o pesquisador pode não ficar sem emprego por muito tempo, já que ele já fez uma conexão de negócios potencial com Brendan McCord, fundador e chefe do Cosmos Institute, uma organização dedicada ao desenvolvimento de tecnologia com uma abordagem humanista.
Uma conexão de negócios potencial no X.com. Fonte Miles Brundage, Brendan McCord
AGI Readiness
A importância da saída de Brundage da OpenAI ainda não está clara. O Cointelegraph entrou em contato com a OpenAI e recebeu a seguinte declaração:
“Apoiamos totalmente a decisão de Miles de seguir sua pesquisa de políticas fora da indústria e somos profundamente gratos por suas contribuições. Seu plano de se dedicar integralmente à pesquisa independente sobre políticas de IA lhe dá a oportunidade de ter um impacto em maior escala, e estamos animados para aprender com seu trabalho e acompanhar seus resultados. Temos confiança de que, em seu novo papel, Miles continuará a elevar o padrão de qualidade das políticas na indústria e no governo.”
A empresa se recusou a responder às perguntas do Cointelegraph sobre o futuro da equipe de AGI Readiness.
Êxodo de funcionários da OpenAI
Antes da criação da equipe de AGI Readiness, o principal departamento de supervisão de AGI da empresa era a equipe “Superalignment”, co-liderada pelos cofundadores da empresa, Ilya Sutskever e Jan Leike.
Essa equipe foi dissolvida após a saída de Leike da empresa em maio, alegando ter atingido seu “limite” após discordâncias com a gestão.
Sutskever deixou a empresa no mês seguinte e desde então fundou sua própria empresa de inteligência artificial, já avaliada em cerca de US$ 5 bilhões.
A essa altura, a OpenAI já havia perdido o cofundador e cientista-chefe Andrej Karpathy, que deixou a empresa para fundar sua própria empresa em fevereiro.
Outro cofundador, John Schulman, também saiu em agosto para se juntar à concorrente Anthropic. Enquanto isso, a ex-diretora de tecnologia Mira Murati está supostamente levantando fundos para iniciar sua própria empresa de inteligência artificial.