William Saunders, um ex-funcionário da OpenAI e membro da equipe de "superalinhamento" da empresa, revelou recentemente que deixou a empresa porque sentia que ela estava em rota de colisão com a tragédia, muito parecida com o malfadado R.M.S. Titanic em 1912.

Como notado pelo Business Insider, Saunders fez seus comentários durante um episódio do podcast do jornalista de tecnologia Alex Kantrowitz.

Saunders disse a Kantrowitz que durante seus três anos na OpenAI, ele às vezes se perguntava se a empresa estava em um caminho que era "mais como o programa Apollo ou mais como o Titanic."

Seu raciocínio parece ser que, através de um esforço científico cauteloso, o programa espacial Apollo foi um sucesso apesar de seus contratempos, enquanto o Titanic foi um fracasso apesar de seus sucessos.

Segundo Saunders:

“Muito trabalho foi feito para tornar o navio seguro e construir compartimentos estanques para que pudessem dizer que ele era inafundável. Mas, ao mesmo tempo, não havia botes salva-vidas suficientes para todos.”

OpenAI como o Titanic

Saunders descreve o ethos geral da empresa como aquele que dá maior prioridade ao desenvolvimento de produtos do que à implementação de precauções de segurança razoáveis.

Ele pinta um quadro de um escritório onde os funcionários que levantam preocupações de segurança são punidos e a liderança está focada no lucro.

“Com o tempo,” disse Saunders, “começou a realmente parecer que as decisões sendo tomadas pela liderança eram mais como a White Star Line construindo o Titanic.”

O iceberg

Saunders não é a primeira pessoa a discordar da maneira como a OpenAI está supostamente conduzindo seus negócios. Elon Musk, um dos cofundadores afastados da empresa, recentemente a processou alegando que ela se desviou muito de sua missão original. Isso apesar do fato de que Musk não tem envolvimento com a OpenAI há anos e atualmente opera seu próprio concorrente direto, xAI. O processo foi posteriormente retirado.

A empresa de IA concorrente Anthropic foi fundada em 2021 por ex-funcionários e cofundadores da OpenAI devido a preocupações de que a OpenAI não estava focada o suficiente em confiança e segurança.

Por outro lado, Ilya Sutskever, outro cofundador agora afastado e ex-cientista-chefe, deixou a empresa em maio de 2024 para iniciar sua própria empresa, escrevendo na época que estava “confiante” de que a equipe da OpenAI seria capaz de alcançar suas metas com segurança.

Com tantos funcionários abandonando o navio e a analogia com o Titanic sendo usada por pelo menos um, a questão em questão é: Quem ou o que é o iceberg?

Se os passageiros na analogia somos nós — toda a humanidade — então o iceberg representa a ameaça existencial que o ChatGPT e sistemas semelhantes representam para uma sociedade despreparada. Se a IA se tornar mais inteligente e capaz do que nós, e não tivermos "botes salva-vidas" suficientes para proteger todos de seu potencial para causar danos, então podemos estar caminhando para uma tragédia.

Mas se os passageiros são acionistas e stakeholders esperando que a OpenAI crie uma IA tão inteligente quanto os humanos, e isso nunca acontecer, então talvez o iceberg represente o estouro da bolha da IA generativa.