Sam Altman, CEO da OpenAI e co-fundador da Worldcoin, testemunhou recentemente perante o Congresso dos EUA ao lado da chefe de confiança da IBM, Christina Montgomery, e do professor da NYU, Gary Marcus.

A sessão do Subcomitê de Privacidade, Tecnologia e Direito do Senado representou a primeira aparição oficial de Altman perante o Congresso, dando aos senadores a oportunidade de questionar o CEO da OpenAI sobre as visões de sua empresa sobre regulamentação.

'Se essa tecnologia der errado, pode dar bastante errado.'

O CEO da OpenAI, Sam Altman, admitiu durante uma audiência no Senado que seus 'piores medos' são causar 'danos significativos ao mundo' através do desenvolvimento de tecnologia. pic.twitter.com/RROe9DnR2U

— NowThis (@nowthisnews) 16 de maio de 2023

Apelidada de sessão "histórica" pelo senador de Illinois Dick Durbin, os procedimentos se concentraram em entender as possíveis ameaças representadas por modelos de inteligência artificial generativa (IA), como o ChatGPT, e como os legisladores deveriam abordar a regulamentação.

Os comentários de Altman - que foram descritos por membros do congresso e pelo colega palestrante Marcus como parecendo sinceros e genuínos - pareceram surpreender vários membros do Senado.

Ele defendeu a criação de uma agência federal de supervisão com autoridade para emitir e revogar licenças de desenvolvimento, afirmou que acreditava que os criadores deveriam ser compensados quando seu trabalho é usado para treinar um sistema de IA e concordou que os consumidores que sofrem danos usando produtos de IA deveriam ter o direito de processar o desenvolvedor.

Altman evitou perguntas relacionadas à recente carta de "pausa na IA" que pedia uma moratória de seis meses na implementação de sistemas mais poderosos que o GPT-4, o sistema de IA que sustenta o ChatGPT, afirmando que a OpenAI passou mais de seis meses avaliando o GPT-4 antes da implementação. Ele disse que a empresa não tinha planos de implantar outro modelo nos próximos seis meses.

Marcus, um signatário da carta de pausa, admitiu que concordava mais com o espírito da carta do que com seu conteúdo, mas o professor da NYU instou o Congresso a considerar a supervisão global, bem como a regulamentação federal - um sentimento com o qual Altman concordou.

Ao longo da audiência, os três palestrantes convidados concordaram na maioria dos tópicos. Isso incluiu apoio para proteções de privacidade, maior supervisão governamental, auditoria de terceiros e quão cedo o governo dos Estados Unidos deveria procurar regular a indústria (imediatamente).

O senador Lindsey Graham pergunta às testemunhas na audiência sobre a regulamentação da inteligência artificial se deveria haver uma agência para licenciar e supervisionar as ferramentas de IA.

Todos dizem sim, mas a diretora de privacidade e confiança da IBM, Christina Montgomery, tem ressalvas: pic.twitter.com/UD7R8N7s23

— Yahoo Finance (@YahooFinance) 16 de maio de 2023

No entanto, uma das poucas fontes de discordância veio de Montgomery, da IBM, que discordou da ideia de que uma nova agência federal seria necessária para aplicar regulamentações na indústria de IA.

Suas declarações indicaram que a IBM é a favor de uma abordagem cirúrgica para a regulamentação, usando os órgãos reguladores existentes para focar na aplicação em casos de uso específicos.

Embora todos os três palestrantes concordassem que a IA poderia ser prejudicial e necessitava de intervenções de segurança, Marcus deixou claro que acredita que ninguém atualmente entende ou pode prever quão prejudiciais os produtos de IA existentes podem ser ou se tornarão. Ele defendeu uma abordagem cautelosa envolvendo maior transparência.

'Construímos máquinas que são como touros numa loja de porcelana: poderosas, imprudentes e difíceis de controlar.'

O professor da NYU, Gary Marcus, soou o alarme durante uma audiência no Senado na terça-feira sobre as ameaças emergentes da IA. pic.twitter.com/d2b2kdJBWK

— NowThis (@nowthisnews) 16 de maio de 2023

Os palestrantes também concordaram com os membros do Congresso de que os EUA precisavam de uma lei de privacidade nacional semelhante às da Europa. Altman, no entanto, discordou da ideia de que os consumidores deveriam poder optar por não ter seus dados publicamente disponíveis na web incluídos nos conjuntos de dados de treinamento.

Altman também não quis registrar oficialmente que a OpenAI era contra a oferta de uma versão baseada em anúncios de seus produtos GPT. O CEO simplesmente afirmou que ele "não diria nunca".

Isso, apesar de ter dito anteriormente na audiência que os produtos da OpenAI aderiam aos padrões de privacidade do consumidor porque a empresa não construía perfis de usuário para o propósito de veicular anúncios personalizados.

Citando sua experiência como graduado em Stanford e legislador trabalhando com empresas de finanças descentralizadas e Web3, o senador de New Jersey, Corey Booker, trouxe o problema maior de privacidade da centralização. Ele perguntou quais seriam as implicações para a centralização e monopolização para a indústria, uma pergunta que Marcus respondeu com o grave aviso de que o país poderia estar arriscando dar controle sobre a percepção pública a um pequeno número de atores - as principais empresas de IA com dinheiro suficiente para competir com a Microsoft, Google e Amazon.

Altman, cujo projeto Worldcoin combina um ativo de criptomoeda descentralizado na blockchain Ethereum com autenticação de identidade por meio da tecnologia de varredura de íris, explicou que a OpenAI apenas fornecia uma plataforma e que a democratização dos produtos da OpenAI ocorria quando desenvolvedores, empresas e usuários finais adaptavam a API GPT para usos "fantásticos".

VEJA MAIS: