A empresa por trás do popular chatbot de inteligência artificial (IA) ChatGPT diz que formará uma equipe para controlar e gerenciar os riscos dos sistemas de IA superinteligentes.
Em um anúncio em 5 de julho em seu blog, a OpenAI disse que a nova equipe será criada para "direcionar e controlar sistemas de IA muito mais inteligentes do que nós".
A organização sem fins lucrativos disse acreditar que a superinteligência será "a tecnologia mais impactante que a humanidade já inventou" e ajudará a resolver muitos problemas - embora existam riscos.
"O vasto poder da superinteligência também pode ser muito perigoso e pode levar ao enfraquecimento da humanidade ou até mesmo à extinção humana."
A empresa disse acreditar que a superinteligência poderia chegar nesta década.
Ela disse que dedicaria 20% da potência de computação já garantida ao esforço e visa criar um pesquisador de alinhamento automatizado de "nível humano". O pesquisador automatizado ajudaria, em teoria, a equipe a gerenciar a segurança da superinteligência e alinhá-la com a "intenção humana".
Ela nomeou seu cientista-chefe Ilya Sutskever e o chefe de alinhamento de seu laboratório de pesquisa, Jan Leike, como co-líderes do esforço. Fez uma chamada aberta para pesquisadores e engenheiros de aprendizado de máquina para se juntarem à equipe.
Este anúncio da OpenAI surge enquanto governos ao redor do mundo consideram medidas para controlar o desenvolvimento, implantação e uso de sistemas de IA.
Os reguladores na União Europeia têm feito o maior progresso com as regulamentações de IA. Em 14 de junho, o Parlamento Europeu aprovou a Lei da IA da UE, que tornaria obrigatório para ferramentas como o ChatGPT divulgar todo o conteúdo gerado por IA, entre outras medidas.
O projeto de lei requer discussão adicional antes de sua implementação. No entanto, provocou um protesto dos desenvolvedores de IA em relação ao seu impacto potencial na inovação.
Em maio, o CEO da OpenAI, Sam Altman, foi a Bruxelas para conversar com os reguladores da UE sobre os possíveis efeitos negativos da regulamentação excessiva.
Legisladores nos Estados Unidos também introduziram o Ato da Comissão Nacional de IA para estabelecer um órgão para decidir sobre a abordagem da nação à IA. Os reguladores nos EUA também têm sido francos em seu desejo de regular a tecnologia.
Em 30 de junho, o senador Michael Bennet redigiu uma carta às principais empresas de tecnologia, incluindo a OpenAI, instando a rotulagem do conteúdo gerado por IA.
VEJA MAIS:
