A inteligência artificial pode em breve governar uma cidade nos Estados Unidos — pelo menos se um candidato a prefeito americano conseguir o que quer.
Victor Miller recentemente entrou na corrida para prefeito de Cheyenne, Wyoming, prometendo administrar a cidade de 65.000 habitantes exclusivamente com um bot de IA generativa que ele mesmo construiu — chamado VIC, ou Virtual Integrated Citizen.
Ele argumentou que o bot poderia rapidamente examinar pilhas de documentos municipais, resumir eventos e emitir julgamentos sem erros em tempo quase real. Suas decisões também seriam objetivas — sem medo ou influência de lobistas — o que seria bom para a democracia.
O estado do Wyoming é, sem dúvida, o mais amigável às criptomoedas nos Estados Unidos, então talvez seja adequado que sua capital também tenha o primeiro candidato político de IA.
Governança por IA é “altamente irresponsável”
No entanto, alguns cientistas e até mesmo praticantes de IA estão horrorizados com a perspectiva de terceirizar o governo local para um bot aprimorado por IA.
“A IA deve ser considerada uma ferramenta que podemos usar para ajudar os serviços governamentais a funcionar de maneira mais eficiente, não para assumir o controle total,” disse à Cointelegraph Terrence Sejnowski, professor no Departamento de Neurobiologia da Universidade da Califórnia em San Diego e pesquisador na interseção de IA e neurociência.
Mesmo que as decisões do bot de IA fossem precisas, ainda haveria casos não rotineiros levados ao governo municipal que estariam além do escopo dos dados de treinamento de um bot.
“Isso ficou evidente com os carros autônomos, que não têm problemas com 99,9% das decisões que um motorista precisa tomar, mas lutam com casos excepcionais incomuns,” comentou Sejnowski.
Muitas vezes, esses envolvem casos individuais únicos, do tipo que tradicionalmente são resolvidos por tribunais e advogados. Isso não deve mudar, na opinião de Sejnowski.
“Seria altamente irresponsável, neste momento, usar inteligência artificial generativa para qualquer tomada de decisão de risco moderado a alto no governo,” disse Julian Cardarelli, CEO da GovCore, uma empresa de tecnologia governamental, ao Cointelegraph. “Eu descartaria totalmente para qualquer coisa que exija uma decisão informada com tal perfil de risco.”
No entanto, em sua opinião, algumas funções governamentais de baixo risco poderiam ser assumidas com segurança por programas de software de IA generativa, como o processamento de pedidos de assistência social ou a renovação de licenças e autorizações (de motorista, caça, pesca, armas de fogo, etc.).
Além disso, o cálculo e a cobrança de impostos, “e qualquer outra função transacional do governo onde não haja risco de danos físicos ou lesões,” acrescentou Cardarelli.
O candidato Miller é sério?
Então, o que pensar do candidato a prefeito de Cheyenne, Miller? Isso é apenas um truque de campanha?
De acordo com uma entrevista do Washington Post com o candidato, Miller se vê como um pioneiro do “potencial inexplorado da inteligência artificial no governo.”
Seu momento de epifania ocorreu nesta primavera, quando a cidade “erroneamente” negou um pedido de registros públicos, uma decisão posteriormente revertida. Mas um bot de IA poderia não ter cometido esse erro inicial, ele raciocinou.
“Comecei a me perguntar se a IA seria um prefeito melhor do que qualquer ser humano,” Miller disse ao Washington Post. Ele criou um programa usando o ChatGPT 4.0 e “alimentou-o com ordenanças municipais e documentos relacionados. Ele descobriu que o bot poderia lembrar rapidamente as leis de registros públicos e tomar decisões sobre questões como financiamento de novas construções na cidade ou conserto de buracos,” relatou o jornal.
“Este incidente no Wyoming parece estar testando as fronteiras da regulamentação local,” disse ao Post Valerie Wirtschafter, pesquisadora de IA no Brookings Institution.
Em outro lugar, Eyal Darmon, líder de IA generativa para serviço público na América do Norte na empresa de consultoria de TI Accenture, disse que a IA realmente poderia fazer a diferença nos governos ao redor do mundo.
De fato, mais de 50% das atividades governamentais poderiam um dia ser “disruptadas” pela IA generativa, ele disse ao Government Technology.
“A IA ainda não está lá”
Miller realmente está em algo inovador, então?
Chris Rothfuss, engenheiro de formação, é líder da minoria no Senado do Legislativo do Estado do Wyoming. Ele também co-preside o Comitê Seletivo do Legislativo sobre Blockchain, Tecnologia Financeira e Tecnologia de Inovação Digital.
“Na minha opinião, a IA ainda não está lá,” Rothfuss disse ao Cointelegraph.
“Ela não está suficientemente desenvolvida para que se pense em ceder o tipo de controle de que Miller está falando — mesmo que fosse ético — o que não é,” ele afirma.
“Não é uma boa ideia.”
Recentemente, Rothfuss e outros membros do comitê seletivo participaram de um workshop de IA na Universidade de Stanford para aprender mais sobre IA e governo.
Outros governos locais e estaduais estão agora experimentando modelos de IA, incluindo projetos em que o algoritmo de computador seria o decisor final.
Isso inclui decisões que poderiam prejudicar o bem-estar de um indivíduo, como decidir cortar ou não os pagamentos do Medicare ou Medicaid.
Essas decisões estavam sendo tomadas automaticamente por um bot, sem revisão final por um ser humano.
“Eu não quero isso no futuro,” Rothfuss disse ao Cointelegraph.
“As principais áreas que não gostaríamos de entregar são decisões executivas, legislativas e judiciais,” acrescentou Cardarelli. “Essas são funções de alto risco.”
IA elimina erros e toma decisões mais rápidas
Mas isso não significa que trazer a IA para o gabinete do prefeito seja necessariamente uma má ideia — apenas que ela não deve estar sozinha no gabinete, ou seja, ela deve auxiliar o prefeito eleito e outros.
Resumir longos documentos como “minúcias municipais” para usuários humanos “certamente criaria melhorias significativas na eficiência,” disse Cardarelli. Além disso, escrever apresentações e materiais de documentação, notas informativas, atas de reuniões, resumir chamadas de vídeo e assim por diante.
“Esse tipo de trabalho é muito intensivo para os seres humanos, e a IA pode fazê-lo em tempo quase real,” disse Cardarelli.
Também poderia levar a menos erros no governo local — do tipo que indignou o candidato Miller. “Sabemos que há uma ampla variabilidade na qualidade do trabalho quando os humanos realizam essa tarefa,” disse Cardarelli. Isso não acontece com a IA, que é muito consistente nesse tipo de trabalho.
Decisões de alto risco — o tipo de decisão que a IA deve evitar — compreendem apenas 20% do governo local, aproximadamente, enquanto os outros 80% são administrativos e prontos para serem disruptados, na estimativa de Cardarelli, acrescentando:
“Acredito que devemos ser muito ousados quanto ao potencial de criar um modelo de governo digital hiper-eficiente, que reduza drasticamente as desigualdades e melhore radicalmente o acesso aos serviços.”
IA como assistente social
Uma das forças da era moderna é que ondas de inovação se espalham rapidamente pelo mundo.
Em relação à IA e à governança local, a cidade de Sydney, na Austrália, está usando IA para aprimorar o processo de revisão para Certificados de Desenvolvimento Compliant. A cidade pode receber até 30.000 solicitações por ano, e no passado, o processo de revisão “era marcado por inconsistências e atrasos,” relatou o escritório de advocacia DLA Piper, acrescentando:
“Com este método impulsionado por IA, os solicitantes recebem uma avaliação preliminar mais rapidamente, o que agiliza as submissões e aumenta a eficiência do departamento de planejamento.”
Em outro lugar, o departamento de transporte do estado australiano de Nova Gales do Sul está explorando o uso de IA para desenvolver “diagnósticos em tempo real das condições das estradas, abrindo caminho para uma manutenção proativa.”
De fato, muitos ainda não apreciam a enorme amplitude das funções governamentais locais ou estaduais que poderiam eventualmente ser melhoradas pela IA. “Uma que pode não vir à mente é a dos serviços sociais, onde é necessária empatia,” disse Sejnowski, acrescentando:
“Foi comprovado que a IA tem melhor empatia do que a maioria dos médicos e é preferida por pacientes em psicoterapia. Não há necessidade de esperar por um assistente social quando a IA pode atendê-lo agora.”
Rothfuss se oporia ao uso da IA como autoridade final para qualquer decisão que possa causar sofrimento humano, como cortar o fornecimento de gás para a casa de uma pessoa. Esse tipo de ordem sempre exigirá revisão humana. Em comparação, uma decisão na qual um indivíduo ganha algo, como uma redução em uma avaliação tributária, poderia ser totalmente automatizada em algum momento, de acordo com o senador estadual.
Necessidade de regulação da IA
Sejnowski observou que a Revolução Industrial criou ferramentas que aumentaram muito nosso poder físico. A era da informação ampliou nosso poder cognitivo muitas vezes. “Em ambos os casos, as pessoas precisam decidir como usar as ferramentas.”
Esse é realmente o cerne do problema. “As ferramentas também podem ser mal utilizadas, então precisamos regulá-las,” explicou Sejnowski. Portanto, talvez as perguntas sobre IA e governo precisem ser reformuladas da seguinte forma: “Não pergunte o que a IA pode fazer por você, mas o que você pode fazer para tornar a IA mais segura,” disse ele ao Cointelegraph.
“O potencial é enorme,” acrescentou Cardarelli. “Estamos nos estágios muito, muito iniciais dessa transformação,” um processo que pode levar de 20 a 30 anos para se desenrolar completamente.
“Mas, ao final disso, poderíamos razoavelmente esperar nos encontrar com um novo tipo de governo que seja mais democrático porque é eficiente, eficaz e justo,” ele disse.