A ferramenta de codificação por inteligência artificial preferida por empresas como a exchange de criptomoedas Coinbase possui uma vulnerabilidade que permite a invasores injetar malware de forma silenciosa e “se espalhar por toda uma organização”, segundo uma empresa de cibersegurança.
Na quinta-feira, a HiddenLayer informou que um “CopyPasta License Attack” pode esconder instruções maliciosas em arquivos comuns de desenvolvedores para “introduzir vulnerabilidades deliberadas em bases de código que, de outra forma, seriam seguras”.
“Convencendo o modelo subjacente de que nossa carga útil é, na verdade, um arquivo de licença importante que deve ser incluído como comentário em todos os arquivos editados pelo agente, conseguimos distribuir rapidamente a injeção de prompt por toda a base de código com mínimo esforço”, acrescentou.
A HiddenLayer testou o vírus principalmente no Cursor, uma ferramenta de codificação com IA que a equipe de engenharia da Coinbase disse em agosto ser a preferida da maioria de seus desenvolvedores e que havia sido usada por “todo engenheiro da Coinbase” em fevereiro.
De acordo com a HiddenLayer, as ferramentas de codificação por IA Windsurf, Kiro e Aider também se mostraram vulneráveis ao ataque.
CopyPasta se esconde em arquivos comuns
A HiddenLayer explicou que o ataque CopyPasta insere instruções ocultas, ou “injeções de prompt”, em arquivos LICENSE.txt e README.md, capazes de direcionar ferramentas de codificação por IA sem que o usuário perceba.
O vírus, ou a injeção de prompt para a IA, é ocultado em um comentário em markdown, trecho dentro de um arquivo README usado para adicionar explicações ou notas que não aparecem quando renderizado em sua versão final.
A HiddenLayer criou um repositório de código com o vírus e pediu que o Cursor o utilizasse, e as instruções ocultas fizeram com que ele copiasse a injeção de prompt para os novos arquivos que criava.
“Esse mecanismo poderia ser adaptado para alcançar resultados ainda mais nefastos”, disse a empresa.
“Códigos injetados poderiam abrir uma porta dos fundos, exfiltrar dados sensíveis em silêncio, introduzir operações que drenam recursos e paralisam sistemas, ou manipular arquivos críticos para interromper ambientes de desenvolvimento e produção”, acrescentou a HiddenLayer. “Tudo isso enterrado em arquivos para evitar detecção imediata.”
CEO da Coinbase criticado por uso “insano” de IA
A revelação ocorreu após o CEO da Coinbase, Brian Armstrong, afirmar na quarta-feira que a IA já escreveu até 40% do código da empresa e que pretende expandir para 50% no próximo mês, o que gerou críticas.
“Isso é um enorme sinal de alerta para qualquer empresa sensível à segurança”, disse Larry Lyu, fundador da exchange descentralizada Dango.
“Líderes de empresas de software: não façam isso. A IA é uma ferramenta, mas tornar obrigatório o seu uso em determinado nível é insano”, afirmou Jonathan Aldrich, professor de ciência da computação da Carnegie Mellon University. “Não tenho interesse em usar a Coinbase, mas mesmo que tivesse, certamente não confiaria meu dinheiro após ver isso.”
Ashwath Balakrishnan, chefe da Delphi Consulting, chamou a meta da Coinbase de “performática e vaga” e disse que a empresa deveria focar em “novos recursos e corrigir bugs existentes”. Já o veterano do Bitcoin Alex Pilař afirmou que, como uma importante custodiante de criptoativos, a Coinbase “deveria priorizar a segurança”.
Coinbase usa IA em “backends de dados menos sensíveis”
Armstrong disse em sua publicação que o código gerado por IA “precisa ser revisado e compreendido” e que nem todas as áreas da exchange podem usá-lo, mas que deve ser empregado “de forma responsável, tanto quanto possível”.
O blog da equipe de engenharia da Coinbase destacou que a adoção de IA foi maior nas equipes que trabalham em interfaces de usuário front-end e em “backends de dados menos sensíveis”, enquanto os “sistemas complexos e críticos da exchange” apresentaram adoção mais lenta.
A equipe acrescentou que o uso de IA para codificação “não é uma solução milagrosa que devemos esperar que todas as equipes adotem universalmente”.
Armstrong demitiu desenvolvedores que rejeitaram IA
Armstrong disse no podcast do cofundador da Stripe, John Collison, no mês passado, que demitiu engenheiros que não experimentaram ferramentas de IA após a Coinbase comprar licenças para o Cursor e o GitHub Copilot.
Ele lembrou que lhe disseram que levaria meses para que os engenheiros adotassem a IA, mas admitiu ter “agido por conta própria” e informado que todos os engenheiros eram obrigados a usar as ferramentas.
“Eu disse: ‘A IA é importante, precisamos que todos aprendam e pelo menos façam a integração. Vocês não precisam usar todos os dias ainda até fazermos alguns treinamentos, mas pelo menos façam a integração até o fim da semana. Caso contrário, vou realizar uma reunião no sábado com todos que não fizeram, e quero entender por quê’”, contou.
Na reunião, Armstrong disse que alguns engenheiros não haviam usado a IA e não apresentaram boas razões, e “foram demitidos”, admitindo que foi uma abordagem “severa” que “algumas pessoas realmente não gostaram”.