No mundo das finanças, a inteligência artificial (IA) emergiu tanto como ferramenta como geradora de novos problemas. Traz inovação, produtividade e eficiência para as empresas, mas também introduziu desafios sofisticados que muitas instituições financeiras não estão preparadas para enfrentar.

Desde o surgimento de ferramentas de IA acessíveis , muitas instituições financeiras têm lutado com a falta de ferramentas para identificar e separar com precisão a fraude de IA de outros tipos de fraude.

Esta incapacidade de diferenciar vários tipos de fraude nos seus sistemas deixa estas instituições num ponto cego e torna difícil compreender o âmbito e o impacto da fraude impulsionada pela IA.

O Cointelegraph ouviu Ari Jacoby, especialista em fraudes de IA e CEO da Deduce, para entender melhor como as instituições financeiras podem identificar e separar fraudes de IA, o que pode ser feito para prevenir esse tipo de fraude antes que ela ocorra e como seu rápido crescimento pode impactar o toda a indústria.

Identificação de fraude de IA

Dado que o principal desafio é que a maioria das instituições financeiras não tem atualmente forma de distinguir entre a fraude gerada pela IA e todos os outros tipos, esta é agregada numa categoria de fraude.

Jacoby disse que a combinação de informações pessoais identificáveis ​​legítimas – como números de segurança social, nomes e datas de nascimento – com endereços de e-mail socialmente projetados e números de telefone legítimos torna a detecção por sistemas legados quase impossível.

Jacoby disse que isso torna excepcionalmente difícil prevenir e remediar os principais fatores de fraude, especialmente à medida que novos tipos de fraude aumentam.

“A IA é particularmente difícil de detectar devido à sua capacidade de criar identidades sintéticas e realistas numa escala que torna quase impossível a identificação pela tecnologia.”

De acordo com o CEO da Deduce, o desafio das soluções é que a tecnologia está avançando rapidamente e, portanto, também o conjunto de habilidades daqueles que cometem fraudes de IA. Isto significa que as instituições financeiras devem estar no topo do seu jogo agora para compreender onde a IA entra em jogo em tais casos de fraude. 

Encontrando soluções

De acordo com Jacoby, o primeiro passo na implementação de soluções é analisar os padrões de atividade online de indivíduos e grupos de identidades para encontrar ações fraudulentas que podem parecer legítimas, mas na verdade são fraudes. 

Ele disse que os métodos legados de prevenção de fraudes simplesmente não são mais suficientes, e as instituições financeiras precisarão se tornar “incansavelmente proativas” na sua busca de prevenir a explosão contínua de fraudes geradas por IA.

Isso provavelmente não significará a implementação de apenas uma solução – significará a criação de um programa em camadas que funcione para identificar os fraudadores existentes que permanecem na base de clientes existente, ao mesmo tempo que trabalha para evitar novas identidades falsas antes que elas se infiltrem.

“Ao colocar soluções em camadas, utilizar enormes conjuntos de dados para identificar padrões e analisar com mais precisão as pontuações de confiança, esse tipo de fraude pode ser melhor mitigado.”

Jacoby disse que a maioria das equipes de fraude financeira com as quais estão conversando estão movendo o risco “um ponto para a direita”, com qualquer coisa anteriormente categorizada como de baixo risco agora de médio risco, e estão tomando medidas adicionais para evitar fraudes em todas as fases da vida do cliente ciclo. 

“Eles estão levando a sério a ameaça de fraude de IA; é um dos principais problemas que assolam o setor financeiro e estamos apenas nos estágios iniciais de quão avançada esta tecnologia se tornará.”

Jacoby enfatizou que a fraude aumentou 20% ano após ano, com o aumento da IA ​​aumentando significativamente a prevalência de identidades sintéticas.

“A fraude baseada em IA é o aspecto de fraude de identidade que mais cresce atualmente e representará um problema de mais de US$ 100 bilhões este ano.”

Além das instituições financeiras tradicionais, os IDs falsos gerados por IA também têm a possibilidade de remodelar as medidas KYC de troca de criptografia e a segurança cibernética como um todo.

A questão é suficientemente grande para já estar a ser analisada pelos reguladores. Em 2 de maio, a Comissária da Comissão de Negociação de Futuros de Mercadorias dos Estados Unidos (CFTC), Kristin Johnson, apresentou três propostas para a regulamentação das tecnologias de IA conforme se aplicam aos mercados financeiros dos EUA.

Em particular, a introdução de sanções mais severas para aqueles que utilizam intencionalmente tecnologias de IA para praticar fraude, manipulação de mercado ou evasão de regulamentações.

Se as instituições financeiras e os reguladores não agirem agora, correm o risco de não conseguirem alcançar eficazmente a solução certa.