A plataforma de mídia social Snapchat recebeu um aviso do órgão regulador de dados do Reino Unido sobre seu novo chatbot de inteligência artificial (IA) conhecido como "My AI", de acordo com uma atualização divulgada pelo regulador.
Em 6 de outubro, o Information Commissioner's Office (ICO) do Reino Unido emitiu um aviso preliminar para a Snap Inc. e Snap Group, as empresas controladoras do Snapchat, devido à possível falha em "avaliar adequadamente os riscos à privacidade" representados pelo chatbot.
Emitimos à Snap, Inc e ao Snap Group Limited um aviso preliminar de execução sobre uma possível falha na avaliação adequada dos riscos de privacidade apresentados pelo seu chatbot de IA generativo ‘My AI’.
Leia mais sobre o caso: https://t.co/MAuHAH0h8B pic.twitter.com/BawISttPJN
— ICO – Gabinete do Comissário de Informação (@ICOnews) 6 de outubro de 2023
O aviso se baseia em uma investigação preliminar da empresa conduzida pelo órgão regulador, que afirmou que os riscos para vários milhões de usuários do My AI, incluindo crianças de 13 a 17 anos, não foram adequadamente identificados antes de seu lançamento.
John Edwards, comissário de informações do Reino Unido, comentou sobre o aviso, dizendo:
"Temos deixado claro que as organizações devem considerar os riscos associados à IA, juntamente com os benefícios. O aviso preliminar de hoje mostra que tomaremos medidas para proteger os direitos de privacidade dos consumidores do Reino Unido."
De acordo com o aviso, se um aviso de execução final for emitido, a Snap poderá ser obrigada a interromper o processamento de dados relacionados ao My AI, o que a impediria de oferecer o serviço aos usuários do Reino Unido sem uma avaliação de risco "adequada".
Atualmente, o ICO afirmou que não se deve tirar conclusões desta fase atual das investigações.
O chatbot de IA do Snapchat foi lançado para usuários do Snapchat+ no Reino Unido em fevereiro de 2023, com disponibilidade mais ampla a partir de abril de 2023.
O My AI é alimentado pela tecnologia GPT-4 da OpenAI e, de acordo com o órgão regulador de dados, foi o "primeiro exemplo de IA generativa incorporada a uma grande plataforma de mensagens no Reino Unido".
Um porta-voz da Snap entrou em contato com o Cointelegraph e afirmou que a empresa está "analisando cuidadosamente" o aviso provisório do ICO e disse que a empresa está "comprometida em proteger a privacidade dos usuários".
"O My AI passou por um sólido processo de revisão legal e de privacidade antes de ser disponibilizado ao público", disse o porta-voz.
"Continuaremos a trabalhar de forma construtiva com o ICO para garantir que eles se sintam confortáveis com nossos procedimentos de avaliação de risco."
Durante o ano, grandes plataformas de mídia social integraram recursos de IA em suas operações. Em 4 de outubro, a plataforma de mídia social voltada para negócios, LinkedIn, de propriedade da Microsoft, anunciou ferramentas adicionais de IA disponíveis para recrutadores, bem como um assistente de IA em seu centro de aprendizado.
Os gigantes da Big Tech, Meta - empresa controladora do Facebook e Instagram - e Google também revelaram integrações de chatbots de IA em suas ofertas de serviços.
VEJA MAIS: