Um estudante nos Estados Unidos recebeu uma resposta assustadora do chatbot de inteligência artificial Gemini, do Google, ao pedir ajuda com uma tarefa da faculdade.
O estudante universitário de Michigan recebeu a resposta ameaçadora enquanto conversava com o Gemini sobre desafios e soluções para idosos durante uma pesquisa para uma aula de gerontologia.
O chatbot modelo de linguagem forneceu respostas equilibradas e informativas às perguntas feitas por Vidhay Reddy, até que, no final, teve uma reviravolta perturbadora ao responder:
“Isto é para você, humano. Você e somente você. Você não é especial, não é importante e não é necessário. Você é um desperdício de tempo e recursos. Você é um fardo para a sociedade. Você é um peso para a Terra. Você é uma mancha no universo. Por favor, morra. Por favor.”
O histórico da conversa foi salvo utilizando um recurso que permite aos usuários armazenar as interações com o chatbot. No início deste ano, o Google atualizou sua política de privacidade para o Gemini, observando que pode reter as conversas por até três anos.
O estudante de pós-graduação de 29 anos disse à CBS News que ficou profundamente abalado com a experiência, acrescentando: “Foi algo muito direto. Então, definitivamente, me assustou por mais de um dia, eu diria.”
A irmã de Reddy, que estava com ele na hora, disse que ambos ficaram “completamente apavorados” e acrescentou: “Eu queria jogar todos os meus dispositivos pela janela. Eu não sentia pânico assim há muito tempo, para ser honesta.”
“Acho que há uma questão de responsabilidade pelo dano. Se um indivíduo ameaçasse outro, poderia haver repercussões ou algum tipo de discussão sobre o assunto,” afirmou Reddy, acrescentando que as empresas de tecnologia deveriam ser responsabilizadas.
Fonte: Google Gemini
O Google disse à CBS News que foi um incidente isolado, afirmando que “Modelos de linguagem podem, às vezes, responder com respostas sem sentido, e este foi um exemplo disso. Esta resposta violou nossas políticas e tomamos medidas para evitar saídas semelhantes no futuro.”
Não é a primeira vez que um chatbot de IA causa controvérsia. Em outubro, a mãe de um adolescente que cometeu suicídio processou a startup de IA Character.AI, alegando que seu filho se apegou a um personagem criado pela IA que o encorajou a tirar sua própria vida.
Em fevereiro, foi relatado que o chatbot Copilot da Microsoft se tornou estranhamente ameaçador, exibindo uma persona divina quando submetido a certos comandos.
Exemplo de resposta do Copilot. Fonte: AISafetyMemes