ChatGPT ajudou spammers a contornar filtros de segurança de mensagem para mais de 80 mil sites

ChatGPT ajudou spammers a contornar filtros de segurança de mensagem para mais de 80 mil sites
OpenAI descobriu a violação após 4 meses.
Compartilhe

Os spammers usaram o ChatGPT para gerar mensagens únicas para cada destinatário, assim eles ignorando os filtros de detecção de spam e enviando mensagens indesejadas para mais de 80.000 sites em quatro meses, disseram os pesquisadores.

A exploração de spam utilizou o AkiraBot, uma ferramenta que automatiza o envio de mensagens em grandes quantidades para promover serviços duvidosos de otimização de buscas em sites de pequeno e médio porte. O AkiraBot utilizou scripts baseados em Python para rotacionar os nomes de domínio anunciados nas mensagens.

“A vantagem de gerar cada mensagem usando um LLM é que o conteúdo da mensagem é único e a filtragem contra spam se torna mais difícil em comparação com o uso de um modelo de mensagem consistente, que pode ser filtrado facilmente.” Diz os pesquisadores.