O chatbot do X, Grok, está sendo utilizado por criminosos para espalhar golpes de phishing. A partir de uma técnica que manipula o sistema para republicar links maliciosos, o robô de IA da plataforma acabou se tornando um canal de disseminação de fraudes com potencial de atingir milhões de usuários — e com alto risco de furto de dados e identidade.
A prática, chamada “Grokking”, é um novo exemplo dos perigos gerados pela combinação entre engenharia social e inteligência artificial, alerta a empresa de segurança digital ESET, empresa especializada em detecção proativa de ameaças.
Nesta campanha, os golpistas conseguem burlar uma regra do X que proíbe links em posts patrocinados. Eles publicam vídeos atraentes com links escondidos no campo técnico chamado “from” e fazem perguntas ao chatbot Grok sobre a origem do vídeo. O robô, lendo a mensagem, identifica o link e o promove com uma resposta automática, reforçando a causa da fraude por estar associado a uma conta oficial verificada.
“Qualquer ferramenta de IA integrada a plataformas confiáveis está vulnerável a esse tipo de manipulação, mostrando o quanto criminosos buscam criar novas formas de driblar mecanismos de segurança e os riscos de confiar cegamente nos resultados da IA”, afirma Camilo Gutiérrez Amaya, chefe do laboratório de pesquisa da ESET na América Latina.
Os perigos do “Grokking”
- Transformar um chatbot confiável em ator malicioso capaz de ampliar links de phishing;
- Alcance potencial de milhões de visualizações em vídeos pagos que disseminam fraudes e malwares;
- Fortalecimento dos links em ferramentas de busca e reputação digital devido à associação com a IA;
- Existem centenas de contas repetindo essa prática até serem bloqueadas;
- Links levam a formulários para roubo de dados e a malwares que podem resultar em invasão de contas e roubo de identidade.
A engenharia social é o método pelo qual hackers manipulam pessoas para que entreguem informações pessoais ou instalem programas maliciosos. Desde que ferramentas de IA generativa se popularizaram, criminosos passaram a usar essas tecnologias para criar golpes cada vez mais sofisticados.
“A IA intensifica a engenharia social de duas formas: cria campanhas de phishing convincentes com áudios e vídeos falsos e agora, com essa técnica do chatbot, abre uma nova dimensão para ações criminosas”, avalia Amaya.
Leia Mais:
- O ChatGPT Atlas espiona os usuários? Entenda como a IA do navegador analisa sua atividade
- Malware se disfarça de Adobe para roubar dados e enganar usuários
- Brasil assina tratado da ONU para combate a crimes cibernéticos
Fique ligado
O aumento desse tipo de ataque é confirmado por pesquisas da Gartner, que indicam que 32% das empresas sofreram ataques com IA generativa no último ano. Além disso, criminosos podem esconder mensagens maliciosas em textos invisíveis ou caracteres especiais, tornando qualquer GenAI suscetível ao uso indevido para propagar conteúdos perigosos.
O recomendado é que, antes de clicar em links enviados por bots, os usuários passem o mouse sobre eles para conferir a URL e evitar acessar sites maliciosos. Além disso, é fundamental manter postura crítica em relação às respostas de inteligências artificiais, especialmente quando apresentarem contradições ou incoerências.
Algumas práticas simples podem ajudar a proteger os usuários desse tipo de golpe, como utilizar senhas fortes, únicas e gerenciadas por programas específicos, além de ativar a autenticação multifator e manter softwares e sistemas atualizados para impedir a exploração de vulnerabilidades.
O post Grok é usado por criminosos para espalhar links com vírus pelo X apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2025/10/27/seguranca/grok-e-usado-por-criminosos-para-espalhar-links-com-virus-pelo-x/
