A OpenAI afirmou ter descoberto evidências de uma operação de vigilância chinesa alimentada por IA. Uma ferramenta generativa estaria sendo usada para coletar relatórios em tempo real sobre publicações anti-China em redes sociais em países ocidentais.
A suposta descoberta alimenta preocupações relacionadas ao uso da tecnologia para vigilância, hacking e outros propósitos maliciosos.
OpenAI afirmou ter encontrado evidências de vigilância chinesa
A OpenAI revelou que descobriu evidências de uma operação de segurança chinesa usando IA para vigilância. O país estaria monitorando publicações anti-China em mídias sociais em países ocidentais.
De acordo com o New York Times, os pesquisadores da desenvolvedora encontraram a operação, batizada de Peer Review, porque alguém que usava a ferramenta teria se baseado em parte do código da OpenAI.
Ben Nimmo, pesquisador principal da empresa, afirmou que esta foi a primeira vez que a OpenAI descobriu uma tecnologia de IA desse tipo. A suposta ferramenta de vigilância chinesa levanta preocupações sobre o uso de IA para monitoramento, hacking e outras atividades maliciosas ao redor do mundo. No entanto, ele acredita que, embora as ferramentas generativas possibilitem atividades maliciosas, também podem ajudar a identificar e interrompê-las.
De onde vem a ferramenta de IA chinesa?
Nimmo e sua equipe acreditam que a ferramenta de vigilância chinesa pode ter se baseado no modelo de linguagem Llama, da Meta, que é de código aberto (ou seja, qualquer um no mundo pode usar o código para criar novas tecnologias).
Em um relatório sobre usos de IA para fins maliciosos, eles também afirmam que a OpenAI descobriu uma segunda operação chinesa, batizada de Sponsored Discontent, usada para gerar publicações em inglês criticando dissidentes chineses.
Leia mais:
- ChatGPT divulga CPF de figuras públicas do Brasil, diz site
- DeepSeek promete liberar códigos de IA na próxima semana
- DeepSeek e Google: reviravolta na corrida das IAs?
OpenAI lembrou que esse não é o primeiro caso
Apesar de esta ter sido a primeira operação de vigilância identificada, a OpenAI chamou atenção para outros casos de uso de IA para fins maliciosos:
- Segundo a desenvolvedora, o mesmo grupo responsável pela ferramenta de vigilância chinesa usou tecnologias da OpenAI para traduzir artigos para espanhol criticando os Estados Unidos, e os espalhou pela América Latina;
- Já outra operação, dessa vez baseada no Camboja, teria usado tecnologias da desenvolvedora para gerar e traduzir comentários em redes sociais envolvendo investimentos.
O post OpenAI diz ter encontrado ferramenta de IA chinesa para vigilância apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2025/02/24/seguranca/openai-diz-ter-encontrado-ferramenta-de-ia-chinesa-para-vigilancia/
