A OpenAI revelou na quinta-feira (30) que interrompeu ao menos cinco operações secretas de influência que tentaram usar seus modelos de inteligência artificial (IA) para “atividades enganosas” na Internet. Segundo a empresa, a tecnologia foi utilizada para criar comentários curtos, artigos em vários idiomas e biografias inventadas para contas de mídia social.
O que você precisa saber:
- Conforme a Reuters, a atividade suspeita foi observada pela equipe de segurança da empresa nos últimos três meses;
- As campanhas falsas se concentravam em questões como a invasão da Ucrânia pela Rússia, o conflito em Gaza, as eleições indianas e a política na Europa e nos Estados Unidos;
- As operações enganosas foram uma “tentativa de manipular a opinião pública ou influenciar resultados políticos”, afirmou a OpenAI em comunicado;
- O relatório é o mais recente a suscitar preocupações de segurança sobre o potencial uso indevido de IA generativa, que pode criar de forma rápida, fácil e automática textos, imagens e áudio semelhantes aos humanos.
Leia mais!
- ChatGPT vs. Gemini: qual assinatura de IA vale mais a pena?
- Como usar a IA do Google direto no navegador Chrome
- 5 Prompts do ChatGPT para criar currículos
A startup acrescentou que as operações não usaram apenas material gerado por IA, mas incluíram textos escritos manualmente e memes copiados da Internet.
Vale lembrar que, recentemente, a Meta também divulgou um relatório de segurança anunciando ter encontrado conteúdo “provavelmente gerado por IA” usado de forma enganosa em suas plataformas Facebook e Instagram. Os temas relacionados eram os mesmos, com foco para a guerra em Gaza e política dos EUA.
OpenAI formando nova equipe de segurança
A OpenAI também anunciou este mês que os projetos com IA da startup passarão a ter uma nova equipe responsável para garantir a produção segura das tecnologias. A equipe será liderada diretamente por Sam Altman, CEO da companhia. Entenda a mudança aqui!
O post OpenAI bloqueou cinco tentativas de uso indevido de sua IA apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2024/05/31/pro/openai-bloqueou-cinco-tentativas-de-uso-indevido-de-sua-ia/
