Um em cada quatro chefes de segurança cibernética (CISOs) disseram que as empresas onde trabalharam enfrentaram ao menos um ataque impulsionado por inteligência artificial (IA) em 2024. E este número, que consta numa pesquisa recente, provavelmente está subestimado.
A provável subnotificação é por conta da dificuldade em diferenciar ações lideradas por humanos e por IA em ataques, segundo relatório do fundo de capital de risco Team8.
“Já vimos o impacto de ataques impulsionados por IA, especialmente campanhas sofisticadas de phishing (armadilhas digitais) e deepfake (imagens manipuladas) que são incrivelmente convincentes e difíceis de detectar”, afirmou Mandy Andress, CISO da Elastic, empresa de tecnologia da informação e análise de dados, em comunicado (via Bloomberg).
‘Estamos no começo de uma corrida armamentista em IA e os invasores estão em vantagem’
“Está claro que estamos nos estágios iniciais de uma corrida armamentista em IA e, neste momento, os invasores agiram primeiro e estão em vantagem”, diz o comunicado.
Os exemplos mais visíveis de ataques com IA incluem deepfakes, clonagem de voz e táticas de personificação em tempo real para explorar a confiança humana, segundo o relatório.
A IA também pode ser usada para aumentar e acelerar ataques. Além disso, poderá, em breve, evoluir para armas autônomas capazes de agir sem intervenção humana, segundo o Team8.
“Eles podem usar IA para escrever malware [software malicioso] muito mais rapidamente”, disse Noa Hen, diretora de estratégia do Team8.
Além disso, problemas estruturas persistem. Muitos chefes de segurança cibernética ainda lidam com falhas comuns, como a existência prolongada de vulnerabilidades críticas em sistemas computacionais.
A principal razão para a não correção dessas falhas foi a escassez de pessoal qualificado ou de tempo para os reparos. Em alguns casos, as correções nem estavam disponíveis. Ou exigiriam a suspensão de sistemas críticos, o que poderia comprometer a continuidade das operações das empresas.
Garantir a segurança de agentes de IA ainda é desafio sem solução, diz relatório
Enquanto big techs correm para lançar seus agentes de IA – sistemas capazes de executar tarefas – quase 40% dos CISOs entrevistados pela pesquisa identificaram a proteção dessa tecnologia como um desafio ainda sem solução. Esses agentes podem ser manipulados por invasores ou tomar decisões incorretas, o que representa riscos operacionais e de segurança.
Além disso, um número semelhante de CISOs demonstrou preocupação com o uso de IA pelos funcionários. Segundo o relatório, muitas empresas ainda não implementaram práticas adequadas de segurança quando o assunto é uso de IA.
Isso cria um dilema para chefes de segurança cibernética: restringir o uso (e inibir inovação, consequentemente) ou permitir o uso livre (e aumentar margem para riscos).
Leia mais:
- ChatGPT: OpenAI lança IA que faz coisas para você no computador
- 5 dicas para proteger os dados do seu cartão de crédito em compras online
- O que é grayware? Conheça o software que pode colocar o PC em risco
Por outro lado, a IA também é vista como um recurso para fortalecer as defesas cibernéticas. Cerca de 77% dos CISOS esperam que os primeiros usos práticos de agentes de IA para automatizar tarefas feitas por humanos vai ocorrer entre analistas menos experientes.
Onde? Nos centros de operação de segurança, responsáveis por detectar e responder a incidentes. Neste caso, a velocidade e escalabilidade da IA são vistas como vantagens importantes tanto para quem ataca quanto quem defende, segundo Mike Rogers, ex-chefe da NSA e parceiro da Team8.
O post Por que IA é o pesadelo e a esperança da cibersegurança apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2025/07/18/seguranca/por-que-ia-e-o-pesadelo-e-a-esperanca-da-ciberseguranca/
