Pesquisadores da Universidade de Hull, no Reino Unido, descobriram um truque inesperado que pode nos ajudar a identificar deepfakes. Conforme apresentado na Reunião Nacional de Astronomia da Royal Astronomical Society, uma técnica usada na astronomia consegue detectar imagens falsas geradas por inteligência artificial.
Entenda:
- Uma técnica usada por astrônomos pode ajudar a identificar deepfakes;
- De acordo com pesquisadores da Universidade de Hull, os reflexos da luz nos olhos de pessoas em fotos ou vídeos pode indicar se a imagem é real ou gerada artificialmente;
- A equipe usou os índices CAS [concentração, assimetria, suavidade] e Gini [que mede a distribuição de luz entre os pixels de imagens de galáxias] para analisar a semelhança entre os reflexos de luz nos globos oculares;
- Se o reflexo for o mesmo nos dois olhos, a imagem provavelmente é verdadeira – já que, no caso dos deepfakes, os reflexos não costumam ser consistentes;
- O método está sujeito a falhas, mas fornece “um plano de ataque na corrida armamentista para detectar deepfakes”.
O segredo por trás do método é simples: basta analisar o reflexo dos olhos do indivíduo na foto ou vídeo. Se os reflexos forem iguais nos dois olhos, é bem provável que a imagem seja verdadeira. Caso contrário, podem ser deepfakes – já que, no caso de imagens geradas artificialmente, os reflexos em cada olho não costumam ser consistentes.
Leia mais:
- Grupo de brasileiros criam imagens pornô falsas de mulheres com IA; entenda
- Elon Musk de IA: deepfakes publicadas no YouTube usam imagem do bilionário
- Eleições 2024: como identificar deepfake?
Análise dos olhos pode desmascarar deepfakes
Liderada por Adejumoke Owolabi, a equipe analisou os reflexos de luz nos olhos de indivíduos em imagens reais e geradas por IA. Depois, com métodos de quantificação usados por astrônomos, os pesquisadores compararam a consistência entre os reflexos em cada globo ocular.
“Detectamos os reflexos de forma automatizada e executamos suas características morfológicas por meio dos índices CAS [concentração, assimetria, suavidade] e Gini [que mede a distribuição de luz entre os pixels de imagens de galáxias] para comparar a similaridade entre os globos oculares esquerdo e direito. As descobertas mostram que os deepfakes apresentam algumas diferenças entre os dois”, diz Kevin Pimbblet, professor de astrofísica de Hull, em comunicado.
Pimbblet ainda destaca: “é importante observar que isso não é uma solução mágica para detectar imagens falsas. Ele explica que o método está sujeito a falsos positivos e falsos negativos, e pode deixar passar alguns detalhes. “Mas esse método nos fornece uma base, um plano de ataque na corrida armamentista para detectar deepfakes.”
O post Segredo para identificar deepfakes pode estar na astronomia apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2024/07/21/seguranca/segredo-para-identificar-deepfakes-pode-estar-na-astronomia/
