Um candidato à prefeitura de uma cidade do Mato Grosso do Sul foi condenado pelo Tribunal Regional Eleitoral do estado (TRE-MS) após ser considerado responsável por uma deepfake sobre o atual prefeito e seu opositor político. O caso aconteceu em Costa Rica, município de 26 mil habitantes.
Leia mais
- IA e desinformação representam riscos globais, diz pesquisa
- Eleições 2024 e a era dos deepfakes com IA
- Autoridades alertam para uso de IA influenciando nas eleições dos EUA
Entenda caso de multa de candidato em MS por deepfake
Waldeli dos Santos Rosa terá que pagar R$ 10 mil como multa. No vídeo modificado, Cleverson Alves Santos, prefeito de Costa Rica e candidato a prefeitura, supostamente compara a população do município com cachorros.
O colaborador de Waldeli dos Santos Rosa, Matheus da Silva, também teve punição por ter produzido o vídeo manipulado por meio de inteligência artificial. O Partido Progressista que deu início a ação afirma que a deepfake foi compartilhada em um grupo de WhatsApp pelo colaborador. O partido também acusa Rosa de propaganda eleitoral antecipada.
Por sua vez, o candidato à Prefeitura de Costa Rica alega que não foi o responsável pela propagação do conteúdo falso. Defendeu que o vídeo em questão não se enquadra como deepfake e que não existem evidências de seu envolvimento no caso. Essa é a terceira representação julgada procedente que desfavorece Rosa.
Matheus da Silva, que levou multa de R$ 5 mil, também nega as acusações e diz que há falta de provas sobre sua autoria. Segundo ele, o vídeo não é propaganda eleitoral porque o áudio sobreposto ao vídeo seria verdadeiro e trouxe palavras proferidas pelo prefeito.
A juíza Lais de Oliveira Ferneda, responsável pelo caso, julgou que o vídeo foi manipulado e divulgado com o nítido propósito de confundir a população de Costa Rica. Ela observa que o áudio e as imagens do vídeo estão dessincronizados, mas isso não impede o potencial da deepfake de induzir ao erro.
Ferneda rejeita a argumentação de que o prefeito haveria, de fato, dito aquelas palavras como defende Matheus da Silva. Segundo a juíza, o uso da voz de Santos – ou uma que se assemelha muito – mostra a aplicação da inteligência artificial.
“Embora estejamos longe das eleições, a utilização de conteúdos desta estirpe atinge um número significativo de pessoas, e como tal, podem deturpar a regularidade do futuro processo eleitoral, contaminando a percepção dos eleitores”, declarou a magistrada.
Regulação de deepfakes no TSE
O uso de IA para criar e propagar conteúdos falsos sobre candidatos tem sido uma das grandes preocupações do Tribunal Superior Eleitoral (TSE) para as eleições de 2024. Em fevereiro deste ano, o órgão regulamentou de maneira inédita a aplicação da tecnologia em propagandas políticas.
Ao alterar a Resolução nº 23.610/2019, que trata da propaganda eleitoral, o TSE incluiu algumas novidades. Entre elas, a proibição das deepfakes. De acordo com a resolução, caso um candidato use essa tecnologia poderá ter o registro ou mandato cassado.
O post Deepfake em eleições já é real: entenda caso de multa de candidato em MS apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2024/06/14/seguranca/deepfake-em-eleicoes-ja-e-real-entenda-caso-de-multa-de-candidato-em-ms/
