Os conteúdos sintéticos em formato de áudio, vídeo ou que sejam a combinação de ambos, gerados ou manipulados por inteligência artificial para criar, substituir ou alterar imagem ou voz de uma pessoa — conhecidos como deepfakes — em campanhas eleitorais estão terminantemente proibidos pelo Tribunal Superior Eleitoral (TSE) e podem incorrer em sanções aos envolvidos na veiculação deles. O potencial desinformativo dessas peças é o ponto de preocupação do órgão.
Em contato com conteúdo do gênero, os usuários de redes sociais, especialmente, devem ficar atentos e utilizar, quando possível, ferramentas disponíveis no próprio ambiente online para não serem vítimas de desinformação. Isso é o que aponta Iális Cavalcante, professor da Universidade Federal do Ceará (UFC) e especialista em Processamento Digital de Imagens. Ele foi o entrevistado do quadro TechPolítica Eleições*, na Verdinha FM e TV Diário, na última quinta-feira (3).
"Já há algum tempo, nas eleições, a gente não pode ficar de forma passiva, receber o conteúdo e ter fé que aquilo ali é a realidade. A gente tem que ser um pouco mais ativo, entender que, quanto a esse conteúdo, a gente tem que ter certa desconfiança, principalmente se você vê que o contexto dele está muito diferente", analisou o docente.
Dicas de como identificar
Ele apontou algumas maneiras de ficar alerta contra a desinformação provocada por esses conteúdos gerados por inteligência artificial. "Você vê uma figura pública que está mencionando uma frase que ela nunca falou antes, que ela está sendo colocada em uma cidade em que ela não está lá, que ela está usando roupas (diferentes das habituais) ou a forma física dela foi alterada para passar uma emoção para o usuário, isso já começa a gerar uma certa estranheza", disse.
"Outra medida que pode ser tomada é usar os próprios recursos que você tem no seu smartphone para fazer uma busca na internet. Por exemplo, você pegar um print daquele vídeo, daquela imagem, jogar no navegador que tem no seu celular mesmo", adicionou. Ao que alegou Iális, conteúdos gerados por inteligência artificial "sempre estão ligados a alguma ferramenta de busca".
"Quando você joga essa imagem para lá, ele já vai trazer onde foi encontrada aquela imagem também. A gente já pode ter uma ideia de sites que têm uma confiança e que trazem aquela imagem, então a gente pode dar um pouquinho mais de crédito ali. Ou se são blogs ou sites que você nunca ouviu falar, que têm um tom mais ofensivo, aí você já nota que essa mensagem foi criada para trazer uma desinformação", instruiu.
Ele apontou que há a expectativa de que novas ferramentas façam representação de marca d'água nos vídeos gerados sinteticamente. "Mas a gente não sabe como isso vai ser realmente eficaz. Em todo caso, é melhor não compartilhar antes de você entender se, de fato, aquilo aconteceu. E, além disso, buscar notícias", destacou.
"Todas essas mídias, elas têm o que a gente vai chamar de metadados, que são informações que estão dentro esses arquivos. Se você fizer a busca no YouTube ou no Google pelas ações ou características que estão naquela mídia, ela vai trazer coisas correspondentes", sugeriu, ao reforçar medidas de se precaver contra a desinformação.
O futuro da identificação de conteúdos de IA
Indagado sobre a perspectiva de que o auxílio de softwares seja cada vez mais necessário, em razão do volume de imagens geradas digitalmente e do aprimoramento desse tipo de tecnologia, Iális Cavalcante deu uma explicação compreendendo o cenário a partir de dois vetores.
"Em termos acadêmicos, a gente tem algumas produções científicas que estão sendo feitas para ter uma aproximação dessa detecção ser mais simples. Mas ela é difícil, porque ela é muito personalizável. Então a gente tem um caminho para ser seguido", iniciou.
E continuou: "Em termos de mercado, a gente tem que ver até que ponto também essas empresas, que fazem gestão dessas redes, de fato estão interessadas em colaborar com essa detecção. Porque, se elas também não ajudarem a gente com ferramentas desse formato, o usuário também vai estar condicionado à má-fé, à divulgação de desinformação e a receber conteúdo fora de contexto".
Ele também apontou a relevância da Justiça Eleitoral em colaborar com o esforço para o aprimoramento da fiscalização de conteúdos falsos. Ele apontou que há uma preocupação do órgão, por exemplo, com o cerco aos vídeos que emulam vozes e rostos humanos.
"A gente está vendo que há essa atuação do TSE em relação a proibir qualquer deepfake, seja aquela que é ofensiva ao candidato concorrente ou em tom humorístico para o próprio candidato", salientou.
Na compreensão do entrevistado, "esta eleição vai servir para essas organizações aprenderem mais e a gente criar legislações que vão facilitar esse processo".
Distorções podem ser identificadas
Durante a entrevista, Iális lembrou que os mecanismos de inteligência artificial generativa têm limitações que ajudam o cidadão a identificar conteúdos sintéticos. Ele afirmou que há algum tempo, era possível observar que imagens geradas tinham dificuldade em composição de algumas partes humanas. "Por exemplo, as mãos eram sempre um desafio, tinham muitos dedos ou alguma coisa desse tipo", frisou.
Ele concordou que houve uma "revolução muito grande" na geração de novas mídias e algumas limitações foram superadas. Mas ressalvou que mesmo assim existem distorções identificáveis, a exemplo de falta de sincronia entre áudio e imagem, além de falas robotizadas. "Há alguns excessos que são aplicados para tentar passar uma outra imagem. Um tom de pele muito avermelhado, uma sudorese muito grande, a pessoa muito suada para dizer que ela está nervosa", completou.
Por fim, o especialista deu dicas de como auxiliar pessoas que têm menos ambiência com ferramentas de inteligência artificial. "Primeiro, é ter um momento de conversa simples, mostrando que nem tudo é confiável, mesmo que essa mensagem venha de uma amiga de sua igreja, de um colega que está na praça que você convive, em uma atividade esportiva, de um padrinho ou de outro familiar", recomendou.
Segundo ele, é necessário "entender que todos podemos ser vítimas" de conteúdos desinformativos. E que o próprio smartphone pode ser um aliado para obter informações verídicas e confrontar peças com informações falsas ou enganosas. Nesse esforço, sites de notícias com credibilidade e portais de checagem de fatos são importantes.
*Voltado para discussões sobre a influência da inteligência artificial na dinâmica do pleito deste ano, o TechPolítica Eleições é exibido semanalmente durante a corrida eleitoral, às quintas-feiras, na Verdinha FM e na TV Diário.
