Cármen Lúcia rejeita tese de 'deepfake do bem' e compara vídeos de IA a foto de Tancredo

A ministra do STF (Supremo Tribunal Federal) Cármen Lúcia compara os vídeos de IA (inteligência artificial) que imitam pessoas, os deepfakes, à famosa foto do então eleito presidente Tancredo Neves sentado em uma poltrona, cercado por seus médicos no hospital de Brasília, em março de 1985.

Tancredo estava doente e viria a morrer 27 dias depois, antes de assumir o cargo. O objetivo da imagem era tranquilizar os eleitores sobre a saúde do mandatário. A foto foi autorizada pelo político.

Em entrevista ao episódio de estreia do podcast "A Máquina", série da Folha publicada pelo Café da Manhã durante o período eleitoral, a ministra rejeita a tese de deepfake "do bem". Para ela, ainda que um vídeo de IA não tenha como objetivo ofender alguém, seja autorizado e não contenha nenhuma mentira, ainda é um deepfake —vedado, portanto, pela regra do TSE (Tribunal Superior Eleitoral).

É o caso do vídeo de Jair Bolsonaro exibido na convenção do PL. A peça é alvo de ação do PT, e será julgada em breve pelo TSE. "Isto é falso, foi criado por uma máquina para passar uma mensagem", disse Cármen, com a ressalva de que não opinava diretamente sobre esta ação.

"Trata-se de algo que não aconteceu e pode mudar o comportamento do eleitor", diz a magistrada, relatora da resolução do TSE de 2024 que vedou os deepfakes.

Na entrevista, Cármen Lúcia falou sobre os desafios de regular novas tecnologias na eleição, chatbots, da confiança da população no Supremo e o novo código de ética da corte. O episódio, em vídeo, pode ser assistido no Spotify e no site da Folha.

Esta é a terceira eleição presidencial em que o uso da tecnologia é muito importante. Houve disparos em massa de WhatsApp, redes usadas para incitar um golpe de Estado, uso de inteligência artificial em postagens. O que aprendemos até aqui?
A tecnologia impõe perguntas inéditas e nós precisamos de inventar as respostas. Esse aprendizado é permanente para a gente garantir a liberdade da eleitora, do eleitor, de escolher sem interferências externas, sem estar na condição de cativo digital. As pessoas veem no seu aparelhinho de celular, em uma tela, uma mensagem que pode ser absolutamente falsa, criada, com uma velocidade muito maior, uma variedade muito maior, uma virulência contra as liberdades muito maior. E não sente, porque ela é insidiosa na sua forma de corroer a livre capacidade de decidir.

No Brasil, estamos criando essas respostas ao mesmo tempo que aparecem os problemas. Temos que estar a par de cada invencionice tecnológica ou uso abusivo das tecnologias, e imediatamente dar uma resposta, porque a extensão dos efeitos dela é muito maior do que jamais tivemos na história.

Uma das novidades tecnológicas são os deepfakes. O TSE vai julgar uma ação contestando o uso de um vídeo em IA do ex-presidente Jair Bolsonaro dando apoio ao candidato Flávio Bolsonaro, exibido na convenção do PL. A resolução do TSE proíbe qualquer tipo de deepfake. Mas a defesa de Flávio alega que não se trata de deepfake, pois não houve má intenção. Na visão da senhora, que foi relatora da resolução do TSE de 2024 que proibiu deepfakes, o que é um deepfake?
O fake é algo que ou não existe ou existe de outra forma e o que lhe foi apresentado não é o fato como se deu. Digamos que eu fique muito nervosa diante de um público, de ter que falar com as pessoas. Então, eu não vou ao público, autorizo o uso da minha imagem, da minha voz, para falar o que eu falaria mesmo [para um vídeo deepfake]. Mas não sou eu. É uma criação em que a máquina transforma o que eu iria falar de forma atabalhoada, pouco compreensível. Isto é fake, porque eu não sou desse jeito no público.

O voto é um fato, é um gesto. Eu vou à cabine, aperto ali a tecla e eu votei. Então, aquilo que me levou a chegar a um convencimento sobre a minha escolha precisa ser algo verdadeiro, que aconteceu. Nós já tivemos casos na história, como uma celebérrima foto de um ex-presidente, de décadas atrás, que foi montada, alguém segurou atrás. (Foto de Tancredo Neves sentado em uma cadeira cercado por seus médicos, aparentando estar bem, quando ele já estava muito doente, em março de 1985). Aquilo era falso, para o povo ficar em paz. Causou algum mal? Não. Foi uma montagem? Foi. Aquilo enganou, de alguma forma. Tudo isso vem à tona agora para a gente decidir.

Vou tirar o caso concreto, por razões óbvias, além de ser juíza, havia uma outra circunstância que era o cumprimento de uma pena (Jair Bolsonaro está em prisão domiciliar e não pode fazer comunicações por redes sociais). [Um vídeo de IA de alguém] é uma montagem sim. É falso, foi criado por uma máquina para passar uma mensagem que nós queremos que chegue.

Nós estávamos trabalhando até há pouquíssimo tempo com a ideia de que o falso era algo que tinha o sentido de comprometer, insultar uma outra pessoa. Se for contra outra pessoa, não pode. Se for a favor do candidato que usa, pode. Mas nós vimos que não. No deepfake, mesmo positivo, é falso, porque você não está dizendo aquilo. Mas e se o que ele está dizendo não é falso? Eu estou usando porque a pessoa está adoentada, porque a pessoa não pode estar aqui, porque a pessoa está em viagem a outro lugar… Isso muda o comportamento do eleitorado.

A resolução do TSE deste ano proíbe que chatbots como ChatGPT, Gemini e Claude recomendem votos ou ranqueiem candidatos. Por que essa vedação é importante? E vai ser fácil fiscalizar isso?
Fiscalizar nunca é fácil. Mas a gente tem que cobrar permanentemente para que essa fiscalização seja eficiente. Não pode [ranquear], porque aí, de novo, estamos fazendo máquinas substituírem a vontade das pessoas. A tendência das pessoas é votar em quem está melhor posicionado em pesquisas, em demonstrações, e com isso, se você tem um ranqueamento, estamos falseando a própria formação do convencimento do eleitor.

Qual é o grau de preocupação que a senhora tem com contestações ou afirmações falsas sobre as urnas? É igual a 2022?
Eu não estou tão preocupada como estive em outros momentos, porque o brasileiro é mais inteligente do que muita gente por aí pensa. Ele sabe exatamente porque foi usado em 2021 e 2022, para tentarem solapar a credibilidade da urna. Houve um decréscimo da confiança nas urnas, que foi superado, principalmente porque café requentado não tem gosto de café novo.

Ditador não gosta de povo, e quem não tem voto, não gosta de urna, nem de eleição.

No ano passado, o presidente Donald Trump impôs tarifas contra o Brasil alegando uma suposta perseguição ao ex-presidente Jair Bolsonaro. A senhora e vários ministros do Supremo tiveram seus vistos americanos revogados. Neste ano, há declarações do governo americano contra um dos candidatos, e encontros com outro. Haverá mais tentativas de interferência?
Eu não sei se vai haver mais tentativas de interferência. O artigo quarto da Constituição estabelece a independência dos povos, um princípio que o Brasil observa e que a gente espera que também observem em relação a nós. A interferência numa eleição é muito mais difícil num eleitorado de quase 158 milhões. As interferências podem até ter efeito contrário sobre nós, brasileiros, que já passamos por experiências muito complicadas antidemocráticas, de ausência de liberdades para voto.

A senhora participou da Flip e foi muito celebrada. Mas esta não é a percepção geral em relação ao Supremo. Pesquisa Datafolha de maio mostra que 40% da população desaprova o STF. Por que existe esse rechaço ao Supremo?
É preciso estar aberto a ter ciência da crítica, verificar qual a causa dela. É muito fácil implantar um dado de desconfiança, e é muito difícil construir a confiança. Se começam a plantar coisas contra uma instituição, isso pode gerar uma desconfiança, e essa desconfiança se alastra de uma forma muito fácil, muito mais do que a confiança. As críticas que me fazem, te asseguro que eu vejo. E nenhum de vocês nunca me viu, por exemplo, processando jornalista. O Judiciário precisa ouvir, não é surdo, mas precisa entender qual a razão dessa desconfiança, para saber como superar isso.

O presidente do Supremo, Edson Fachin, designou a senhora como relatora de um código de ética para o Supremo, e a senhora deve entregar um rascunho depois da eleição. Qual a importância de um código de ética para se construir confiança?
A busca do ministro Fachin era dar clareza ao que, em parte, já se tem na lei orgânica da magistratura, para todas as juízas e juízes brasileiros. Ele quer que isto seja condensado quando se trata dos ministros do Supremo, para ficar mais claro para a sociedade. O que ele está buscando é que a sociedade saiba que todos nós, eu e os meus colegas, nos submetemos à lei. Ele quer dar clareza a isso.