O avanço acelerado da inteligência artificial generativa acendeu um sinal vermelho no Poder Judiciário. Representantes da OpenAI e da Meta alertam que a qualidade das mídias falsificadas, os chamados deepfakes, atingiu um patamar de realismo que torna a distinção entre o autêntico e o fabricado uma tarefa quase impossível. O tema é o foco central de discussões no Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, que busca mecanismos para proteger a integridade dos processos judiciais contra evidências digitais manipuladas.
A crise da autenticidade na era da IA
O problema central está na facilidade e na precisão com que ferramentas atuais geram conteúdos visuais e sonoros a partir de comandos básicos. A tecnologia disponível hoje superou tanto o julgamento humano quanto a eficácia de diversos softwares de segurança. “As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las”, disse Shira Anderson, consultora de políticas da OpenAI.
O impacto real no sistema judiciário
Embora o debate sobre os riscos seja intenso nos círculos acadêmicos e técnicos, os tribunais ainda enfrentam uma realidade distinta. Dados do Centro Federal do Judiciário indicam que, de 931 magistrados ouvidos, somente 15 tiveram de analisar contestações relacionadas à autenticidade de provas por suspeita de manipulação por IA. “Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo”, disse o juiz federal Jesse Furman, de Manhattan, que preside o comitê.
A falibilidade das marcas d’água
Medidas como a obrigatoriedade de marcas d’água, já adotadas na Califórnia e na União Europeia, enfrentam obstáculos técnicos significativos. A ausência de um padrão universal entre as empresas desenvolvedoras de IA impede uma verificação eficaz, deixando brechas para fraudes. Sobre a evolução dessas ferramentas de proteção, Shira Anderson ponderou: “Minha impressão é que isso certamente continuará melhorando”, disse ela. “Não acho que algum dia será à prova de falhas.”
Baixo custo e alta ameaça
O cenário é agravado pela acessibilidade das ferramentas de criação, conforme aponta Devin Norder, diretor de gestão de produtos da Meta. O executivo ressaltou que a criação de deepfakes realistas demanda pouco tempo e investimento financeiro baixo, o que transforma o enfrentamento a esse tipo de fraude em um desafio constante, tanto para o setor de tecnologia quanto para o sistema legal em todo o mundo.
