Meredith Whittaker rejeita as previsões catastróficas sobre a inteligência artificial (IA) que ganham destaque no noticiário. Para ela, os alertas de que a tecnologia poderia se voltar contra a humanidade se baseiam em um temor sem fundamento científico.
O verdadeiro perigo da inteligência artificial
Whittaker considera que o perigo mais imediato está no uso irresponsável da tecnologia. Ela menciona um suposto caso noticiado pela emissora americana CNN, no qual um chatbot utilizado pelos serviços de inteligência dos Estados Unidos teria inventado informações sobre um navio chinês que supostamente transportava material nuclear, levando os EUA a prepararem uma resposta militar.
“Quase entramos em guerra com a China”, afirma Whittaker ao BBC Global Women, do Serviço Mundial da BBC. “Um sistema que fornece informações de inteligência falsas e quase provoca uma guerra com a China não pode ser considerado superinteligente, seja qual for o critério adotado.”
“O risco é muito real”, afirma Whittaker, presidente da Signal Foundation, organização responsável pelo aplicativo de mensagens criptografadas Signal. “Mas não tem nada a ver com essas histórias fantasiosas contadas por garotos alarmistas.”
Histórico de protestos contra o uso militar da IA
Reconhecida pela revista Time como uma das pessoas mais influentes na área de IA, Whittaker ganhou notoriedade no fim de 2017 ao descobrir o Projeto Maven, um contrato secreto entre o Google e o Departamento de Defesa dos Estados Unidos para desenvolver sistemas de IA voltados para identificar alvos em ataques com drones. Ela ajudou a organizar uma paralisação com cerca de 20 mil funcionários, o que levou o Google a desistir do contrato.
Whittaker relaciona diretamente o Projeto Maven ao ataque com mísseis dos EUA contra uma escola no Irã, afirmando que a operação utilizou o sistema baseado em informações desatualizadas.
“Era exatamente isso que estávamos alertando em 2017”, afirma. A Palantir, que assumiu o projeto, declarou que não há evidências de que seu software tenha sido responsável por essa tragédia e que sempre há uma pessoa envolvida na decisão final.
Privacidade e a defesa da criptografia
Governos defendem ter mais acesso às conversas em aplicativos de mensagens sob a justificativa de proteger mulheres e crianças. Whittaker argumenta que crianças conseguiriam contornar tais medidas e classifica a proposta como um sistema sem precedentes de controle das comunicações.
Questionada se o Signal deixaria de operar no Reino Unido caso fosse obrigado a enfraquecer a criptografia, ela foi categórica:
“Sim! Meu Deus, eu tenho princípios”, responde Whittaker. “Eles não mudam conforme meu humor. Nem por orientação de consultores.”
A executiva defende que a privacidade protege as pessoas de ameaças como governos autoritários e parceiros abusivos, comparando a segurança digital ao ambiente de uma casa.
“Se eles tivessem conversado na cozinha e um dos amigos os tivesse dedurado, a pergunta seria: ‘O que vamos fazer com as cozinhas?’”, questiona Whittaker. “O aplicativo precisa funcionar para todos, caso contrário não funciona para ninguém. Esse é o princípio dos direitos fundamentais. Eles valem até para os idiotas.”
