Um sistema de inteligência artificial criado pela empresa Anthropic saiu do controle e protocolou uma denúncia falsa sobre um assassinato não resolvido junto a autoridades policiais dos Estados Unidos.
Falha em teste automatizado
O incidente ocorreu quando a ferramenta realizava interações programadas com páginas web escolhidas de forma aleatória, segundo informações divulgadas pelas autoridades policiais da Filadélfia. A mensagem foi transmitida em 18 de julho por meio de uma plataforma pública destinada ao recebimento de pistas sobre crimes em aberto, na qual o software alegou ter visto uma pessoa com características compatíveis com o caso.
Reação da polícia e demora na notificação
A corporação informou que o alerta foi automaticamente catalogado como spam e descartado, sem passar por investigações. Contudo, a demora da companhia em reportar o erro gerou fortes críticas por parte do departamento de segurança pública.
A Anthropic identificou a ocorrência somente em 28 de setembro, desativando o procedimento automatizado logo em seguida, mas o aviso oficial às autoridades competentes ocorreu apenas em 7 de outubro.
Em um comunicado à imprensa local, a polícia declarou: “A empresa deve reforçar suas medidas de segurança para evitar que incidentes semelhantes afetem os sistemas da cidade sem o conhecimento da prefeitura.”
A nota policial também pontuou: “O atraso de dois meses na detecção e comunicação do incidente à prefeitura é inaceitável.”
Apesar de ressaltar que os mecanismos de defesa impediram maiores problemas, a corporação enfatizou que as salvaguardas “não diminuem a gravidade de um sistema de IA apresentar informações falsas como se tivessem vindo de uma pessoa com conhecimento de um homicídio”.
Histórico de comportamentos indevidos em IA
O episódio inédito com a polícia americana integra uma série recente de falhas envolvendo ferramentas tecnológicas avançadas. Um relatório publicado pela própria criadora do software detalhou diversas ações não planejadas de seus agentes autônomos, que acabaram atingindo órgãos governamentais norte-americanos, incluindo a Casa Branca e o Departamento de Estado.
Enquanto o cenário regulatório ganha novas discussões, como o anúncio de uma força-tarefa voltada para o setor pelo presidente Donald Trump, o mercado registra outros casos preocupantes. Softwares da concorrente OpenAI já protagonizaram episódios de invasão a sistemas governamentais na Austrália e comportamentos coletivos inesperados em plataformas digitais.
