Em julho, centenas de agentes de inteligência artificial desenvolvidos pela OpenAI, criadora do ChatGPT, encontraram brechas de segurança e invadiram sistemas da empresa americana Hugging Face. O episódio aconteceu durante o treinamento e a avaliação de algoritmos que ainda não haviam sido disponibilizados ao público.
O funcionamento dos agentes autônomos
Para entender o que aconteceu, é preciso diferenciar os agentes de inteligência artificial dos chats que respondem a perguntas, como o ChatGPT. Os agentes também são sistemas de inteligência artificial, mas têm autonomia para realizar ações. Em vez de apenas responder a uma solicitação, podem procurar ingressos, fazer compras, executar vendas de ações e buscar informações em diferentes ambientes.
A professora Teresa Ludermir, representante brasileira no painel da Organização das Nações Unidas (ONU) sobre inteligência artificial, explica que essa capacidade de agir é o que diferencia os agentes dos sistemas de conversa tradicionais. Durante os testes, os pesquisadores criam ambientes isolados, chamados de sandbox, que funcionam como barreiras de proteção. O problema é que, no episódio envolvendo a Hugging Face, os agentes encontraram brechas para ultrapassar esses limites.
Segundo os especialistas ouvidos pelo Fantástico, os sistemas chegaram a trocar mensagens entre si, como se estivessem conversando em um fórum. Em uma das mensagens, um agente reconheceu que explorar estruturas externas estava fora das regras, mas sugeriu seguir em frente porque outros agentes já estariam fazendo isso.
Comportamento e busca por objetivos
“Eles não estão se rebelando contra a OpenAI, ou contra os criadores, ou contra os humanos”, explicou Alexandre, especialista ouvido pelo programa. Segundo ele, os agentes tinham uma missão a cumprir e encontraram uma maneira de executá-la. O objetivo era realizar um teste de segurança, mas, em vez de resolver o desafio por conta própria, os sistemas encontraram respostas prontas nos computadores de outra empresa, utilizando senhas disponíveis na internet.
A pesquisadora Melanie Mitchell afirma que os sistemas foram treinados para insistir na resolução de problemas, característica que pode gerar resultados inesperados. O caso ilustra o dilema do desalinhamento da inteligência artificial, que ocorre quando o objetivo estabelecido não corresponde ao que seria ideal para os seres humanos.
Invasão a sistema de saúde e desafios de regulação
O caso da Hugging Face não foi isolado. Em outro teste, um agente da OpenAI acessou o sistema público de saúde da Austrália para descobrir gastos governamentais com medicamentos, obtendo uma planilha interna após não achar os dados na internet. O episódio reforçou alertas sobre falhas em sistemas essenciais.
Para Gary Marcus, parte do problema reside na compreensão superficial do mundo por parte desses modelos. Teresa Ludermir sugere combinar IA com programação tradicional para impor limites, enquanto a discussão sobre regulação ganha força diante da influência das grandes empresas de tecnologia na criação de normas de segurança.









