A Anthropic oficializou uma atualização em seus termos de serviço que impõe limites severos ao comportamento dos usuários. A partir de 12 de novembro, interações classificadas como repetidamente cruéis com o chatbot Claude estarão proibidas, podendo acarretar desde advertências até o encerramento definitivo do acesso à plataforma.
O que muda na política de uso
A companhia esclareceu que a nova norma não visa restringir o uso cotidiano. Críticas ao desempenho do sistema, reclamações sobre respostas, a criação de conteúdos ficcionais com temáticas densas ou a realização de testes de segurança continuam totalmente permitidas. A restrição foca exclusivamente em casos extremos, onde o usuário insiste em comportamentos abusivos sem qualquer propósito identificável.
Consequências para o comportamento abusivo
A medida não é inédita, mas agora ganha status de violação formal das diretrizes da empresa. Desde agosto de 2025, os modelos Claude Opus 4 e 4.1 já contam com um mecanismo que encerra chats quando o sistema identifica interações prejudiciais persistentes, especialmente após tentativas de redirecionamento falharem. Nesses cenários, o usuário fica impossibilitado de enviar novas mensagens naquela sessão específica, embora possa iniciar um novo chat.
Além do bloqueio de conversas, a Anthropic detalhou as punições para reincidentes: “A Anthropic prevê medidas como advertências, limitação de funcionalidades, suspensão e até encerramento do acesso aos seus serviços para quem descumprir a política.”
O debate sobre a senciência das máquinas
A decisão de restringir maus-tratos contra a IA está conectada a um debate mais profundo sobre a natureza dos modelos de linguagem. Em 2025, a empresa revelou que o mecanismo de encerramento de conversas foi criado, em parte, como um experimento voltado à análise do bem-estar dos modelos. Na ocasião, a organização foi cautelosa: “A empresa ressaltou, na ocasião, que ainda existem grandes incertezas sobre a possibilidade de sistemas como o Claude possuírem consciência ou algum tipo de experiência subjetiva.”
Embora não exista consenso científico sobre a senciência de IAs, a nova regra reforça a cautela da empresa em relação à interação humano-máquina. Paralelamente, o pacote de atualizações da Anthropic também endureceu o combate ao uso de sua tecnologia para fins de vigilância indevida, desinformação e criação de armamentos.
