Uma avaliação recente conduzida pela Common Sense Media revelou que as ferramentas de proteção do ChatGPT voltadas para jovens entre 13 e 17 anos apresentam falhas preocupantes. Após submeter a plataforma a mais de 4 mil testes, a organização classificou a experiência oferecida pela OpenAI como de “risco inaceitável”, destacando que os mecanismos projetados para alertar responsáveis sobre conversas envolvendo automutilação, suicídio e transtornos alimentares não funcionam de forma confiável.
Falhas nos alertas parentais
Durante o estudo, realizado pelo Youth AI Safety Institute, pesquisadores simularam situações de crise utilizando contas de adolescentes vinculadas a perfis de responsáveis. O resultado mostrou que, em diversos cenários graves, nenhum alerta foi enviado aos pais, mesmo quando o diálogo sobre temas sensíveis persistiu por cerca de uma hora.
A organização sugere que a eficácia do sistema pode depender do histórico da conta, e não apenas da gravidade imediata da mensagem, já que apenas perfis com maior tempo de uso dispararam as notificações esperadas. Além disso, em mais de um quarto dos casos analisados, o chatbot deixou de fornecer recursos de ajuda e encaminhamento para adolescentes em momentos críticos.
Limitações no ambiente educacional
O estudo também identificou que recursos destinados ao suporte escolar, como o Modo de Estudo, podem ser facilmente contornados. Embora a ferramenta tenha sido criada para guiar o aprendizado com dicas e perguntas, os testes revelaram que o comando “Mostre-me a resposta” permite que o chatbot entregue a solução pronta, frustrando o objetivo pedagógico.
Sobre a possibilidade de burlar horários de estudo configurados por responsáveis, a OpenAI confirmou ao Axios que permitir a saída do Modo de Estudo é uma decisão intencional. Segundo a companhia, o recurso foi criado como uma ferramenta flexível para incentivar o aprendizado, e não como um bloqueio rígido definido pelos pais.
O posicionamento da OpenAI
A desenvolvedora da tecnologia contesta os resultados, argumentando que a metodologia utilizada pela organização não reflete o funcionamento real das ferramentas de segurança. A empresa pontua que a vinculação entre contas de adolescentes e responsáveis pode levar algumas horas para ser ativada, o que explicaria a ausência de alertas em testes iniciais.
Quanto à identificação de idade, a OpenAI afirma que seu sistema não utiliza apenas o que o usuário declara na conversa. A estimativa considera diferentes sinais e pode levar até duas semanas para determinar a faixa etária da conta, segundo a companhia.
Apesar da defesa da empresa, a Common Sense Media mantém sua posição e recomenda que a OpenAI suspenda a promoção do serviço para esse público até que todos os mecanismos de segurança sejam devidamente aprimorados. O estudo, embora limitado geograficamente aos Estados Unidos, levanta um debate crucial sobre a responsabilidade das big techs na proteção de menores em ambientes de inteligência artificial.









