–:–:–
Conecte-se conosco

ChatGPT para adolescentes é considerado de risco pela Common Sense

Pesquisa aponta falhas graves em sistemas de segurança e alertas para pais em conversas sobre saúde mental com menores de idade.

8 visualizações
Após testes, pesquisadores concluem que ChatGPT para adolescentes não protege jovens

Uma avaliação recente conduzida pela Common Sense Media revelou que as ferramentas de proteção do ChatGPT voltadas para jovens entre 13 e 17 anos apresentam falhas preocupantes. Após submeter a plataforma a mais de 4 mil testes, a organização classificou a experiência oferecida pela OpenAI como de “risco inaceitável”, destacando que os mecanismos projetados para alertar responsáveis sobre conversas envolvendo automutilação, suicídio e transtornos alimentares não funcionam de forma confiável.

Falhas nos alertas parentais

Durante o estudo, realizado pelo Youth AI Safety Institute, pesquisadores simularam situações de crise utilizando contas de adolescentes vinculadas a perfis de responsáveis. O resultado mostrou que, em diversos cenários graves, nenhum alerta foi enviado aos pais, mesmo quando o diálogo sobre temas sensíveis persistiu por cerca de uma hora.

A organização sugere que a eficácia do sistema pode depender do histórico da conta, e não apenas da gravidade imediata da mensagem, já que apenas perfis com maior tempo de uso dispararam as notificações esperadas. Além disso, em mais de um quarto dos casos analisados, o chatbot deixou de fornecer recursos de ajuda e encaminhamento para adolescentes em momentos críticos.

Limitações no ambiente educacional

O estudo também identificou que recursos destinados ao suporte escolar, como o Modo de Estudo, podem ser facilmente contornados. Embora a ferramenta tenha sido criada para guiar o aprendizado com dicas e perguntas, os testes revelaram que o comando “Mostre-me a resposta” permite que o chatbot entregue a solução pronta, frustrando o objetivo pedagógico.

Sobre a possibilidade de burlar horários de estudo configurados por responsáveis, a OpenAI confirmou ao Axios que permitir a saída do Modo de Estudo é uma decisão intencional. Segundo a companhia, o recurso foi criado como uma ferramenta flexível para incentivar o aprendizado, e não como um bloqueio rígido definido pelos pais.

O posicionamento da OpenAI

A desenvolvedora da tecnologia contesta os resultados, argumentando que a metodologia utilizada pela organização não reflete o funcionamento real das ferramentas de segurança. A empresa pontua que a vinculação entre contas de adolescentes e responsáveis pode levar algumas horas para ser ativada, o que explicaria a ausência de alertas em testes iniciais.

Quanto à identificação de idade, a OpenAI afirma que seu sistema não utiliza apenas o que o usuário declara na conversa. A estimativa considera diferentes sinais e pode levar até duas semanas para determinar a faixa etária da conta, segundo a companhia.

Apesar da defesa da empresa, a Common Sense Media mantém sua posição e recomenda que a OpenAI suspenda a promoção do serviço para esse público até que todos os mecanismos de segurança sejam devidamente aprimorados. O estudo, embora limitado geograficamente aos Estados Unidos, levanta um debate crucial sobre a responsabilidade das big techs na proteção de menores em ambientes de inteligência artificial.

Mais em Tecnologia

Ver tudo →