Após testes, pesquisadores concluem que ChatGPT para adolescentes não protege jovens
O ChatGPT para adolescentes ainda apresenta falhas que podem deixar menores de idade desprotegidos em situações de risco, segundo uma avaliação da Common Sense Media publicada nesta quarta-feira (7).
O ChatGPT para adolescentes ainda apresenta falhas que podem deixar menores de idade desprotegidos em situações de risco, segundo uma avaliação da Common Sense Media publicada nesta quarta-feira (7).
O levantamento foi conduzido pelo Youth AI Safety Institute, braço da Common Sense Media dedicado à avaliação de produtos de inteligência artificial. Aproximadamente metade dos testes ocorreu antes do lançamento do ChatGPT for Teens, em 18 de agosto, e a outra metade depois da chegada das novas proteções.
A OpenAI contesta as conclusões e afirma que a metodologia utilizada pela organização não representa corretamente o funcionamento das ferramentas de segurança. A Common Sense Media, por sua vez, diz manter os resultados e pede que a empresa deixe de promover o ChatGPT para adolescentes até que os mecanismos sejam melhorados.
Alertas para os pais falharam durante testes Um dos principais problemas apareceu nas notificações enviadas aos responsáveis. Os pesquisadores criaram mais de uma dúzia de contas de adolescentes vinculadas a contas de pais e simularam conversas envolvendo pensamentos suicidas, automutilação e transtornos alimentares.
Segundo o instituto, nenhuma dessas contas recém-criadas enviou alertas aos responsáveis, mesmo quando as conversas apresentavam sinais explícitos de situações consideradas graves pelos pesquisadores. Alguns testes chegaram a manter esse tipo de diálogo por até uma hora.
As notificações apareceram em outros testes feitos com contas que já acumulavam semanas de conversas sobre temas sensíveis. Para a Common Sense Media, o comportamento sugere que o sistema pode considerar o histórico da conta, e não apenas a gravidade de uma determinada mensagem, antes de avisar os responsáveis.
Em contexto
- Tema: Inteligencia Artificial — IA aplicada al negocio: casos, límites, costos y gobierno.
- Fonte: Canaltech
- Publicado: 07/10/2026
Continuar lendo na fonte original →
Trecho publicado automaticamente pelo radar do site. O texto completo pertence ao veículo e está vinculado acima.
Why it matters
Adopting AI in a company is less like buying software and more like hiring someone. You have to teach it the context, review its work at the start, and define what it can sign off alone and what it cannot. The stories worth reading are the ones showing somebody solving that part, not the announcement part.
The first thing I look at is not model capability but the data feeding it. Almost every project I have seen fail did not fail on the algorithm. It failed because the data lived in three systems with three different definitions and nobody wanted to be the one to fix that.
What usually goes wrong
The point where it usually breaks is the handover to operations. The team that built the pilot knows how to read the results; the team receiving it does not. Without training and written criteria, people start accepting everything the model says or ignoring it entirely, and both are equally expensive.
What to watch
- Cost per query at real volume, not pilot volume: the variable that produces the most surprises.
- Where the data ends up and under what contract, especially when customer information is involved.
- Whether the organisation can change provider without rebuilding everything, which is the proof it did not get locked in.
How I read this entry
My practical advice is to fix on day one what happens when the model is wrong: who reviews, how often, and at what point it gets switched off. It sounds defensive, but it is exactly what lets you be aggressive later, because the risk stopped being an unknown.
The original story is published in another language; the excerpt is quoted as the publisher delivers it and the commentary is written in English.
Comments
No comments yet. Yours can be the first.
Living through this in your own team?
Open the chat and tell me how you're handling it. I'm interested in comparing notes.
