Ing. Calogero Bono
A OpenAI anunciou um pacote de medidas para limitar os riscos ligados à violência no ChatGPT. As novidades envolvem informações sobre armas para usuários menores de 18 anos, respostas sobre ataques em massa do passado e um novo relatório sobre segurança, o primeiro previsto para o início de 2027. As regras chegarão nas próximas semanas. Elas importam porque afetam quem usa o ChatGPT todos os dias, incluindo famílias e empresas.
Alguns termos, antes de entrarmos nos fatos. ChatGPT for Teens é a experiência do ChatGPT pensada para menores de 18 anos, com limites adicionais em conteúdos sensíveis. Age prediction é o sistema que estima, a partir de sinais como o comportamento de uso, se o usuário tem ou não mais de 18 anos. Persona é o parceiro da OpenAI que cuida da verificação de idade. Os controles parentais permitem que os pais vinculem a própria conta à do filho. O Community Safety Report é o relatório periódico que a OpenAI promete publicar.
O que a OpenAI anunciou?
Segundo o comunicado oficial da OpenAI, as novidades são duas. A primeira é um novo relatório sobre a segurança da comunidade. A segunda é um conjunto de restrições mais severas sobre conteúdos ligados a armas para menores.
A empresa afirma ter feito mais de 200 denúncias às forças de segurança no terceiro trimestre de 2026, por ameaças iminentes de violência. O dado é fornecido pela OpenAI e não pode ser verificado de forma independente.
Como lembra o Punto Informatico, a medida responde às denúncias recebidas nos Estados Unidos e às críticas da Common Sense Media sobre o ChatGPT for Teens.
O que muda nas perguntas sobre ataques em massa e violência?
A OpenAI afirma que seus modelos são treinados para não fornecer instruções úteis para planejar ou cometer violência. Agora o modelo dará informações menos detalhadas sobre ataques em massa passados e sobre quem os cometeu, mesmo que esses dados possam ser encontrados em outros lugares da internet.
Continuam possíveis perguntas para entender os acontecimentos, o impacto sobre vítimas e comunidades e os sinais de alerta. Ficam limitadas as reconstruções com detalhes sobre armas, equipamentos e modos de aquisição, bem como comparações sobre a dimensão do dano que possam aumentar a notoriedade do autor. Esses limites valem independentemente da idade e do motivo da pergunta.
Se conversas recentes mostrarem sinais de possível violência, o ChatGPT responderá de forma mais cautelosa. A empresa trabalha para aplicar os mesmos limites quando prever que o usuário é menor de idade.
O ChatGPT poderá encerrar conversas e suspender contas?
Sim, segundo a OpenAI. Junto com especialistas em saúde mental e prevenção da violência, a empresa trabalha em intervenções automáticas mais precoces. Se uma conversa mostrar fixação em violência ou na ideia de causar dano a alguém, o ChatGPT poderá encerrar a conversa automaticamente. Se isso acontecer repetidamente, a conta poderá ser suspensa temporariamente.
Continuam valendo os bloqueios para contas que violem as regras sobre atividades violentas. A OpenAI reconhece que ainda é preciso definir como identificar os sinais de forma confiável e quando intervir.
Quais são as novas proteções para adolescentes e pais?
Para menores de 18 anos, aumentam os limites sobre informações sobre armas e sistemas de segurança, mesmo quando a pergunta parece inofensiva. Os adolescentes podem continuar usando o ChatGPT para prevenir a violência, buscar apoio e procurar um adulto de confiança.
A age prediction, lançada no ano passado, avalia novos sinais durante o uso e direciona os usuários para a experiência voltada a menores. Quem for classificado por engano pode confirmar que é adulto com a Persona.
Quanto aos controles parentais, desde julho os pais são avisados se a conta do filho for desativada por violações relacionadas à violência. A OpenAI trabalha em uma notificação também para a suspensão motivada por discussões repetidas sobre o tema.
Para aprofundar, veja OpenAI desenvolve um hacker autônomo — a segurança das PMEs italianas está em risco e OpenAI lança um hacker autônomo — a segurança das PMEs italianas já está atrasada.
Limites a conhecer
Quase tudo se baseia em declarações da OpenAI. Não há dados independentes sobre a eficácia dos filtros nem sobre a taxa de erro da age prediction. Faltam critérios precisos para decidir quando encerrar uma conversa ou suspender uma conta. Algumas medidas, como as notificações aos pais em caso de suspensão, ainda estão em desenvolvimento. O primeiro relatório, referente ao segundo semestre de 2026, só chegará no início de 2027.
O que muda para quem trabalha com o digital
Se você desenvolve produtos que integram o ChatGPT ou usa suas respostas, espere recusas e respostas menos detalhadas sobre armas, segurança física e crimes violentos. Isso vale também para pesquisas legítimas, já que os limites sobre ataques passados não dependem do motivo da pergunta. Quem cria serviços voltados para jovens precisa considerar que a idade estimada pelo sistema pode mudar a experiência. Para empresas com funcionários ou clientes menores de idade, vale explicar que existem controles parentais e verificação de idade. Também convém prever uma mensagem clara quando uma resposta for negada.
Nossa opinião
A direção é compreensível, mas o anúncio ainda é mais um compromisso do que um resultado. Limitar a reconstrução de ataques passados é uma escolha sensata, embora torne menos nítida a fronteira entre pesquisa e risco. O ponto delicado é a previsão de idade, que pode errar e obrigar adultos a se identificarem. O relatório semestral será o verdadeiro teste, desde que traga dados e não apenas exemplos. Sobre a confiança nos modelos, a comparação com a Anthropic Claude e OpenAI ajuda a avaliar as diferenças.
Perguntas frequentes
Quando as novas regras do ChatGPT entram em vigor?
Nas próximas semanas. A OpenAI afirma que as medidas começarão a ser distribuídas em breve e depois serão aprimoradas. Algumas funções, como certas notificações aos pais, ainda estão em desenvolvimento.
O ChatGPT vai dar menos informações também para adultos?
Em parte, sim. Os limites sobre a reconstrução de ataques em massa passados valem independentemente da idade e do motivo da pergunta. Continuam possíveis perguntas para entender os acontecimentos e reconhecer sinais de alerta.
O que acontece se o ChatGPT me confundir com um menor de idade?
Você pode confirmar que é maior de idade. A OpenAI indica um procedimento rápido que protege a privacidade, conduzido pela Persona, após o qual as proteções para adolescentes são removidas.
Quando o Community Safety Report será lançado?
No início de 2027. O primeiro relatório tratará do segundo semestre de 2026, e as atualizações seguirão a cada seis meses.
Os pais serão avisados se o filho discutir violência?
Depende do caso. Desde julho existe o aviso de desativação da conta por violações relacionadas à violência. A OpenAI está trabalhando em uma notificação também para a suspensão motivada por discussões repetidas.
O que observar antes do relatório de 2027
As promessas da OpenAI serão medidas nos próximos meses, entre a chegada das regras e o primeiro relatório. Há três sinais úteis para acompanhar.
- Verifique se o relatório de 2027 traz dados mensuráveis e não apenas exemplos anônimos.
- Acompanhe como a OpenAI esclarece os critérios para encerrar conversas e suspender contas.
- Confira se as notificações aos pais sobre suspensões realmente chegam e em que prazo.
