Ing. Calogero Bono
OpenAI ha anunciado un paquete de medidas para limitar los riesgos relacionados con la violencia en ChatGPT. Las novedades afectan a la información sobre armas para usuarios menores de 18 años, a las respuestas sobre ataques masivos del pasado y a un nuevo informe de seguridad, el primero previsto a principios de 2027. Las normas llegarán en las próximas semanas. Importan porque afectan a quienes usan ChatGPT a diario, incluidas familias y empresas.
Algunos términos antes de entrar en los hechos ChatGPT for Teens es la experiencia de ChatGPT pensada para menores de 18 años, con límites adicionales sobre contenidos sensibles. Age prediction es el sistema que estima, a partir de señales como los patrones de uso, si el usuario tiene o no más de 18 años. Persona es el socio de OpenAI que gestiona la verificación de la edad. Los controles parentales permiten a los padres vincular su cuenta con la de su hijo. El Community Safety Report es el informe periódico que OpenAI promete publicar.
¿Qué ha anunciado OpenAI?
Según el comunicado oficial de OpenAI, las novedades son dos. La primera es un nuevo informe sobre la seguridad de la comunidad. La segunda es un conjunto de restricciones más severas sobre los contenidos relacionados con armas para menores.
La empresa afirma haber realizado más de 200 denuncias a las fuerzas del orden en el tercer trimestre de 2026, por amenazas inminentes de violencia. El dato lo proporciona OpenAI y no puede verificarse de forma independiente.
Como recuerda Punto Informatico, la medida responde a las denuncias recibidas en Estados Unidos y a las críticas de Common Sense Media sobre ChatGPT for Teens.
¿Qué cambia en las preguntas sobre ataques masivos y violencia?
OpenAI afirma que sus modelos están entrenados para no dar instrucciones útiles para planificar o cometer violencia. Ahora el modelo ofrecerá información menos detallada sobre los ataques masivos pasados y sobre quienes los cometieron, aunque los datos se encuentren en otros lugares de internet.
Siguen siendo posibles las preguntas para entender los hechos, el impacto en las víctimas y en las comunidades y las señales de alarma. Se limitan las reconstrucciones, con los detalles sobre armas, equipamiento y modos de adquisición, y las comparaciones sobre la magnitud del daño que podrían aumentar la notoriedad del autor. Estos límites valen independientemente de la edad y del motivo de la consulta.
Si los chats recientes muestran señales de posible violencia, ChatGPT responderá de forma más prudente. La empresa trabaja para aplicar los mismos límites cuando prevea que el usuario es menor de edad.
¿Podrá ChatGPT cerrar conversaciones y suspender cuentas?
Sí, según OpenAI. Junto a expertos en salud mental y prevención de la violencia, la empresa trabaja en intervenciones automáticas más tempranas. Si una conversación muestra una obsesión con la violencia o con la idea de hacer daño a alguien, ChatGPT podrá cerrar el chat de forma automática. Si ocurre varias veces, la cuenta podrá suspenderse temporalmente.
Siguen vigentes los bloqueos para las cuentas que infringen las normas sobre actividades violentas. OpenAI admite que queda por entender cómo reconocer las señales de forma fiable y cuándo intervenir.
¿Qué nuevas protecciones hay para adolescentes y padres?
Para los menores de 18 años aumentan los límites sobre la información de armas y sistemas de seguridad, incluso cuando la pregunta parece inofensiva. Los adolescentes pueden seguir usando ChatGPT para prevenir la violencia, buscar apoyo y dirigirse a un adulto de confianza.
La predicción de edad, lanzada el año pasado, evalúa nuevas señales durante el uso y traslada a los usuarios a la experiencia para menores. Quien sea clasificado por error puede confirmar que es adulto con Persona.
En cuanto a los controles parentales, desde julio los padres reciben un aviso si la cuenta de su hijo se desactiva por infracciones sobre violencia. OpenAI trabaja en una notificación también para la suspensión debida a conversaciones repetidas sobre el tema.
Para profundizar, OpenAI desarrolla un hacker autónomo – la seguridad de las pymes italianas está en riesgo y OpenAI lanza un hacker autónomo – la seguridad de las pymes italianas ya va retrasada.
Límites que conviene conocer
Casi todo se basa en declaraciones de OpenAI. No hay datos independientes sobre la eficacia de los filtros ni sobre la tasa de error de la predicción de edad. Faltan criterios precisos para decidir cuándo cerrar un chat o suspender una cuenta. Algunas medidas, como las notificaciones a los padres por suspensión, todavía están en desarrollo. El primer informe, sobre el segundo semestre de 2026, llegará solo a principios de 2027.
Qué cambia para quien trabaja con lo digital
Si desarrollas productos que integran ChatGPT o utilizas sus respuestas, espera rechazos y respuestas menos detalladas sobre armas, seguridad física y crónica violenta. Esto vale también para investigaciones legítimas, porque los límites sobre ataques pasados no dependen del motivo de la consulta. Quien crea servicios dirigidos a jóvenes debe tener en cuenta que la edad estimada por el sistema puede cambiar la experiencia. Para las empresas con empleados o clientes menores, conviene explicar que existen controles parentales y verificación de edad. También es recomendable prever un mensaje claro cuando se niegue una respuesta.
Nuestra opinión
La dirección es comprensible, pero el anuncio sigue siendo más un compromiso que un resultado. Limitar las reconstrucciones de ataques pasados es una decisión sensata, aunque vuelve más opaca la frontera entre investigación y riesgo. El punto delicado es la predicción de la edad, que puede equivocarse y obligar a adultos a identificarse. El informe semestral será la verdadera prueba, si contiene datos y no solo ejemplos. Sobre la confianza en los modelos, la comparación con Anthropic Claude e OpenAI ayuda a valorar las diferencias.
Preguntas frecuentes
¿Cuándo entran en vigor las nuevas normas de ChatGPT?
En las próximas semanas. OpenAI afirma que las medidas empezarán a distribuirse pronto y que después se irán ajustando. Algunas funciones, como ciertas notificaciones a los padres, todavía están en desarrollo.
¿ChatGPT dará menos información también a los adultos?
En parte, sí. Los límites sobre las reconstrucciones de ataques masivos pasados valen independientemente de la edad y del motivo de la consulta. Siguen siendo posibles las preguntas para entender los hechos y reconocer las señales de alarma.
¿Qué pasa si ChatGPT me toma por menor de edad?
Puedes confirmar que eres mayor de edad. OpenAI indica un procedimiento rápido que protege la privacidad, gestionado por Persona, tras el cual se quitan las protecciones para adolescentes.
¿Cuándo saldrá el Community Safety Report?
A principios de 2027. El primer informe abarcará el segundo semestre de 2026 y las actualizaciones seguirán cada seis meses.
¿Serán avisados los padres si su hijo habla de violencia?
Depende del caso. Desde julio existe el aviso de desactivación de la cuenta por infracciones sobre violencia. OpenAI trabaja también en una notificación para la suspensión debida a conversaciones repetidas.
Qué vigilar antes del informe de 2027
Las promesas de OpenAI se medirán en los próximos meses, entre la llegada de las normas y el primer informe. Hay tres señales útiles a seguir.
- Comprueba si el informe de 2027 contiene datos medibles y no solo ejemplos anónimos.
- Sigue cómo OpenAI aclara los criterios para cerrar chats y suspender cuentas.
- Verifica si las notificaciones a los padres por suspensiones llegan de verdad y en qué plazos.
