Ing. Calogero Bono
OpenAI宣布了一系列措施，旨在限制ChatGPT中与暴力相关的风险。新规涉及18岁以下用户的武器相关信息、以往大规模袭击事件的相关回答，以及一份新的安全报告，首份报告预计在2027年初发布。新规将在未来几周内推出。它们之所以重要，是因为会影响每天使用ChatGPT的人，包括家庭和企业用户。
几个术语，在进入正题之前先说明。 ChatGPT青少年版是为18岁以下用户设计的ChatGPT体验，对敏感内容设有额外限制。年龄预测是一套系统，会根据使用行为等信号，判断用户是否年满18岁。Persona是OpenAI的合作伙伴，负责年龄验证。家长控制允许家长将自己的账户与孩子的账户关联。社区安全报告是OpenAI承诺定期发布的报告。
OpenAI宣布了什么？
根据OpenAI的官方公告，此次有两项新内容。第一是一份新的社区安全报告。第二是针对未成年人的武器相关内容，实施更严格的限制。
公司称，在2026年第三季度，已就迫在眉睫的暴力威胁向执法部门提交了200多份报告。该数据由OpenAI提供，无法被独立核实。
正如Punto Informatico所提到的，此举是对美国收到的投诉以及Common Sense Media对ChatGPT青少年版批评的回应。
关于大规模袭击和暴力的问题会有什么变化？
OpenAI表示，其模型经过训练，不会提供能够用于策划或实施暴力的有用指示。现在，模型对以往大规模袭击事件及其肇事者的信息会更加简略，即使这些资料在网上其他地方可以找到。
你仍然可以询问以了解事件经过、对受害者和社区的影响，以及预警信号。关于武器、装备和购买方式的细节，以及可能提升肇事者知名度的伤亡对比，将受到限制。这些限制无论用户年龄或提问动机如何都适用。
如果近期的对话显示出可能的暴力倾向，ChatGPT会更加谨慎地作答。公司正努力，在预测用户为未成年人时也适用同样的限制。
ChatGPT能否关闭对话并暂停账户？
据OpenAI称，可以。该公司与心理健康和暴力预防领域的专家合作，正在推进更早的自动干预措施。如果对话显示出对暴力的执念，或想伤害某人的念头，ChatGPT可以自动关闭该对话。如果此类情况反复出现，账户可能会被暂时停用。
对于违反暴力活动规定的账户，封禁措施依然有效。OpenAI承认，如何可靠地识别这些信号，以及何时介入，仍有待厘清。
青少年和家长能获得哪些新保护？
对于18岁以下用户，关于武器和安全系统的信息限制会加强，即使提问看似无害也一样。青少年仍可使用ChatGPT来预防暴力、寻求支持，或向可信赖的成年人求助。
去年推出的年龄预测功能会在使用过程中评估新的信号，并将用户转入未成年人体验。被错误归类的用户可以通过Persona确认自己已成年。
在家长控制方面，自7月起，如果孩子的账户因暴力相关违规而被停用，家长会收到提醒。OpenAI正在开发一项通知，适用于因反复讨论该话题而被暂停的情况。
延伸阅读，请参见OpenAI开发自主黑客——意大利中小企业的安全面临风险，以及OpenAI推出自主黑客——意大利中小企业的安全已经落后。
需要了解的局限
几乎所有内容都基于OpenAI的说法。目前没有独立数据可以证明过滤器的效果，也没有关于年龄预测误差率的数据。关于何时关闭对话或暂停账户，缺少明确的判定标准。部分措施，例如暂停账户时通知家长，仍在开发中。首份报告将覆盖2026年下半年，但要到2027年初才会发布。
对于从事数字行业工作的人，有什么变化
如果你开发的产品集成了ChatGPT，或者使用其回答，那么关于武器、人身安全和暴力新闻的问题可能会被拒绝，或得到更简略的回答。即使是正当的研究也可能受影响，因为对以往袭击事件的限制并不取决于提问的动机。为年轻人设计的服务需要考虑，系统预测的年龄可能会改变用户体验。对于有未成年员工或客户的企业，值得说明家长控制和年龄验证的存在。也建议提前设计清晰的提示，告知用户何时回答被拒绝。
我们的看法
方向可以理解，但这份公告更像是承诺，而非既成结果。限制对以往袭击事件的详细回顾是合理的选择，不过这也会让研究与风险之间的界线变得模糊。最棘手的是年龄预测，它可能出错，并迫使成年人进行身份验证。半年一次的报告才是真正的考验，前提是它包含数据，而不只是例子。关于模型的可信度，可以参考Anthropic Claude和OpenAI的对比，帮助你评估两者之间的差异。
常见问题
ChatGPT的新规什么时候生效？
将在未来几周内生效。OpenAI表示相关措施很快开始推出，之后还会不断完善。部分功能，例如某些家长通知，仍在开发中。
ChatGPT对成年人的信息也会减少吗？
在一定程度上会。对以往大规模袭击事件的回顾限制，无论用户年龄或提问动机如何都适用。你仍然可以询问事件经过，了解其影响并识别预警信号。
如果ChatGPT误把我当成未成年人怎么办？
你可以确认自己已成年。OpenAI提供了一个快速且保护隐私的流程，由Persona负责处理，完成后将取消青少年保护限制。
社区安全报告什么时候发布？
2027年初。第一份报告将涵盖2026年下半年，之后每六个月更新一次。
如果孩子讨论暴力内容，家长会收到提醒吗？
视情况而定。自7月起，如果孩子的账户因暴力相关违规而被停用，家长会收到通知。OpenAI正在开发一项通知，适用于因反复讨论该话题而被暂停的情况。
在2027年的报告之前，该关注什么？
OpenAI的承诺将在未来几个月接受检验，包括规则的落地和首份报告的发布。以下三个信号值得持续关注。
- 留意2027年的报告是否包含可衡量的数据，而不只是匿名的例子。
- 关注OpenAI如何说明关闭对话和暂停账户的判定标准。
- 核实暂停账户时的家长通知是否真的送达，以及送达所需的时间。
