Ing. Calogero Bono
OpenAIは、ChatGPTにおける暴力関連のリスクを抑えるための一連の措置を発表しました。新たな対策は、18歳未満のユーザーに対する武器情報、過去の大量殺傷事件に関する回答、そして2027年初頭に公開される予定の初の安全性レポートに関わるものです。新ルールは今後数週間のうちに導入される予定です。日常的にChatGPTを利用する個人や家庭、企業にも影響するため、注目が集まっています。
事実に入る前に、いくつかの用語を確認しておきましょう。 ChatGPT for Teensは、18歳未満のユーザー向けに設計されたChatGPTの体験で、センシティブな内容に対する追加の制限があります。年齢予測（Age prediction）は、利用パターンなどのシグナルから、ユーザーが18歳以上かどうかを推定するシステムです。PersonaはOpenAIのパートナーで、年齢確認を担当します。保護者による管理機能では、保護者が自身のアカウントを子どものアカウントと連携させることができます。Community Safety Reportは、OpenAIが定期的に公開すると約束しているレポートです。
OpenAIは何を発表したのか？
OpenAIの公式発表によると、新しい取り組みは2つあります。1つ目は、コミュニティの安全性に関する新しいレポートです。2つ目は、未成年者に対する武器関連コンテンツへの、より厳しい制限です。
同社は、2026年第3四半期に、差し迫った暴力の脅威について法執行機関へ200件以上の通報を行ったと説明しています。この数字はOpenAIが提供したもので、第三者による検証は行われていません。
Punto Informaticoが伝えているように、この動きは米国で寄せられた告発や、Common Sense MediaによるChatGPT for Teensへの批判を受けたものです。
大量殺傷事件や暴力に関する質問はどう変わるのか？
OpenAIは、同社のモデルが暴力の計画や実行に役立つ指示を与えないよう訓練されていると説明しています。今後は、過去の大量殺傷事件やその加害者について、より詳細度を抑えた情報が提供されます。ただし、そうした情報がオンライン上の別の場所で見つかる場合でも、この制限は適用されます。
出来事の理解、被害者や地域社会への影響、警告サインを知るための質問は引き続き可能です。一方で、武器や装備、入手方法に関する詳細や、加害者の知名度を高めかねない被害規模の比較などは制限されます。これらの制限は、年齢や質問の理由に関係なく適用されます。
最近のチャットで暴力の兆候が見られた場合、ChatGPTはより慎重に応答するようになります。また、利用者が未成年だと予測される場合にも、同じ制限を適用する取り組みが進められています。
ChatGPTは会話を終了させたりアカウントを停止したりできるようになるのか？
OpenAIによれば、そのとおりです。暴力や他者への危害に関する執着が会話に見られた場合、ChatGPTはチャットを自動的に終了できるようになります。同様のことが繰り返された場合は、アカウントを一時的に停止できます。この取り組みは、メンタルヘルスや暴力防止の専門家と協力して進められています。
暴力的な行為に関するルールに違反したアカウントの制限は、引き続き有効です。ただしOpenAIは、兆候を信頼性高く見分ける方法や、いつ介入すべきかについては、まだ検討が必要だと認めています。
未成年者と保護者に向けた新たな保護措置とは？
18歳未満のユーザーに対しては、武器や安全対策システムに関する情報の制限が強化されます。質問が一見無害に見える場合でも適用されます。ただし、十分な理由がある場合は、暴力防止のためにChatGPTを利用したり、支援を探したり、信頼できる大人に相談したりすることは引き続き可能です。
昨年導入された年齢予測は、利用中に新たなシグナルを評価し、ユーザーを未成年向けの体験へ移行させます。誤って分類された場合は、Personaを通じて成人であることを確認できます。
保護者による管理機能については、2024年7月以降、子どものアカウントが暴力に関する違反で無効化された場合に保護者へ通知されます。OpenAIは、この話題に関する繰り返しの会話による停止についても通知を導入する準備を進めています。
さらに詳しくは、OpenAI sviluppa un hacker autonomo — la sicurezza delle PMI italiane è a rischioおよびOpenAI sforna un hacker autonomo — la sicurezza delle PMI italiane è già in ritardoをご覧ください。
知っておくべき制限
多くの内容はOpenAIの発表に基づいています。フィルターの有効性や年齢予測の誤判定率について、第三者による独立したデータはありません。チャットを終了させたりアカウントを停止したりする際の具体的な基準も明らかにされていません。保護者への通知など一部の措置は、まだ開発段階です。2026年下半期を対象とする最初のレポートは、2027年初頭に公開される予定です。
デジタル業務に携わる人にとっての変化
ChatGPTを組み込んだサービスを開発している場合や、その回答を利用している場合は、武器、身体的な安全、暴力事件の報道などについて、拒否や詳細度の低い回答が増えることが予想されます。調査目的の正当な質問であっても、過去の攻撃に関する制限は質問の理由に関係なく適用されるため、注意が必要です。若年層向けのサービスを運営する場合は、システムが推定する年齢によって体験が変わる可能性を考慮してください。従業員や顧客に未成年者がいる企業では、保護者による管理機能や年齢確認の仕組みについて説明しておくとよいでしょう。回答が拒否された際に、その理由を明確に伝えるメッセージを用意しておくことも有効です。
編集部の見解
方向性は理解できますが、今回の発表はまだ結果ではなく約束にとどまっています。過去の攻撃の詳細な再構成を制限するのは妥当な判断ですが、研究と危険な情報の境界がより不透明になるという側面もあります。慎重に考えるべき点は年齢予測です。誤判定によって成人が本人確認を求められる事態が起こりえます。半年ごとのレポートが本当の試金石となるでしょう。そこに具体的なデータが含まれるか、単なる事例紹介にとどまらないかが重要です。モデルへの信頼性という観点では、Anthropic Claude and OpenAIとの比較も違いを見極める助けになります。
よくある質問
ChatGPTの新しいルールはいつから適用されますか？
今後数週間以内です。OpenAIは、措置を近日中に展開し、その後順次改善していくとしています。保護者への通知など一部の機能はまだ開発中です。
大人のユーザーにも情報が制限されますか？
一部はそうなります。過去の大量殺傷事件の詳細な再構成に関する制限は、年齢や質問の理由に関係なく適用されます。ただし、出来事を理解したり警告サインを見分けたりするための質問は引き続き可能です。
ChatGPTに未成年と判定されてしまった場合はどうすればよいですか？
成人であることを確認できます。OpenAIは、プライバシーに配慮したPersonaによる迅速な手続きを案内しており、確認後は未成年向けの保護機能が解除されます。
Community Safety Reportはいつ公開されますか？
2027年初頭です。最初のレポートは2026年下半期を対象とし、その後は6か月ごとに更新される予定です。
子どもが暴力について話した場合、保護者に通知されますか？
ケースによります。2024年7月以降、暴力に関する違反でアカウントが無効化された場合は保護者に通知されます。OpenAIは、繰り返しの会話による停止についても通知を導入する準備を進めています。
2027年のレポート公開までに注目すべき点
OpenAIの約束は、新ルールの導入と最初のレポートの公開を通じて、今後数か月のうちに検証されることになります。注目すべき点は3つあります。
- 2027年のレポートに、匿名の事例だけでなく測定可能なデータが含まれているか確認しましょう。
- チャットの終了やアカウント停止の基準について、OpenAIがどのように明確化していくかを追いましょう。
- 停止時の保護者への通知が実際に届くか、またどのくらいの時間がかかるかを確かめましょう。
