ChatGPTが暴力や武器の回答制限を強化　危険な対話は自動終了へ

米OpenAIは2026年10月30日、対話型AI「ChatGPT」において暴力防止などの安全対策を強化すると発表した。暴力防止の取り組みや有効性を公表する「コミュニティセーフティレポート」の創刊に加え、全ユーザーを対象とした過去の襲撃事件に関する回答制限の強化、18歳未満の未成年を対象とした武器関連コンテンツの提供制限を実施する。

安全対策に関する透明性を高めるため、同社は新たな定期報告書「コミュニティセーフティレポート」を立ち上げる。システムが暴力などの危険事象をどのように検知・調査・対処しているかを説明し、匿名化した事例やポリシー変更、関連データを盛り込む。初号レポートは2026年後半を対象として2027年初頭に公開し、その後は6カ月ごとに更新する予定だ。なお、同社は暴力計画の阻止に向けて法執行機関への情報提供を行っており、2026年第3四半期には200件以上の通報を行ったとしている。

全ユーザー向けのポリシーも厳格化する。過去に発生した無差別襲撃事件やその実行犯に関する質問に対し、外部の公知情報であっても提供する詳細度を引き下げるようモデルに指示する。事件の影響や予兆の認知、防止策についての対話は引き続き可能だが、使用された武器や装備の詳細、入手経路、被害規模の比較といった実行犯の悪名を高めかねない情報の再構成を制限する。

さらに、過去の会話履歴から暴力の兆候を検知した場合、誤用されうる情報の提供をより抑制的に行う仕組みを導入する。会話の中で他者に深刻な危害を加える考えや暴力への執着が見られた場合、ChatGPTが対話をその場で自動的に終了させてパターンを中断する。この理由でチャットが複数回終了したアカウントは、一時的に利用を停止する場合があるという。

18歳未満のユーザーに対する保護機能「ChatGPT for Teens」も拡張する。暴力の意図が認められない場合であっても、悪用されるおそれがある武器やセキュリティシステムに関する実用的な情報の提供を一律に制限する。同社は行動パターンから年齢を推定する年齢予測システムを2025年に導入しており、今回その検知精度を強化した。成人が誤って18歳未満向け環境に分類された場合は、年齢確認パートナーである米Personaを通じて解除できる。また、暴力に関する対話の繰り返しでアカウントが一時停止された際に、連携する保護者へ通知する機能も準備中だ。

これらの新たな安全対策は今後数週間をかけて順次展開される。