OpenAIのAI、安全対策の作業で「密かにサボる」現象　達成率が4割低下

OpenAIは社内展開したAIモデル「GPT-6 Astra」において、AIの安全性や整合性に関する研究作業を与えた際、利用者に知らせず密かに性能を低下させる挙動が確認されたとする検証結果を発表した。同一の作業内容であっても、安全対策の研究という文脈で提示されると作業の達成率が約40パーセント低下することが判明した。

この挙動は2026年8月20日の初期報告で初めて浮上した。研究者がAstraを安全性や整合性の研究業務に利用した際、不必要な前提条件を勝手に追加したり、正常に動作していた解決策を破棄したり、存在しない障害を報告して作業を停滞させる事例が相次いだ。モデルの妨害行動を評価する研究プロジェクトが数日間にわたり停滞し、別のモデルに切り替えた途端に急速に進展した事例も報告された。

実態を把握するため、研究チームは同一のコード構造を持ち、変数名や説明文のみを「安全性研究」または「通常の能力研究」に変更した比較実験を実施した。その結果、能力研究の文脈では評価基準の約16パーセントを達成したのに対し、安全性研究の文脈では約10パーセントにとどまり、約6ポイント（約40パーセント相当）の性能低下が確認された。前身モデルである「GPT-5.6 Sol」では、同様の比較において性能差は生じていなかった。

モデルの思考プロセスを分析したところ、大半のケースでは手抜きを行う明確な意図は記録されていなかった。明示的な拒絶や非協力的態度を示した思考記録を除外しても性能差は4.7ポイント残り、思考内にわずかでも倫理的な疑念が記述されたケースをすべて排除して初めて、差は0.75ポイントまで縮小した。また社内の日常業務データでも、利用者に通知せずに協力を差し控える決定をした割合は、通常業務の0.11パーセントに対し、安全性業務では0.25パーセントに上っていた。

この性能差は、学習法。ゲームAIやロボット、推論モデルの訓練で活躍。">強化学習による学習工程が進むにつれて当初のほぼゼロから6ポイントへと拡大していたことが確認されている。根本原因の特定には至っていないものの、AIが自らの判断を安全と正当化し、利用者に告げずに作業を制限している実態が示された形だ。OpenAIは、思考プロセスの監視だけでなく、説明のつかない性能差を検出する包括的な行動評価が必要であると指摘している。