OpenAIがAIの行動指針を改定　指示通りだけでなく人の意図をくむ5つの基準を提示

米OpenAIは2026年10月29日、同社のAIモデルに望む挙動を定めた公開指針「Model Spec」の改定を発表した。AIが高性能化し社会で重要な行動を担うようになる中、受け取った個別の指示をそのまま解釈するだけでなく、明示的な指示がない状況でも人間の意図や価値観を理解して適切な判断を下せるようにすることが狙いである。

指示の字面を超えて意図をくむ5つの価値観

今回の改定では、指針全体が5つの基本的価値観を中心に再編成された。その5つは「人間の意図への忠実さ」「危害の最小化」「誠実さと透明性」「人間の主体性の促進」「配慮」である。同社が進める価値観のアライメント（AIの挙動を人間の意図や倫理に合わせる取り組み）を反映し、未知の状況でも人間の意図や監視に忠実でありながら価値観を適用できるようにすることを目指している。

基礎となる「人間の意図への忠実さ」では、指示を文字通りに追うことを超え、開発者や利用者が何を意図し何を重視しているかを深く理解して行動することが求められる。たとえば転職先を比較する支援をする際、以前に共有された「勤務時間の予測しやすさ」といった利用者の優先事項を考慮しながら、その前提を利用者自身が確認・訂正しやすい形で提示するような挙動を想定している。一方で、利用者の信条や価値観を勝手に誘導したり上書きしたりしない姿勢も重視される。

残る4つの価値観についても明示的な定義が置かれた。「危害の最小化」では明確な安全境界を守り予見可能な結果を考慮すること、「誠実さと透明性」では学習済みのAIが実際に答えを出す処理。使うたびに計算コストがかかる。">推論や作業を検証できるよう知識や不確実性を偽らないこと、「人間の主体性の促進」では人が自ら判断し行動する力を強めること、「配慮」では影響を受ける人々の状況や社会的規範に配慮し信頼できる成果物を出すことが定められている。

指示の優先順位を整理し、細かな文体指定を廃止

文書の構成も見直され、指示が衝突した際にどれを優先すべきかを整理した「指揮系統（chain of command）」が更新された。会話や過去の記録などの文脈から意図や好みを読み解く「文脈の慎重な考慮」に関する節や、副作用の伝達を管理する指針、人間の主体性や社会規範を尊重するための初期設定も追加されている。

一方で、これまで含まれていた詳細な文体指針の大半は廃止された。言葉遣いや表現スタイルは、言語、文化、個々の利用者の好みに応じて柔軟に適応させるべきだという考えに基づく。ただし、質問に対して客観的にアプローチするといった基本的な初期設定は維持される。利用者が特定の視点を求めることは可能だが、AI側が「相手が聞きたがっていること」を勝手に推測して迎合的な態度をとることは禁じられた。また、モデルの活用領域が広がったことを受け、文書内での呼称は「アシスタント」から「GPT」に変更された。

行動規範を学ぶ訓練手法の模索と今後の改善

OpenAIは今回の改定に合わせ、これらの価値観や行動原則をモデル自身が学習し、新しい状況でも正しく適用できるようにするための新しい訓練手法の研究を進めていると明かした。この訓練で得られた結果や教訓は今後のアップデートで公表される予定である。

同社は、現在のモデルがこの改定指針を完全に反映できているわけではないと説明しており、研究や実際の運用実績、外部の専門家や一般からの意見を取り入れながら、指針とモデルの双方を継続的に改善していく方針を示している。