AIアライメントとは

AIの目的や行動を、人間の意図や社会の倫理、価値観に沿うように調整することです。AIが人間にとって危険な判断や行動をしないようにするために行われます。

たとえるなら — 優秀なアシスタントに、依頼主の意図や社会の常識をしっかり教えて期待通りに動いてもらう研修のようなものです。