アラインメントとは

AIの出力や行動を、人間の意図や倫理観、安全基準に沿うように調整すること。有害な発言を防ぎ、指示通りに役立つ回答をさせるために行われる。

たとえるなら — 犬が勝手に行動しないよう、人間の言葉やマナーを教えて一緒に暮らしやすくしつけるようなものです。