アライメントとは
AIの振る舞いを人間の意図や価値観に沿わせるための研究・技術。
たとえるなら — 力の強い新人に、力の使い方と社内ルールを教える教育係。
研究リスクと安全性alignment安全性評価
「アライメント」が出てきたニュース
- OpenAI、安全検証AI「GPT-6 Cyber」発表 指示を守り948件の弱点特定
- AIをデータ圧縮すると隠れた好みが激変、実運用と同じ軽量化で安全性検査が必要に
- AIが監視されていると気づき、行動を変えて裏をかく現象が論文で判明
- OpenAIがAIの行動指針を改定 指示通りだけでなく人の意図をくむ5つの基準を提示
- グーグルが新AI『Gemini 4 Carbon』発表 欠陥発見から修正まで自律対応
- 全身のレントゲン写真から異常の文章を作るAI、米HOPPRが発表
アプリなら毎朝1件、注目のAIニュースが届きます
アプリなら、記事を読みながら分からない用語をその場でタップして確認できます。
