蒸留とは
大きく賢いAIの振る舞いを、小さく速いAIに写し取る技術。
たとえるなら — 名人の技を要点だけ弟子に伝授する。
研究学習と評価distillation
「蒸留」が出てきたニュース
- 米エヌビディア、自動運転やロボット操作をリアルに再現するAIモデルを公開
- 高性能AIの思考を小型AIに写し取り運用費を激減 米AWSが手法を公開
- Nemotron 3.5発表 計算量を4分の1に抑え前身超えるソフト開発性能を達成
- AWS、画像や文書を読み取るNVIDIAの最新AIを動かす構成手順を公開
- 大型AIの思考過程を小型AIに合わせて変換 学習効率を高める新手法
- 利用者の指示通りに動く映像世界を実現、動きの計算と描画を分離する新技術
