MoEとは
複数の「専門家」ネットワークを用意し、質問ごとに必要な専門家だけを動かす効率化構造。
たとえるなら — 病院の総合受付。症状に応じて適切な専門医だけに回す。
研究モデルと技術Mixture of ExpertsMixture-of-Experts専門家混合
「MoE」が出てきたニュース
- 5人開発の小型AI、10倍超の米大手モデルをプログラミング性能で逆転
- 回答の安全制限を解除した検証用AIモデル3種が公開、事前の攻撃テスト向け
- 米アンソロピックの次世代巨大AIか、14兆規模の内部データがネット上に流出
- AIの分業学習で使う新手法、最初の担当分けで一部に仕事が偏る弱点が見つかる
- Nemotron 3.5発表 計算量を4分の1に抑え前身超えるソフト開発性能を達成
- 400超の社内機能をAIに操作させて安全なのか!? 半年分浮かせた驚きの裏側
