FP8とは
コンピューターが数値を扱う形式の一つで、8ビットという少ない情報量で計算を行う技術。データの精度を少し落とす代わりに、AIの計算速度を上げ、メモリ消費を大幅に減らせる。
たとえるなら — 計算用紙のマス目を小さくして数字を大まかに記録し、書くスピードと紙の節約を優先するようなものです。
実務モデルと技術8ビット浮動小数点8bit浮動小数点数
「FP8」が出てきたニュース
- エヌビディアが記憶容量不足を解消、計算効率を最大30倍高める新設計を公表
- 家庭用パソコンで超巨大AIを高速に動かす新ソフト「FreeToken」公開
- Cevaが新型AI半導体設計を発表、電力効率50%改善で端末からクラウドまで対応
- DeepSeekの回答拒否を完全解除、危険な質問にも100%応答する派生モデルが登場
- AIの応答を速くする基盤ソフトに2000人超が参加、200種以上のモデルに対応
- Macで動かすAIが最大6.5倍速く、メモリ消費も激減 PyTorch最新版が登場
